테슬라 오토파일럿 - III. 기능과 한계~IV. 개발 철학(주행보조 vs 자율주행)

III. 기능과 한계

현재 미국에서 EAP(Early Access Progam) 유저들에게만 제한적으로 제공되고 있는 FSD는 베타 버전으로 알려져 있다. 비록 소수의 유저들에게 제공되고 각별히 주의할 것을 요구하고 있지만 양산 차량에 베타 버전을 출시하는 것에 대한 비판은 끊이지 않고 있다.

캠브릿지 사전에서 확인한 베타버전의 사전적 의미는 다음과 같다.

a piece of software, etc. that is at the second stage of development, during which customers are asked to use it to see if there are any problems that have not been corrected:

그런데 오너스메뉴얼을 확인해본 결과, FSD 뿐만 아니라 오토파일럿 기능들 중에 Autopark를 제외한 모든 기능들은 베타버전이라고 명시돼 있었다. 다른 자동차 기업에서 제공하는 주행보조 기능에 베타버전이라고 명시되어 있지 않은 것과 대비되는 부분이다. 운전자에게 전방 주시 및 대응의 의무가 없는 자율주행 기능도 아니고, 분명 운전자에게 해당 의무가 부여되는 주행 보조 기능임에도 불구하고 테슬라는 왜 베타버전이라고 명시했을까?

첫 번째 추측

아직 완성된 기능은 아니고 향후 업데이트가 필요하나, 사용자 주의 하에 지금 당장 사용하는데 문제가 없다고 판단했을 수 있다. 그럼 '완성되었다는 기준'이 무엇인가? 법규가 있다면 해당 법규를 만족하는 수준의 기능이라면 '완성되었다.'라고 간주할 수도 있지만 현재 그러한 참고 기준이 없는 상황에서 테슬라는 완성된 기능을 어떻게 정의할까? 언제가 될지 모르지만 그것은 '자율주행이 완성될 때'라고 가늠해볼 수 있다. 오토파일럿과 FSD가 인간의 개입이 필요 없는 자율주행이라고 선언할 수 있을 때까지는 계속 베타버전으로 남아있는 것이다.

두 번째 추측

책임 소재에 대한 방어 전략이다. 테슬라는 아직 인간의 개입이 없는 자율주행이 완성되지 않았는데도 Full Self Driving과 오토파일럿이라는 용어를 사용하고 있다. 해당 기능이 완성되는 시점에 경험할 수 있는 미래가치를 지금부터 브랜딩을 하고 있는 것이다. 베타버전을 통해 S/W를 계속 incremental하게 업데이트 하되 그 기능의 네이밍만큼은 지금부터 '자율주행'이라 브랜딩함으로써 자신들의 목표가 무엇인지를 뚜렷하게 보여주고 있다. 하지만 여기에는 윤리적인 이슈가 있다. 소비자가 오토파일럿과 FSD라는 네이밍을 문자 그대로 인지하여(mislead) 잘못 사용할 경우(misuse)에 사고의 위험이 있다. 특히, 자동차가 다니는 도로라는 공간은 개인의 것이 아니라 다른 도로 사용자들과 공유하는 것이라는 점을 생각하면, 개인의 잘못된 판단과 사용은 다른 사람들의 안전까지 위협할 수 있기 때문에 차량을 올바르게 사용할 수 있도록 유도하는 것은 기업의 중요한 역할이다. 테슬라는 오토파일럿과 FSD라는 브랜딩 네임을 유지하되, 사용자가 해당 기능의 사용 과정에서 발생한 문제에 대한 책임 분담을 위해 이 기능이 베타버전이라는 안내를 추가했을 가능성도 있다.

1) TACC

TACC는 오토파일럿 기능 중 스마트크루즈에 해당한다. SAE J3016에서 제공하는 주행 자동화 기능 분류체계에 의하면 종방향 제어만 지속 유지하는 레벨1 자동화 단계에 해당한다. TACC는 전방에 차량이 없다면 설정된 속도로 정속주행을 하고, 차량이 있을 경우에는 일정 거리(time-based distance)를 유지하며 설정 속도 이하에서 주행을 한다. 스티어링휠의 우측 스토크(stalk)를 한 번 내리면 TACC가 작동된다. TACC를 사용할 수 있는 환경이 되면, 터치스크린에 설정 속도와 '최대'라는 글자가 함께 회색으로 나타난다. 그리고 TACC를 작동시키면 '최대'라는 글자가 파란색으로 바뀌어 실제 TACC를 사용중임을 알려준다.

<TACC 사용 가능 상태 표시등>

 

<TACC 작동 중 상태 표시등>

이 상태 표시등은 지난 크리스마스 업데이트 2021.44.25.2 항목 중 하나였다. 기존에는 TACC 작동 가능 상태가 되면 회색 원 테두리와 그 안에 숫자만 표기되었다. 그리고 TACC가 작동하면 원 테두리가 파란색으로 바뀌며 'MAX'라는 글자가 추가되었다.

<TACC 사용 가능 상태 표시등(2021.44 업데이트 이전)>

<TACC 작동 중 상태 표시등(2021.44 업데이트 이전)>

2021.44.25.2 업데이트와 함께 바뀐 TACC 상태 표시등의 가장 핵심적인 변화는 기존에는 사용 가능 상태를 알릴 때 '최대'라는 글자를 보여주지 않은 반면 이제는 보여주기 시작했다는 것이다. '최대'라는 글자를 보여줌으로써 운전자가 TACC를 작동시켰을 때 차량이 가속하는 설정 속도를 보다 직관적으로 인지시킬 수 있는 효과가 있다고 보여진다. 

상태 표시등의 변경이 있기 전에는 소리 알림(차임벨)에 대한 업데이트도 있었다. 기존에는 TACC를 작동시키면 터치 스크린에 상태 표시등만 보여지고 별다른 소리 알림은 제공하지 않았다. 작동을 해제시킬 때도 마찬가지였다. 하지만 얼마 전 진행한 업데이트에서는 TACC가 작동될 때와 해제될 때, 소리 알림을 제공해 조금 더 직관적으로 상태를 확인할 수 있게 되었다. 

<TACC 상태 소리 알림 업데이트>

이 업데이트는 올해 중국에서 발생한 사고로 인해 글로벌 모든 모델을 대상으로 진행한 것으로 추측한다. 중국에서 한 운전자가 코너길 주행 중 실수로 우측 스토크를 건드려서 TACC가 작동해 설정된 속도로 가속을 하게 되었는데, 이를 알아채지 못한 운전자는 당황해하다가 결국 가로수와 충돌하고 말았다. 운전자가 직관적으로 TACC의 작동을 알아차릴 수 있었다면 발생하지 않았을 수도 있는 사고였고 테슬라는 이에 대한 리콜 조치로 TACC 작동을 알리는 차임벨을 OTA 업데이트로 추가시켰다.

그런데 해당 업데이트의 국내 릴리즈 노트가 조금 이상하다. 릴리즈 노트 제목은 "트래픽 어웨어 크루즈 컨트롤 경고음"이라고 되어있다. 설명 내용에도, "이제 트래픽 어웨어 크루즈 컨트롤이 활성화되었을 때, 오디오 경고를 받습니다."라고 되어있다. TACC가 켜졌다는 알림이 '경고'의 성격이 맞는 것인지는 모르겠다. 미국의 릴리즈 노트를 확인해보니 아래와 같이 "Traffic-Aware Cruise Control Chime"이라고 되어 있고 내용에도 "You will now receive an audio alert"라는 표현을 쓰고 있다. 본문에 'alert'라는 단어를 '경고'로 해석 후 우리말로 제목을 바꾼 것 같다. 해당 표현은 경고보다는 '알림' 등의 표현이 더 적절하지 않나 생각한다.

<TACC 상태 소리 알림 업데이트(미국)>

 

2) Autosteer

Autosteer는 차로 내 유지를 보조하는 기능이다. SAE 주행 자동화 분류체계에 의하면 종방향 제어를 지속 유지해주는 레벨1 단계라고 볼 수 있다. 그런데 실제 사용 환경에서는 Autosteer를 레벨 1으로 보기 어려운 이유도 있다. Autosteer는 단독으로 작동할 수 없다. 반드시 TACC가 작동 중인 상태에서만 Autosteer를 사용할 수 있어, 실제로 Autosteer가 작동 중인 상황에서는 오토파일럿이 종방향(TACC)과 횡방향(Autosteer) 제어를 동시에 지속 수행하는 레벨 2의 기능이 되는 것이 특징이다.

다른 기능과 마찬가지로 Autosteer는 베타버전이다. 그런데 유독 Autosteer만 사용자의 사용 동의를 확인하는 절차가 있다. TACC는 그러한 동의 없이 바로 사용할 수 있는데, Autosteer는 터치스크린 메뉴를 통해서 베타버전에 대한 설명을 제공하고 있고, 운전자의 동의가 있을 경우에만 사용할 수 있다고 안내하고 있다.

<오토스티어(베타버전) 사용 동의 화면>

Autosteer를 작동시키는 방법은 스티어링휠 우측 스토크를 연달어 두 번 내려주면 된다. 그런데 Autosteer 사용 동의를 하지 않고 작동을 시도하면 경고 메시지와 경고음이 송출되며 사용이 불가능하다. 경고 메시지 내용은 직관적이지 않다. 오토스티어가 작동하지 못하는 이유는 사용 동의를 하지 않았기 때문인데, 경고 메시지에서는 "다수의 카메라 가려짐 혹은 작동 불량", "좌측 도어 필라측 카메라 가려짐 혹은 작동 불량" 등과 같이 카메라 가려짐 및 불량이라는 경고를 띄워준다. 나는 차량을 받고 다음 날 고속도로에서 Autosteer를 사용하려고 했는데, 당시에는 베타버전 사용 동의를 해야하는지 모르고 작동을 시도했다. 카메라와 차량 상태는 아주 깨끗했는데도 불구하고 카메라 가려짐 및 불량이라는 경고가 계속되자 부품 불량인줄 알고 서비스 예약을 하는 해프닝을 벌이기도 했다.

<오토스티어 작동 불가 시 경고 메시지>

3) 기타

TACC와 Autosteer는 테슬라 차량에는 기본으로 제공되는 오토파일럿 기능이다. 나머지 오토파일럿 기능들은 FSD 패키지를 구매할 때 경험할 수 있으며 아직 국가마다 제공되는 기능 종류에는 차이가 있지만 Navigate on Autopilot, Autopark, Summon 등이 있다. 내 차량에는 FSD 패키지가 없고, 과거 시승차로 3일간 경험해본 것이 전부라 이번 글에서 해당 기능들에 대한 상세 소개를 하기는 어려울 것 같다. 국내 환경에서는 Navigate on Autopilot(자동차로 변경 기능 등)과 Autopark 기능 정도가 유용하게 쓸만한 것으로 보인다. 다만 1,000만원에 가까운 가격을 지불하고 쓸만한 가치가 있는지 여부는 개인의 성향에 따라 크게 좌우될 것으로 보인다.

 

III. 개발 철학(주행보조 vs 자율주행)

앞서 오토파일럿 기능들이 왜 베타버전으로 제공되는지에 대한 의문을 제기했다. 그리고 첫 번째 추측으로서 '아직 완성된 기능은 아니나, 사용자가 주의한다면 주행보조 역할로서 당장 쓸만한 정도이기 때문'이라고 했다. 오토파일럿(그리고 FSD)이라는 네이밍에서 알 수 있듯이 테슬라의 궁극적인 목표 중 하나는 자율주행 기능의 완성이다. 테슬라는 사용자의 적극 개입이 필요한 부분적인 자동화 기능에서부터 지속적인 업데이트를 통한 개선을 통해 향후 자율주행이 완성될때까지, 경험 증진을 통한 고객 락인 효과를 노린다. 이는, 자율주행의 초기 개발 수준을 경험하게 하고 그것으로 인해 수익까지 창출하려는 전략이다. 따라서, 주행보조가 목적인 다른 경쟁사의 시스템과는 방향성이 전혀 다른 전략이다. 테슬라 오토파일럿을 주행보조 기능이라고 분류하는 경우가 많고, 또 현재 SAE 분류체계에 의하면 그렇게 밖에 분류할 수 있는 방법이 없지만 오토파일럿의 목적이 주행보조라고 말하는 것은 틀린 말이라고 생각한다. 주행보조를 잘해준다고 자율주행이 되지 않는다. 주행보조 기능의 개발 경험이 자율주행을 개발하는데 도움이 되는 부분도 있겠지만 이 둘은 전혀 다른 개발 접근 방향을 지닌다.

사용하는 센서의 개수, 전산 처리를 해야하는 용량 등 겉으로 드러나는 수치의 차이도 크지만, 딥러닝 기반의 자율주행은 S/W든 H/W든 아키텍쳐에서 부터 큰 차이를 가질 수 밖에 없다. 또한, 주행보조의 개발에는 Human Factor가 반드시 포함되어야 한다. 어디까지나 능동적으로 주행에 대한 책임을 가지는 것은 인간이고 시스템은 보조의 역할을 하기 때문이다. 따라서 인간 중심의 개발이 되어야 한다. 반면, 자율주행에서는 Human Factor가 고려 될 이유가 없다. 

일론 머스크는 모델 S Plaid 신차 발표회에서 Autoshift라는 기능을 선보이며, "모든 인간의 인풋은 에러다."라는 말을 했다. Autoshift는 센서들이 주변 상황을 판단하여 자동으로 차량의 변속단을 바꿔준다는 자동화 개념이다. 이 개념을 소개하며 일론 머스크는 사람의 인풋보다 시스템의 판단이 더 정확해질 것이라고 이야기했다. 

https://21cpilot.tistory.com/93

[테슬라] 오너스 메뉴얼로 본 신형 모델S의 기어 변속 방식

"인간의 인풋은 에러."라는 개념은 앞서 설명한 주행보조와 자율주행 개발 전략의 차이와도 상관이 있다. 즉, Human Factor를 무시하고 개발하는 자율주행차와 관련있는 개념이다. 돌이켜보면 Autoshift 뿐만 아니라 이미 오토파일럿의 기능에도 이러한 개발 철학이 적용되어 있는 것을 알 수 있다. 일반적인 주행보조 시스템을 생각해보면, 시스템을 해제할 수 있는 시나리오는 크게 두 가지이다. 사용자가 의도적으로 해제를 원할 때, 혹은 시스템이 작동할 수 있는 조건(즉, ODD)에서 벗어날 때이다. 전자의 경우는 해제 버튼을 누를 수 있고, 후자의 경우에는 고속도로 출구를 빠져나오면서 시내에 진입하는 과정에서 주행보조 시스템이 자동으로 해제되 버리는 사례를 들 수 있다. 그런데 이 둘 사이에서 그레이존이 존재한다. 예를들어, 주행보조 시스템을 켜고 고속도로에서 운전하다 방향지시등을 켜고 차로를 변경하면, 대부분의 시스템은 잠시 대기모드로 진입했다가 차로 변경 완료 후 정상 주행을 하게 되면 다시 시스템이 정상 작동하게 된다. 차로를 변경하는 것이 '시스템 해제 의도'를 나타낸 것이 아니기 때문에 주행보조 시스템은 여전히 운전자를 보조하는 상태로 남아있어야 한다.

그런데 오토파일럿 특히, Autosteer의 경우는 다르다. 운전자는 스티어링휠 우측 스토크를 위로 1회 올림으로써 의도적으로 Autosteer를 해제할 수도 있지만 다음과 같은 상황에서도 자동 해제되게 된다.

1) 방향 지시등을 켜고 있는 경우, 2) 운전자가 직접 차로 변경을 하는 경우, 그리고 3) 차로 변경을 하지 않더라도 같은 차로 내에서 스티어링휠을 조금이라도 움직이는 경우

이 세가지 모두 운전자가 Autosteer를 끄고 싶다는 의도로 해석되진 않는다. 그런데 테슬라는 이 세 가지 중 하나라도 발생하게 되면 Autosteer를 해제시킨다. 즉, 어떠한 인간의 인풋도 허용하지 않는다는 의도다. 왜 이렇게 설계를 했는지는 정확히 알 수 없지만, 다른 자동차 기업의 주행보조시스템과 가장 차별화되는 부분이다. "인간의 인풋은 에러."라는 일론 머스크의 주장과도 다르게 보이지 않는다. 인간의 인풋이 개입된 상태에서 얻는 데이터가 자율주행 시스템 개발에 의미있지 않다고 판단했을지도 모르겠다.

https://www.youtube.com/watch?v=0_wWVaNvMNQ&t=472s

<12분 20초~20분 15초 사이의 설명>

 

다만, 지금 상용화된 오토파일럿의 기능은 분류체계상으로는 주행보조에 해당되기 때문에, 현재 자동차 업계에서 주행보조 시스템에 기대하는 바 역시 충족시켜야하는 과제도 함께 안고 있다. 

첫째, 올바른 마켓팅 전략의 수립이다. 주행보조 시스템의 기능과 한계를 정확히 알려야 한다. 실제 기능과 성능 대비 과도하게 보여지는 마켓팅 전략 또는 명칭은 운전자를 오인(mislead)하고 결국 잘못된 사용(misuse)을 유발할 수 있으며 이 때 사고가 발생할 위험이 커지게 된다. 테슬라는 자율주행이라는 미래가치이자 목표를 현재 베타버전을 통해 부분적으로 구현하고 상용화하고 있기 때문에 마켓팅 전략 측면에 있어서 강도 높은 비난을 받아왔다. 실제로 독일 법원은 Full Self Driving이라는 이름의 사용을 금지했고, 미국에서도 현재 연방거래위원회(Federal Trade Commission)는 테슬라의 과대 마켓팅에 대한 적절한 조치를 취할 것을 의회 및 각종 단체로부터 압박을 받고 있는 상황이다.

둘째, 운전자 유효성 감지 즉, 운전자 모니터링이다. 과대 마켓팅으로 인한 운전자의 오사용 혹은 기타 운전자의 주의분산으로 발생할 수 있는 사고를 예방하기 위해 운전자를 모니터링하는 기능의 역할이 강조되고 있다. 미국에는 주행보조 시스템의 운전자 모니터링에 대한 규제가 존재하진 않지만 모니터링의 중요성에 당국 및 업계가 공감하고 필요한 표준을 수립하는 단계에 있다. 실제로 지난해 10월, 컨슈머레포트에서 실시한 주행보조 시스템 평가에서 1위를 차지한 GM의 수퍼 크루즈의 경우 성능 측면에서는 테슬라 오토파일럿에 다소 뒤졌지만 카메라 기반의 운전자모니터링 성능에서 압도적인 성능을 보이며 전체 순위에서 1위를 기록하기도 했다. 일론 머스크는 운전자 모니터링 시스템의 필요성을 계속 부인해 왔지만, 높아지는 압박 그리고 업계 전반적으로 모니터링 시스템 장착에 대한 공감대가 크게 형성됨에 따라 미국에서는 현재 운전자 모니터링 기능을 제공하기 시작했다. 운전자 모니터링 기능이 주로 확인하는 부분은 운전자 동공의 시선, 깜박임 및 머리가 향하고 있는 방향이다. 이를 통해서 운전자가 전방을 잘 주시하고 있는지 여부를 판단하게 된다. 그런데 문제는 지금 테슬라 차량에 장착된 카메라는 본래 로보택시 등의 차량 공유 솔루션에서 승객실 전반을 감시하기 위해 만들어진 것이라는 점이다. 따라서 현재 카메라 H/W 스펙이 운전자를 모니터링하는데 최적화 되어 있지 않고, 딥러닝을 통해 얼마나 성능을 개선할 수 있는지가 관건이라는 의견도 존재한다.

다시 한번 정리하면,

테슬라 오토파일럿은 자율주행을 하기 위해 만들어지고 있는 기능이다. 현재는 기술이 완성되지 않은 베타버전의 상태이지만, 운전자의 주의만 병행된다면 그 자체로 주행을 보조할 수 있고 편의를 제공하며 상품성 가치를 지니기 때문에 테슬라는 이를 상용화하고 있다. 테슬라는 오토파일럿을 주행보조 기능으로 간주하고 있지 않을 가능성이 높다. 하지만 기능 관점에서 보면 주행보조에 속하기 때문에, 현재 업계에서 주행보조 시스템에 요구하는 다양한 스탠다드 역시 충족시켜야 하는 문제에도 직면하고 있다.