[칼럼] 테슬라 오토파일럿과 안전 이슈, 어떻게 바라봐야 하나?

테슬라 오토파일럿 및 FSD의 안전성 이슈가 끊이질 않고 있다. 이 글을 통해 이와 관련된 이슈에 대해 잘 알지 못하는 초보자에서 개발자, 언론 등 다양한 업계 관계자들에 이르기까지 많은 사람들이 문제의 본질과 이력을 파악하여 균형잡힌 시선으로 논의할 수 있는데 도움을 제공하고자 한다.

"테슬라 오토파일럿은 다른 OEM이 제공하는 주행보조 기능보다 월등히 뛰어나다. 따라서 안전 문제는 걱정 없다."

"테슬라 오토파일럿은 베타 버전으로 안전 성능이 충분히 검증되지 않아 지속적으로 사고 및 사망자를 발생시키고 있다."

극과 극인 이 주장은 전체의 일부 특성에만 편향된 것으로 핵심적인 논점을 파악하는데 도움이 되지 않는다. 마치, "자장면은 검은색이다."라고 주장하는 사람과 "자장면은 쫄깃하다."라고 주장하는 사람간의 다툼과도 같다. 최근들어 계속 심화되고 있는 테슬라 오토파일럿의 안전 이슈는 단지 기술의 완성도뿐만 아니라 다양한 요소들을 고려해 복합적으로 이해할 필요가 있다.

먼저, 우리가 이 논쟁을 다루며 반드시 이해하고 주목해야할 이슈들을 뽑자면 다음과 같은 여섯 가지가 있을 수 있다.

1. 높은 성능의 주행 보조시스템으로서의 오토파일럿
2. 자율주행 개발론의 차이(테슬라 vs 기타 OEM)
3. 과대 마켓팅의 타겟이 된 오토파일럿과 FSD
4. 명확한 사용 가이드라인이 없는 FSD
5. 트럼프 정권 내 NHTSA 역할의 부재
6. 테슬라의 대외 홍보부서 폐지


1. 높은 성능의 주행 보조시스템으로서의 오토파일럿
오토파일럿의 성능이 다른 OEM들의 주행보조 시스템보다 앞서 있다는 주장을 뒷받침할 수 있는 근거는 무엇일까. 비록, 마치 차량의 배출가스 평가를 하듯이 측정을 통해 절대적인 수치로 객관화할 수 있는 평가 프로토콜은 없지만 공신력있는 다양한 기관에서의 평가 결과는 오토파일럿 성능의 상대적인 우위를 가늠해볼 수 있는 데이터를 제공해 주고 있다.

'유로 NCAP/탯참 리서치 공동 평가'

<평가 영역 및 최종 결과>

지난해 탯참 리서치라는 연구기관과 유로 NCAP이 현재 판매 중인 10개의 주행보조 시스템을 평가하여 순위를 매겼다. 테슬라 오토파일럿도 포함이 되었는데 당시 언론에서는 벤츠 GLE 차종의 주행보조 시스템이 1위를 했다는 소식보다 테슬라 모델 3의 오토파일럿이 6위에 그쳤다는 소식을 비중있게 전했다. 업계 최고로 알려져 있던 오토파일럿이 막상 평가를 해보니 순위가 생각보다 낮더라는 이야기였다. 하지만 이 순위표에는 특이한 점이 있다. 평가 영역은 크게 세 가지(차량 보조, 운전자 개입 그리고 백업 안전성능)로 나뉘는데 테슬라는 차량 보조와 백업 안전성능은 전체 1위를 차지했지만 운전자 개입 영역에서 당황스러울 정도로 낮은 점수를 받아 전체 순위에서 6위로 밀리게 되었다. 특히, 백업 안전성능 영역에서 95점으로 2위 BMW를 5점차로 제친 최고점을 받았다는 것을 감안하면 36점이라는 운전자 개입 점수는 너무나 뼈아픈 수치였다.

차량 보조 영역은 주행보조 시스템이 운전자를 얼마나 잘 도와줄 수 있는지를 평가했다. 기본적으로 속도 제어 및 조향 제어를 평가했다. 즉, 오토파일럿의 기본 기능인 종/횡방향 제어에 있어서는 10개 제조사의 주행보조 시스템 중 최고 점수를 획득했다는 것이다. 그리고 압도적인 점수차이를 보이며 1위를 기록한 백업 안전성능 영역은 긴급 상황 즉, 시스템 고장이나 운전자의 즉시 개입을 하지 않고 있는 상황에서 차량이 탑승자를 어떻게 보호하는지를 평가했다. 주로 경고 장치가 얼마나 효과적으로 작동하는지 등에 대한 것이다.

오토파일럿이 최하점을 받은 운전자 개입 영역은 총 네 가지 하위 영역 점수(소비자 정보, 시스템 상태, 운전자 모니터링, 협동 주행)의 합으로 구성된다. 여기서 대부분의 제조사들은 70~85점 사이를 기록한 반면 테슬라는 36점을 기록한 것인데 그 이유는 다음과 같이 요약된다.

- 소비자 정보 (25점 중 10점) : 오토파일럿, FSD라는 용어가 적절하지 못하며 이들이 모든 홍보 자료, 오너스 메뉴얼에 사용되고 있고 이는 과대 마켓팅에 해당(주 : '파일럿'이라는 단어는 주행보조 기능 명칭에 권고되지 않으며 주로 3단계 이상 시스템과 같이 시스템이 인간의 개입 없이 스스로 작동할 수 있는 수준에 적절한 것으로 평가)

- 시스템 상태 알림 (25점 중 16.5점) : 시스템의 상태 변화는 적절히 알려주나 시스템이 지속적으로 사용되고 있을 때 이를 알려주는 방법이 부족 (특히, HUD를 통해 상태 정보를 알려주는 시스템의 경우 높은 점수를 획득)

- 운전자 모니터링 (25점 중 10점) : 효과적인 운전자 모니터링 수단을 제공하지 않음 (이 평가 영역에서는 10개 제조사 모두가 동일하게 10점에 그침)

- 협동 주행 (25점 중 0점) : 다른 제조사 대부분 20~25점의 고득점을 획득. 오토파일럿이 0점을 받은 협동 주행은 주행보조 시스템이 운전자와 얼마나 잘 협동하며 '보조'를 하는지에 대한 평가를 진행했다. 탯참 리서치는, "협동 주행이란 운전자의 의도와 조화를 이뤄 조향 지원을 하는 것이다. 운전자 의지에 반하는 것이 아니고, 단순히 제어권을 넘기는 것도 아니며, 시스템과 운전자 사이에서 Co-Operation의 느낌을 줄 수 있어야 한다."고 밝혔다.

https://21cpilot.tistory.com/m/91

[시승기] 테슬라 모델 Y 퍼포먼스 시승기

지난 모델 Y 시승기에서도 이 점을 소개한바 있다. 오토파일럿을 사용 중에 내가 차로 변경을 하기 위해 스티어링휠을 움직이게 되면 오토파일럿은 강한 반동을 통해 저항력을 준다. 오토스티어가 차로유지 기능이기 때문에 운전자의 인풋을 에러라고 정의하고 오토스티어 본연의 목적을 수행하려는 의도로 보인다.

유로 NCAP과 탯참 리서치의 평가 결과를 종합하면, "테슬라 오토파일럿의 성능은 경쟁사 대비 매우 뛰어나나, 운전자와 협동 주행할 수 있는 기능이 부족하고, 과대 마켓팅이라고 볼 수 있는 잘못된 용어가 사용되고 있다." 라고 할 수 있다.


'컨슈머 레포트 평가'

지난해 美 소비재 평가 기관인 컨슈머 레포트는 총 17개 제조사의 주행보조 시스템의 평가 결과를 공개했다. 테슬라의 오토파일럿은 총점 57점으로 전체 2위를 기록하며 우수한 성적을 보였다. 1위는 캐딜락의 수퍼크루즈로 69점을 기록해 테슬라와는 무려 12점 차이를 나타냈다. 수퍼크루즈와 오토파일럿이 12점 차이나 나게한 이유는 어디에 있을까.

컨슈머 레포트는 다음과 같이 총 다섯 가지 항목에 대해 평가를 했다.

- 시스템의 기능과 성능
- 운전자 개입 유지
- 쉬운 사용
- 사용하기 안전한 상태 알림(Clear when safe to use)
- 부주의한 운전자 대응(Unreponsive driver)

이 중에서 시스템의 주행 성능만 평가한 '시스템의 기능과 성능'과 '쉬운 사용' 영역에서는 오토파일럿이 수퍼크루즈보다 높은 점수를 얻었다. 하지만, '운전자 개입 유지', 사용하기 안전한 상태 알림' 그리고 '부주의한 운전자 대응' 영역에서는 오토파일럿이 하위권을 기록하며 수퍼크루즈와의 점수차가 벌어지게 되었다.

<시스템의 기능과 성능 - 테슬라 오토파일럿 1위(9/10)>

<사용하기 안전한 상태 알림 - 테슬라 오토파일럿 최하위(2/10)>

<운전자 개입 유지 - 테슬라 오토파일럿 공동 16위(3/10)>

테슬라 오토파일럿에 대해 유로 NCAP/탯참 리서치의 평가 결과와 컨슈머 레포트의 평가 결과를 보면 한 가지 핵심적인 공통점이 있다. 성능 자체만을 평가하는 영역에서는 높은 점수를 부여한 반면, 인간의 개입과 모니터링에 대한 영역에는 매우 낮은 점수를 부여했다는 것이다.

 

2. 자율주행 개발론의 차이(테슬라 vs 기타 OEM)

오토파일럿 자체 성능이 뛰어나다는 것은 앞서 소개한바와 같은 공인 평가기관의 데이터로 검증이 되었다. 그런데 완전자율주행이 되지 않는 이상 시동을 켜고 출발해서 목적지에 도착할 때까지 전체 여정에서 안전 성능을 확보하기 위해서는 운전자와의 협동주행 내지는 모니터링 기능이 중요한 것도 자명한 사실이다. 그런데 왜 테슬라는 이 영역에서 낮은 점수를 받을 수 밖에 없었을까. 여기에는 자율주행 개발론에 대한 생각 차이가 영향을 주었다고도 볼 수 있다.

현존하는 대부분의 차량 OEM들은 아무 주행 보조 기능도 없던 비자동화 차량을 오랜시간 개발하고 출시해왔다. 그리고 FCA(전방추돌방지) 및 LKAS(차로이탈방지)와 같은 능동 안전 기능들을 개발하여 안전한 주행을 돕기 시작했고, 여기에 BSD(후측방경고시스템) 같은 안전 관련 각종 편의기능을 추가하며 사람의 주행을 보조하기 시작했다. 그리고 지금 수준의 씸리스한 주행보조 기능이 제공되기 시작했다. 공식적으로 선언하진 않았지만 아마 많은 OEM들은 이렇게 단계적인 안전 기능의 강화를 통해 궁극적으로는 자율주행으로 나아가는 개발 철학을 갖고 있을 것이다. 주행보조와 자율주행 개발의 직접적인 상관관계가 없더라도, 고객의 기술 수용성은 주행보조 기능에 대한 신뢰에서 자율주행에 대한 신뢰로 확장될 것이 자명하기 때문에 이 둘의 순차적인 관계에 대해 신경을 쓰지 않을 수 없을 것이다.

그런데 테슬라는 다르다. 테슬라는 처음부터 자율주행 시스템을 만들고 싶었다. 주행보조 기능 제공을 통해 운전자의 안전과 편의를 도모하고 궁극적으로 자율주행 시스템을 개발하겠다는 전략이 아니라, 처음부터 모든것은 자율주행에만 초점이 맞춰져 있었다. 따라서, 테슬라는 오토파일럿이 얼마나 안전한 주행(여기서 주행이란 단지 시스템의 작동뿐 아니라, 인간과의 조화까지 합쳐진 즉, 시동을 켜고 목적지까지 도착하는 전체 travel 관점을 말함)을 하는지보다 더 중요한 것은 오토파일럿을 통해 자율주행을 완성할 수 있는 데이터를 얼마나 효과적으로 얻느냐에 대한 것이다. 테슬라가 유로 NCAP/탯참 리서치 평가에서 협동주행에 대해 높은 점수를 얻지 못한 것은, 앞서 탯참 리서치가 언급한바와 운전자와의 Co-Operation을 하지 않게 오토파일럿이 설계 되었기 때문인데 이 역시 테슬라의 전략과도 무관하지 않다.

테슬라는 기본적으로 인간의 인풋은 에러라고 간주한다고 볼 수 있다. 오토파일럿이나 FSD에 대해서 그러한 언급을 하지는 않았지만, 일론 머스크는 신형 모델 S 출시 현장에서 자동으로 변속을 해주는 '오토시프트(Autoshift)'를 소개하며 '기본적으로 인간의 인풋은 모두 에러'라고 생각한다고 말했다. 이는 자율주행에 대한 테슬라의 철학을 나타낸다. 그리고 이러한 생각은 현재 오토파일럿 시스템에도 어느정도 반영되어 있다.

예를들어, 현대자동차의 고속도로주행보조(HDA) 기능을 사용 중에 운전자가 스스로 차로 변경을 하게 되면 주행보조 기능은 잠시 대기상태가 되었다가 사용 가능한 상태가 되면 운전자가 다시 켜지 않아도 스스로 재활성화가 되도록 되어있다. 하지만 오토파일럿의 경우 운전자가 동일하게 차로 변경을 하면 오토파일럿이 꺼지도록 설계되어 있어 다시 사용하려면 운전자가 오토파일럿을 재작동 시켜야하는 번거로움이 있다. 추측하건데 이러한 차이 역시 '인간의 인풋은 에러'라는 철학이 반영된 것으로 보인다. 즉, 인간이 제어권을 가져갔다는 것은 자율주행을 할 수 없는 상황이기 때문에 여기서 얻어지는 데이터들은 오토파일럿 작동 중에 얻어지는 데이터와 구분될 필요성이 있다고 판단했을 것이다. 처음에는 위험한 상황이니 인간이 제어하도록 놔두기 위함이 아닐까 생각했지만, 이는 '인간의 인풋은 에러'라는 전제에 반대되는 것이라 다른 이유가 있을 것이라고 생각했다. 결국, 조향각으로 제어를 하면서 주행을 하다가 자신들이 설정한 조향각 제어 수치를 넘는 인풋이 들어오면 시스템을 꺼버리는 컨셉으로 적용했을 가능성이 높다. 공학적인 관점에서, 오토파일럿을 사용하든 사용하지 않든 주행중에 수집되는 모든 데이터가 똑같이 의미있는 역할을 하는지 혹은 사용할 때의 데이터와 사용하지 않을 때 얻는 데이터를 구분해주는 것이 개발 단계에서 의미를 주는지는 잘 모르겠으나 만약에 후자라면 인간의 인풋이 있을 때 오토파일럿을 꺼주는 것은 개발 관점에서만 생각한다면 맞는 설계라고 볼 수 있다.

또 하나의 예시는 운전자 모니터링인데 일론 머스크는 예전부터 이를두고 '쓸데없는 것(moot)'이라고 얘기해왔다. 오토파일럿 사용 중에는 인간의 인풋보다 시스템의 판단이 더 옳다는 전제가 깔린 것이다. 모델 3를 비롯한 일부 모델에는 내장 카메라가 장착돼 생산되어 왔지만, 이 용도는 운전자 모니터링용이 아니라 향후 로보택시와 같이 자율주행 솔루션이 완성되었을 때 승객실 모니터링 용도로 사용될 것이라는 주장이 설득력을 가져왔다. 하지만 최근에는 내장 카메라를 통해 운전자 모니터링을 하는 기능을 S/W 업데이트로 추가했는데, 이는 실제로 오토파일럿 작동 중에 운전자의 부주의로 인한 사고가 증가하며 사회적 이슈를 낳고 있고, 다른 제조사들 역시 운전자 모니터링 기능의 자발적 추가를 추진하는 등(현재 이 시스템의 제공은 법규 의무 사항이 아님) 사회적 관심이 높아지고 있는 기능이기에 테슬라 역시 압박을 받지 않을 수 없었을 것이다.

이렇듯 다른 OEM들과 테슬라는 주행보조 기능을 바라보는 관점이 매우 다르다. 하지만 자율주행과 달리 주행보조 기능은 현재 도로 위에서 널리 사용되고 있고 앞으로도 사용이 확대될 것으로 예상되기 때문에 자율주행 개발 단계의 일부로서가 아니라 주행보조 그 자체를 목적과 대상으로 높고 사용자 평가를 하는 것이 맞다. 따라서 유로 NCAP/탯참 리서치와 컨슈머 레포트의 평가 프로토콜 자체는 매우 타당하다고 할 수 있다. 앞으로도 테슬라 오토파일럿은 "성능 자체는 우수하나 운전자와의 협동 주행이 어려워 안전한 주행 이슈가 남아 있음"이라고 평가를 받을 가능성이 높아 보인다.

 

3. 과대 마켓팅의 타겟이 된 오토파일럿과 FSD

오토파일럿과 FSD의 기능 및 성능과 별개로 문제가 되고 있는 부분이 바로 과대 마켓팅이다. 오토파일럿은 본래 항공업계에서 '자동항법장치'로 알려지며 파일럿이 개입하지 않아도 스스로 비행기가 운항할 수 있게 해주는 시스템으로 오랜시간 알려져 있었다*. 따라서 오토파일럿이라는 용어가 자동차에 쓰이게 될 때 많은 사람들이 자동차가 자율주행을 하는 것으로 오해하기 쉽다. 특히, '파일럿'이라는 용어가 문제가 되었는데 이는 '시스템이 스스로 해주는 것'의 늬앙스가 더 커서 영미권 사람들의 입장에서는 높은 수준의 자율주행으로 받아들여질 수 있어 주행보조 시스템의 명칭으로는 적절치 않다는 것이다.

* 실제로는 오토파일럿 작동 중에도 파일럿은 다양한 모니터링을 통해 항공기의 안전을 위해 개입함 그리고 철저하게 교육 받은 자격있는 사용자 즉, 파일럿들만 사용하기 때문에 테슬라 오토파일럿과 관련 안전 이슈가 제기되지 않음

앞서 소개한 유로 NCAP/탯참 리서치의 평가 내용 중 테슬라 오토파일럿이 명칭 때문에 소비자 정보 영역에서 25점 중 10점에 그쳤다고 했는데, 마찬가지로 포드의 Co-Pilot과 닛산의 Pro-Pilot은 파일럿이라는 용어를 부적절하게 사용했다는 이유로 낮은 점수를 받을 수 밖에 없었다. 참고로 '파일럿'은 자율주행 레벨 3 이상의 시스템에 사용에 권장되는 추세이며 곧 출시 예정인 벤츠의 레벨 3 자율주행 시스템의 이름 역시 Drive Pilot으로 알려져 있다. 개발이 중단되었지만 아우디 역시 지난 '18년경 Traffic Jam Pilot이라는 이름의 레벨 3 시스템 개발을 예고했고 비록 리스 형태의 소규모 출시였지만 세계 최초로 레벨 3 상용화에 성공한 혼다의 자율주행 시스템 명칭 역시 Traffic Jam Pilot이다.

컨슈머레포트는 '자동차 제조사가 주행보조 이름에 과대 마켓팅 용어를 사용한다면, 우리는 정말 그 시스템이 그 용어에 걸맞는 성능을 갖췄는지를 평가할 것'이라고도 강조하며 올바른 용어 사용을 권고했다. 주행보조 명칭에서 과대 마켓팅이 문제가 되는 이유는 실제 소비자 사용 중 안전 성능에 영향을 줄 수 있기 때문이다. 잘못된 용어 사용은 운전자의 지나친 신뢰(over trust)로 이어지고 이는 곧 오사용(misuse)으로 확대될 수 있다. 그렇게 될 경우 안전 사고가 발생하게 되고 기업 입장에서도 이로 인한 미디어의 부정적인 여론이 형성될 경우 기업 이미지 혹은 경영 환경까지 영향을 줄 수 있기 때문에 매우 민감하게 생각하는 영역인데, 테슬라는 유독 이 문제를 과소 평가하는 것으로 보이기도 한다. 이 역시 바로 앞서 소개한 자율주행 개발론 차이에서 영향을 받는다고 볼 수 있다. 테슬라의 현재 주행보조 기능은 자율주행으로 가기 위한 선행 단계에 그친다. 모든 것은 자율주행에 초점이 맞춰져 있고 따라서 오토파일럿과 FSD 같은 용어 역시 그러한 자율주행 시대의 모습을 선반영한 것으로 봐야한다. 일론 머스크 스스로도 실제로 완전자율주행이 아직 안되는데 왜 FSD라는 명칭을 붙였냐는 질문에 대해 이렇게 답변을 했다. "H/W적으로 준비가 되어 있다는 것이다. S/W를 개발해서 업데이트만 하면 된다."

테슬라는 정말 현재 제기되고 있는 안전 이슈에 대해 관심이 없을지도 모른다. 현재의 행보를 제지할 명문화된 규제도 없으니 사실 거스를 것도 많지 않다. 필드 안전 문제가 되고 그로인해 소송을 해야 한다면, 문제를 방지할 수 있는 조치를 취하며 개발 속도에 지장을 받는 것보다 차라리 그 소송에 전부 대응을 해버리고 개발 속도를 늦추지 않는 것이 (윤리적 비난은 있을지언정) 훨씬 이득일 것이라는 계산이 깔려 있을 수도 있다. 아마 이 전략은 다른 OEM에서는 용인되기 어려울 것이고 테슬라가 정말 이 전략을 취했다면 아직은 판매량이 많지 않고 또 기술이 혁신을 지지하는 신뢰층이 두텁기 때문일 것으로 추측한다.

https://en.wikipedia.org/wiki/List_of_lawsuits_involving_Tesla,_Inc.

List of lawsuits involving Tesla, Inc. - Wikipedia

4. 명확한 사용 가이드라인이 없는 FSD

사실 오토파일럿보다 앞으로 더 안전 이슈가 불거질 것은 FSD다. 오토파일럿의 사용은 꽤 직관적이다. 시스템의 성능도 차로 변경/속도 제어로 명확히 구분되어 있고 주행 환경 역시 고속도로와 같이 길게 뻗어 있고 차선이 명확히 그려진 공간이다. 그렇기 때문에 운전자가 조금만 신경쓰게 된다면 시스템을 사용할 환경과 시스템의 성능 그리고 한계를 이해할 수 있다.

하지만 FSD는 고속도로에서의 주행보조보다 훨씬 복잡한 환경에서 훨씬 어려운 주행 과제를 수행하게 된다. 우회전과 좌회적뿐만 아니라 공사 현장 대응, 비상 상황 대응까지 여러 과제를 수행하게 되며 실제로 우리가 고속도로와 시내 주행 중 어느 곳에서 더 복잡한 환경을 접하는지를 생각해 본다면 FSD의 기능을 운전자가 알기 쉽게 정의하는 것은 너무나 어렵고 실제로 불가능한 영역이다. 테슬라가 자율주행 개발에 사용하는 컴퓨터 비전 기반의 인공지능 역시 수학 공식처럼 인풋을 넣어 예측 가능한 아웃풋을 정확히 기대하는 것이 아니라 수많은 데이터 기반의 경험치를 만들어내는 것이기 때문에 더더욱 그렇다.

다시말해, 아직 미완성의 FSD를 사용하는 운전자에게 '전방을 상시 주의하라.'는 말 말고는 무엇을 어떻게 주의하고 어떤 기능을 일관되게 기대할 수 있는지 설명해줄 수 없다. 따라서, 현재 FSD 버전이 S/W OTA로 업데이트 되며 릴리즈 노트가 나올 때마다, 테슬라는 'FSD는 베타이기 때문에 운전자가 항시 전방을 주시해야 한다.'는 이야기 밖에 해줄 수가 없는 것이다.

따라서, FSD가 비록 다른 OEM 대비 다양한 기능을 선보이고 있지만, 구체적인 기능과 한계를 제시하지 못한채 여전히 베타버전으로서 운전자의 주의를 요구하게 된다면, 여기에 대한 과대 마켓팅 이슈와 그와 연결된 안전 문제는 오토파일럿의 경우보다 훨씬 더 민감하게 다뤄지게 될 것이 분명하다.

 

5. 트럼프 정권 내 NHTSA 역할의 부재

NHTSA는 미국 국토부의 산하 기관으로서 각종 도로교통안전에 대한 규제를 담당하는 기관이다. 차량 제작 법규나 자율주행 관련 규제를 만들 권한이 있는 곳도 바로 NHTSA다. 차량 리콜을 내릴 명령 또한 갖고 있다. 차량 및 도로 안전과 관련해 이렇게 막대한 권한을 지니고 있는 NHTSA의 청장은 지난 트럼프 정권 내내 공석이었다. NHTSA의 청장은 대통령의 지명과 상원의 승인을 통해 정해지는데, 反 기업 규제로 악명높았던 트럼프 대통령은 대표적인 안전 규제 기관인 NHTSA를 이끌어 나갈 자리에 그 누구도 올리지 않았던 것이다. 심지어 트럼프는 현재 존재하는 법규가 너무 많아서 없애야 한다고까지 주장하기도 했다.

바이든 행정부 들어서 상황은 다소 달라졌다. 기존 교통부 장관이었던 엘레인 차오가 물러나고 피트 부티기그가 차기 장관으로 임명되었다. 그런데 아직 바이든 대통령도 NHTSA의 청장을 지명하지는 않았다. 다만, 규제를 배척하는 분위기는 이전 행정부와 완전히 달라졌다. 그리고 NTSB나 기타 안전관련 단체들도 그동안 잃었던 NHTSA의 권한과 역할을 강화하며 강력한 안전 규제를 만들어야 한다는 목소리를 높이고 있다.

트럼프 정권 동안에는 오토파일럿과 FSD와 관련된 안전 이슈가 제기되어도 이를 실질적으로 조사하거나 조치를 취할 기관의 권한이 무력화되어 있던 것이다. 한 거대한 조직의 수장이 오랜기간 공석인 상태에서 그 누구도 이를 본격적으로 문제 삼고 나서지 않으려 했을 것이다. 더군다나 미국의 가장 혁신적인 기업 중 하나로 평가받는 테슬라에게 칼을 들이미는 것은 굉장히 부담스러운 일이었을 것으로 짐작할 수 있다. 트럼프 정권 시대에 고군분투를 했던 기관은 NTSB였다. 당시 수장인 로버트 숨왈트의 지휘로 테슬라 오토파일럿과 관련된 사고를 지속적으로 조사하며 원인 분석을 했고 테슬라를 비롯한 관련 기관에 조치 명령을 내렸다. 하지만 NTSB의 조사 결과는 사회적으로 주목을 받지만 구속력은 없다. 즉, 권고사항에서 그치기 때문에 실질적인 규제 권한이 있는 NHTSA가 '이빨빠진 호랑이' 상태라면 NTSB의 권고사항 역시 힘을 갖지 못한다는 것이다.

NTSB가 조사한 테슬라 사고 중 가장 대표적인 것은 지난 '18년 3월 마운틴뷰 고속도로에서 발생한 모델 S 운전자 사망사고이다. 이 때 차량은 고속도로 합류지점 gore area에서 좌측으로 지속적으로 쏠림 현상을 보였다는 데이터를 확보했고, 당시 애플의 엔지니어로서 익숙한 출퇴근길을 주행하고 있던 운전자는 충돌 직전까지 '삼국지'라는 휴대폰 게임을 하고 있었던 것으로 조사 결과 나타났다. 당시 NTSB가 각종 기관에 내린 권고 사항은 다음과 같다.

이미 NHTSA에게는 주행보조 기능의 안전 성능을 평가할 수 있는 프로토콜을 개발하도록 했고 상위 기관인 교통부가 적극 지원할 것을 권고했다. 하지만 NHTSA는 이후 아무 결과물도 내놓지 못하고 있다.

테슬라에게 내려진 권고사항은 오토파일럿 사용과 관련된 안전자 장치를 만들고 운전자 개입을 효과적으로 모니터링할 수 있는 방법을 고안하라는 것이었다. 현재 테슬라는 운전자 모니터링 기능을 추가했지만 사실 이는 최소한의 장치라고 할 수 있다. 그리고 앞서 말했듯이 테슬라는 여전히 '인간의 인풋은 에러', '오토파일럿은 자율주행으로 가기 위한 사전 단계'라는 개발 철학과 프로토콜을 확실히 보여주고 있기 때문에 '운전자가 주행에 잘 개입하고 있는지를 모니터링'하라는 것은 그들의 방향성과 정반대되는 것이어서 규제 당국의 강력한 시행 조치 명령이 내려지지 않는한 개선이 쉽지 않아 보인다.

규제 당국의 권한이 조금씩 살아날 기미가 보이자, 여러 단체에서도 다시 목소리를 내고 있다. 최근들어 미국 상원 의원인 에드 마키와 릭 블루멘탈은 FTC(공정거래의원회)에 오토파일럿과 FSD가 과연 적절한 용어인지 입장을 밝히라는 성명을 제출했다. 그리고 새롭게 NTSB의 수장으로 임명된 제니퍼 호멘디는,

"지금까지 모두의 관심이 안전보다는 혁신에 초점이 맞춰져 있었다면, 이제는 그 시류가 바뀌기를 기대한다.(The past has shown the focus has been on innovation over safety and I’m hoping we’re at a point where that tide is turning)"

"일부 제조사들은 차량을 판매하기 위해 그들이 하고 싶은 것을 할테고, 거기에 개입을 하는 것 역시 정부가 할 수 있는 권한이다.(Some manufacturers are going to do what they want to do to sell a car and it’s up to the government to rein that in)"

라고 언급하며 더욱 강력하게 안전 관련 조사를 진행할 것을 예고하기도 했다.

https://www.wsj.com/articles/u-s-senators-urge-ftc-to-probe-teslas-autopilot-claims-11629281612

U.S. Senators Urge FTC to Probe Tesla’s Autopilot Claims

https://www.autonews.com/regulation-safety/teslas-autopilot-safe-us-regulators-grapple-evidence

A life-or-death question for regulators: Is Tesla's Autopilot safe?

 

6. 테슬라의 대외 홍보부서 폐지

비록 규제 당국의 권한과 의지가 약해짐으로써 지난 5년 동안 도로 교통 안전에 대한 전반적인 무관심이 팽배해졌지만, 이를 우려하는 목소리는 지속적으로 있었다. 에드 마키, 릭 블루멘탈 등 주요 상원의원은 테슬라 오토파일럿의 안전한 사용을 위한 각종 입장 발표 및 법안을 만들어내며 규제 개발에 힘을 썼고, 컨슈머 레포트나 기타 공신력있는 기관에서도 현재 오토파일럿 사용의 안전 문제를 계속 제기해왔다. 그리고 테슬라와 함께 이 문제를 의논하기 위해서도 부단히 노력해왔다.

그런데 테슬라는 지난해 홍보팀을 돌연 해체시켰다. 각종 규제 기관이나 언론 및 기타 단체와 사내 관련 부서간 소통 가교 역할을 할 것으로 기대되는 조직을 해체시킴으로써 언론 매체는 물론이고 규제 당국 역시 테슬라와 소통하기가 굉장히 힘들어졌다. 그나마 규제 기관 또는 의회의 경우 홍보팀을 거치지 않고 관련 Legal 또는 Complicane 부서에 직접 서신을 보내 테슬라에게 질의서를 보내는 등의 방법을 취했지만 테슬라는 여기에 전혀 응하지 않았다. 당국의 요청에도 대응하지 않았던 테슬라가 규제 권한이 없는 일반 기관이나 단체의 요구에 응했을 것으로 기대하기 어렵다.

https://21cpilot.tistory.com/80

[테슬라] 자율주행 레벨보다 돋보인 그들의 '일하는 방식'

물론, 규제 대응 이슈가 있는 경우에는 테슬라는 굉장히 빠르고 효과적인 채널로 소통을 해왔다는 것을 알 수 있는 사례도 많았다. 하지만 그 외에 구속력이 없는 대응 채널에 대해서는 철저하게 무대응으로 일관했던 것으로 보이고 일론 머스크는 본인의 트윗을 통해 스스로 하고 싶은 이야기 위주로 외부와 소통해온 것을 볼 수 있었다.

지금까지 살펴본 이 여섯 가지 항목은 테슬라 오토파일럿과 FSD와 관련된 현재의 안전 이슈를 논의하는데 있어서 반드시 이해하고 있어야 하는 것들이다. 이러한 관점에서 현재의 이슈를 정리해 보면,

- 테슬라 오토파일럿은 경쟁사 시스템 대비 성능적으로 우수하다는 것을 보여주는 지표들이 있음.

- 하지만, 테슬라와 다른 OEM들의 자율주행 개발론 차이를 감안했을 때, '인간의 인풋은 에러'라는 개발 철학과 이로 인한 '협동 주행 능력 부족' 및 '오토퍼일럿 특유 사용성 이슈(운전자 개입 시 시스템이 꺼지는)'는 시스템 작동 관점이 아닌 차량 주행 관점에서 안전 이슈를 만들어낼 수 있음(즉, 시스템은 개발된대로 작동해도 안전 문제가 남아있다는 의미)

- 더욱이, 오토파일럿과 FSD와 같이 아직 실현되지 않은 자율주행 기능 구현을 선반영한 마켓팅 용어는 사용자들의 과도한 신뢰와 오사용을 유발하여 안전 문제를 더욱 가속화하고 있음

- 특히, FSD의 경우는 개발 특성상 운전자에게 기능과 한계에 대해 구체적인 메뉴얼을 제시해줄 수 없다는 제한요소가 있어 앞으로 과대 마켓팅으로 인해 유발되는 안전문제는 더욱 심해질 수 있음

- 지난 트럼프 정권에서 NHTSA와 같은 규제 당국이 제 역할을 해주고 안전 규제에 대한 사회적 관심을 유지해줄 수 있었다면, 주행보조 기능 사용과 관련된 규제 또는 기업의 good faith를 통한 안전한 교통 생태계 구축을 도모할 수 있었을텐데, 규제보단 기술 개발을 통한 혁신에 무게중심이 쏠려 사회적 관심이 소홀했던 부분은 굉장히 아쉬움 점

이제는 선택의 문제만 남았다. 규제 당국에 얼마나 힘이 쥐어질 것이고 그 힘으로 무엇을 하기로 결정할 것인지. 일단 NHTSA는 칼을 쥐려고 하고 있다. 그리고 대상은 테슬라만이 아니다. 12건의 테슬라 오토파일럿 관련 사고(응급차량과 추돌 사고)를 조사하며 테슬라에게 요구했던 데이터를 다른 12개 주요 OEM들에게도 요청한 사실이 알려지며 주행보조 시스템에 대한 NHTSA의 우려가 업계 전반에 대해 굉장히 높아지고 있는 것을 짐작할 수 있다.

https://www.reuters.com/business/autos-transportation/us-asks-12-automakers-assistance-tesla-probe-2021-09-14/

U.S. asks 12 automakers for assistance in Tesla probe

하지만 결국 테슬라가 주요 타겟이 될 것이다. 다른 OEM들은 규제 당국과의 관계를 굉장히 중요하게 여겨왔고 자율주행과 주행보조는 시장 자체가 다르다는 생각 역시 규제 기관과 OEM들은 결을 같이하고 있다. 하지만 테슬라의 경우 주행보조 시장은 자율주행 시장으로 가기 위한 전초 단계로 여기고, 이미 제공중인 주행보조 기술에 투영된 모든 기술 철학과 개발, 심지어 사용자 경험까지도 아직 도래하지 않은 자율주행 시대에 초점이 미리 맞추어져 있어 여기에 대한 생각차이에서 발생하는 갈등이 존재할 수 밖에 없다.

요크형 스티어링은 사용하기 위험해 보이는데? 아니, 어짜피 사람이 하는 것보다 곧 FSD가 안전해 질거야
오토시프트도 위험한 코너 케이스가 존재하지 않을까? 아니, 사람의 인풋은 대부분 에러니까 곧 더 안전해 질거야
비상등 스위치의 위치가 너무 조작하기 어려운 곳에 있는데? 괜찮아, 너가 그걸 누르기 전에 차가 안전하게 멈출거야

이렇듯, 규제는 현재를 이야기하고 테슬라의 기술은 미래를 예견하며 만들어진 것이다. 서로의 영역이 다르고 시간차가 존재한다. '현존하는 규제의 그레이존을 미래 가치를 끌어와 상쇄시킨다.' 지금까지 자동차 업계에서 용인되었던, 그리고 시도되었던 방식은 아니기 때문에 규제 당국이 이를 어떻게 바라볼지, 주목해야하는 부분이다.

앞으로 오토파일럿과 FSD와 관련된 안전 사고 이슈가 어떤 결말을 맞이할지 예측하는 것은 어렵다. 하지만, 핵심은 기술의 완성도 문제가 아니다. 겉으로 보기에는 오토파일럿이나 FSD와 같은 기술의 완성도가 이슈화되고 있는것처럼 보이지만, 이 싸움은 현재를 이야기하는자와 미래 가치를 미리 가져다 쓰려고 하는자의 대결이다. 이 시각 차이가 해소되지 않는한 테슬라와 기존 OEM 그리고 규제 당국 사이의 갈등이 끊이지 않을 것이란건 불을 보듯 뻔하다.