[테슬라] Autonowashing 단상

https://www.youtube.com/watch?v=DxXiTf4sO54&t=52s 

 

HMI 및 교통 전문가인 Mahmood Hikmet가 자신의 유튜브 채널에 [Is Elon Killing People?]이라는 제목의 1시간짜리 영상을 올렸다. 테슬라에 관심있는 사람들에게는 흥미로운 영상이 될 것이기 때문에 시청을 추천하고 싶다. 그 중에서 특히 Autonowashing 분분에 대한 이야기만 잠깐 소개하고자 한다.

Autonowashing은 Greenwashing이라는 단어에서 유래한다. 위키피디아에서 제공하고 있는 Greenwashing의 사전적 의미는 다음과 같다.

"기업이 실제로는 환경에 악영향을 끼치는 제품을 생산하면서도 광고 등을 통해 친환경적인 이미지를 내세우는 행위를 말한다."

Autonowashing이라는 단어는 자율주행 HMI 연구자인 리자 딕슨(링크)에 의해 본격적으로 알려지기 시작했는데 그녀의 홈페이지에서는 아래와 같인 테슬라의 FSD를 대표적인 사례로 뽑고 있다.

'Full Self Driving' capability라고 홍보하면서 주의사항에는 현재 기능은 '운전자의 능동적인 주의'가 필요하다고 명시해두었기 때문이다.

Mahmood Hikmet은 Autonowashing가 다음과 같은 연쇄적인 문제를 불러일으킨다고 주장했다.

Autunowashing → 과도한 신뢰(Over trust) → 오사용(Misuse) → 사고(부상, 사망) → 미디어의 부정적인 보도 → 대중의 신뢰 하락 → ROI risk

일론 머스크의 지난 언행을 보면, '자율주행의 기본 문제는 이미 풀렸다.', '(Full Self Driving이 가능하다는 것은) H/W 적으로 준비가 끝났다는 것이다. S/W 적으로만 완성하면 된다.'는 등 아직 현실감이 없는 완전자율주행이 곧 다가올 것 같은 말을 많이 했는데 이 자체가 전략이라는 분석도 존재한다. 즉, 일론 머스크는 Autonowahing이 결과적으로 ROI risk로 이어질 가능성보다 그 전 단계에서의 이득을 볼 가능성이 더 크다고 판단한 것이다. 그리고 실제로 그 전략이 효과를 보는 부분도 분명 있어 보인다. 많은 사람들이 오사용으로 인한 안전 문제를 일부 잘못된 소비자의 행동으로만 간주하고 이 전략을 정당화하고 있기 때문이다.

물론, 엔지니어링 관점에서 보면 테슬라의 발전은 실로 놀랍다. 같은 레벨 2 주행보조 기능으로 구분되지만 경쟁 시스템과 비교하면 구현해내는 기술의 종류와 수준이 다르다. 필자도 현대자동차 HDA와 테슬라 오토파일럿(FSD 패키지)을 모두 사용해봤지만 운전자에게 주는 안정감은 아직 오토파일럿이 우위에 있다고 보여진다. 하지만 이렇게 기술 격차가 있음에도 불구하고 테슬라가 '베타' 버전을 유지하고 있는 이유는 단순히 높은 성능을 보이는 시스템이 많아진다고 해서 도로가 안전해지는 것은 아니기 때문이다. 자율주행 시스템을 개발하는 엔지니어들은 안전 성능을 95%까지 끌어올리는 것은 해볼만 하지만 앞으로 99%, 100%까지 올리는데 지금까지 투자한 것보다 더 오랜 시간이 걸릴 것이라고 주장에 동의할 것이다. 안전성능이 100%에 이르기 전까지는 여전히 인간의 역할이 필요하고 자율주행 시스템을 개발하는 기업은 그 역할을 올바르게 알려줄 의무를 다해야 한다. 따라서 지금은 성능이 아무리 좋은 기술일지언정, 그 기술이 Autonowashing 되었다면 우리가 사용하는 도로는 안전해진다고 장담할 수 없다.

https://www.youtube.com/watch?v=MnrJzXM7a6o&t=388s 

2007년 스티브 잡스가 아이폰을 세상에 공개하며 프리젠테이션 한 장면은 세기의 발표로 여겨지며 아직까지 회자되고 있다. 그런데 이 때는 아이폰이 출시하기까지 아직 6개월이 남은 시점이었다고 한다. 아직 개발이 100% 완료되지 않은 시점이라고 추측한다면, 만약 6개월 동안 어떤 문제점이 발견되어 고치지 못하고 결국 아이폰의 출시가 지연되었다면 어떻게 되었을까? 고객들은 실망했을 것이고 회사는 어쩌면 재정적인 손해도 경험했을지 모르지만 거기까지다. 사람이 다치거나 죽지는 않았을 것이다.  

 

테슬라는 오토파일럿의 안전 성능을 강조하기 위해 지난 '18년부터 분기별로 Safety Report를 배포하고 있다. 

https://21cpilot.tistory.com/95

[NHTSA의 충돌사고 보고 의무화 정책] 테슬라에게는 또 다른 기회인 이유

 

Safety Report에 대한 내용은 과거 블로그 다른 글을 통해서도 소개한바 있다. 테슬라는 주행거리 당 사고 횟수를 평균내어 테슬라의 수치가 NHTSA가 집계한 미국 전체 평균 수치보다 훨씬 작다는 것을 보여줌으로써 테슬라 차량의 안전 성능이 뛰어나다는 것을 주장했다. 당시 내가 의문점을 가졌던 부분은 테슬라는 충돌사고에 대해 accident라는 표현을 쓰고 있고, NHTSA는 crash라는 표현을 쓴다는 것이었는데, Mahmood Hikmet는 영상을 통해 좀 더 구체적인 의문점을 제시했다.

첫째, 테슬라가 NHTSA가 발표한 미국 전체 평균 수치와 비교하는 것 자체를 문제 삼았다. 테슬라는 최신 high-tech 차량을 만들어내고 있는데 미국의 자동차 평균 연식은 약 11년이라는 것이다. 이것은 마치 마이크로소프트가 신형 xbox를 출시하며 이미 미국 가정집에 있는 닌텐도 게임 콘솔의 성능보다 훨씬 뛰어나다는 것을 주장하는 것과 마찬가지라고 지적했다.

둘째, 테슬라가 제시한 데이터가 미국에 한정된 통계인지 정확히 밝히지 않고 있다는 점이다. 호주의 한 연구기관이 19개 OECD 국가와 호주의 주(州)에 대해 1억 km 주행 당 교통사고 사망자수 평균을 비교한 자료에 의하면, OECD 중에서 미국은 평균보다 많은 사망자 수를 보이고 있었다. 따라서, 테슬라의 통계가 미국뿐만 아니라 평균 사망자 수가 더 낮은 국가, 즉 더 안전한 주행 환경을 제공하는 국가의 통계를 포함했다면 테슬라의 데이터와 미국 평균을 비교하는 것은 불합리하다는 주장이다.

 

 

그런데 두 번째 주장은 근거가 부족해 보인다. 실제로 테슬라 판매의 대부분은 미국과 중국 시장이 차지하고 있다. 구체적인 판매 규모를 알 수 없지만 전기차 보급을 위한 국가적인 노력과 인프라 구축 상태 그리고 일반 자동차 시장의 규모를 생각했을 때 미국과 중국을 제외한 기타 국가에서 취득한 데이터가 테슬라 플릿 평균에 영향을 주는 수준은 아닐 것이라고 생각한다. 따라서, OECD 국가에서 얻은 데이터가 포함됐을 가능성을 제기하며 테슬라 플릿 데이터를 미국 평균과 비교하는 것은 불합리하다고 하는 주장은 논지 자체는 문제가 없지만 실실적으로 대세를 바꾸는 영향을 주지 않을 것으로 생각한다. 단, 중국은 OECD 국가가 아니기 때문에 위 그래프에 자료가 나타나 있지 않다. 따라서, 중국에서의 얻은 데이터는 테슬라 글로벌 플릿의 데이터에 영향을 줄지의 여부는 별도 중국 관련 데이터가 필요하겠다.