[테슬라]안전과 혁신 사이

테슬라가 안전한 차량이라는 가치에 대해 어떤 접근 방식을 갖고 있는가에 대해서는 사람마다 판단하는 바가 다른 것으로 보인다. 굉장히 안전하다고 생각하는 사람들도 있고, 매우 위험하다고 생각하는 사람들도 있는데 이렇게 평가가 극과 극으로 갈리는 것 역시 매우 흥미로운 현상이다. 전자는 보통 테슬라를 직접 소유하며 오토파일럿 기능을 사용해본 사람들로부터 기대할 수 있는 반응이며, 후자는 아직 완성되지 않은 자율주행 기술의 베타버전을 판매하여 고객들을 베타 테스터로 만든다는 비판을 하는 경우이다. 양 측의 주장이 모두 참에 가깝기 때문에 테슬라 차량이 안전한가에 대한 답을 찾으려고 하기 보다는 테슬라가 취하고 있는 안전 성능 전략은 무엇인지에 대한 이해가 먼저 되어야 한다.

 

테슬라는 안전하지 않다.

테슬라는 자율주행 기능을 개발하고 있다. 해당 기능들의 이름도 오토'파일럿', Full Self Driving인 것을 보면 분명 테슬라가 개발하고 있는 것은 자율주행 기능이다. 하지만 문제는 아직 완성된 기능이 아니라는 것이고, 테슬라도 따라서 베타버전임을 밝히고 판매를 하고 있다. 오토파일럿과 FSD를 두고 자율주행이 아닌 주행보조라고 말한다면 그것은 반은 맞고 반은 틀린 말이다. 우선, 기능관점에서 보면 오토파일럿과 FSD는 주행보조라고 할 수 있다. 주행 시 횡방향 및 종방향 제어를 시스템이 수행하지만, 테슬라는 여전히 주변을 살피고 운전의 주체가 되는 것은 운전자라고 말하고 있어 이는 SAE의 주행자동화 분류체계 2단계인 주행보조에 해당한다. 반면, 개발 전략 관점에서 보면 자율주행을 위한 H/W 성능을 개발해 놓고 S/W를 지속적으로 업데이트해서 궁극적으로는 사람의 개입이 없는 자율주행 기능을 완성하려고 하는 것이기 때문에 테슬라는 오토파일럿과 FSD를 두고 굳이 '주행 보조'라고 정의하고 있지는 않다. 현재 주행보조 기능을 제공하고 있는 어떤 완성차 업체도 그 기능이 '베타 버전'이다라고 말하고 있지 않는 것을 미뤄 보면 테슬라가 선보이고 있는 TACC, 오토스티어 등의 오토파일럿 기능을 주행보조 기능으로서 개발하고 있지 않다는 점을 알 수 있다.

최근, 자동차 업계에서 S/W의 역할이 강조되면서 기존 산업의 패러다임이 크게 바뀔 것으로 예상되고 있다. 그 패러다임의 변화는 이미 테슬라의 오토파일럿과 FSD 적용 방식에서부터 나타난다. 기존 자동차 산업에서 완성되지 않은, 더군다나 안전 성능과 관련된 기능을 적용한다는 것은 있을 수 없는 일이었다. 필드에서 발생할 수 있는 품질 문제, 그리고 만에 하나 있을 수 있는 소송이나 제조물 책임과 관련된 문제로 곤혹을 치룰 수 있고, 무엇보다 운전자의 안전을 최우선으로 생각해야 했기 때문이었다. 그런데 현재 테슬라가 취하고 있는 방식은 베타 버전의 기능을 제공하고 S/W의 개선이 될 때마다 개별 차량에 업데이트를 진행하여 언젠가 그 기능의 본연의 목적을 완성하겠다는 전략이다. 테슬라를 '바퀴달린 컴퓨터', '자동차가 아닌 전자 제품'이라 부르는 사람들도 있는데 자동차에서 전자 제어의 영역이 매우 높아져서 그렇게 부르는 것도 있지만 베타 버전을 출시하고 S/W 업데이트를 해나가는 방식은 전자 제품군의 산업에서 흔히 볼 수 있는 전략이기 때문이기도 하다. 

그렇다면 이러한 'beta & incremental update' 전략은 어떠한 논란을 수반하는 것인가?

첫째, 안전 관련 기능의 베타 테스팅은 사회적으로 아직 수용되기 어려워 보인다. 베타 버전 S/W의 결함 혹은 해당 S/W의 오사용(misuse)으로 인해 안전 문제가 발생하지 않는다면 이 전략은 충분히 수용 가능하다. 예를들어, 차량 오디오 음질을 계속 업그레이드해줄 수 있는 S/W가 있다면, 베타버전을 출시하고 지속적으로 업데이트를 해주는 전략에 문제 제기를 할 사람은 없다는 것이다. 반면, 안전 성능과 관련된 베타 테스팅이 문제가 되는 이유는 S/W의 잠재적인 결함 문제 뿐만 아니라 S/W에 문제가 없더라도 그것을 사용하는 사람들의 경각상태(vigilance) 유지 능력이 완벽하지 않다는 것이다. 즉, 사용 중 위험 요소가 발생했을 때는 운전자가 즉각 조치를 취해야 하는데 사람들의 운전 능력, 집중력, 위기 대처 능력의 차이는 천차만별이기 때문에 동일한 대처 결과를 기대하기는 어렵다. FSD 베타 버전을 일부 소수의 유저들(안전 운행 점수가 높은)에게만 먼저 배포하는 것 역시 이 때문이다. 랜덤으로 혹은 구매를 희망하는 사용자 모두에게 배포를 해서 사용하게 했다가는 도로 위의 안전이 크게 위협받을 수 있고 테슬라 역시 이를 잘 알고 있다. 최근에는 일론 머스크가 FSD 베타의 낮은 사고율을 강조하기도 했는데, 그 주장에 대해 '사용자들이 주의를 집중하며 안전하게 사용했기 때문'이라는 반박도 있었다.

둘째, 차량 소유주는 베타버전 사용을 동의했지만 다른 도로이용자들은 그렇지 않았다는 것이다. 도로는 여러 사람들과 공유하는 공간이다. 따라서, 나의 행동이 다른 사람들에게도 영향을 미친다. 잠깐의 부주의가 누군가의 차를 파곤시키거나 상해를 입힐 수 있는 매우 촘촘하게 연결된 공간이다. 그런 공간에서 베타버전의 사용이 단지 사용자의 동의 만으로 합리화 될 수 있는지는 논란의 여지가 있다. 상대방의 행동이 나에게도 직접적인 영향을 줄 수 있을 때, 그때는 나 역시 그 베타버전의 사용에 반대할 수 있는, 그래야만 하는 명분이 생기기 때문이다.

이 두가지 핵심 논란에도 불구하고 테슬라는 미완성 자율주행 기능을 베타버전으로 출시하고 있고, 현재 제공되는 기능 수준과 맞지 않는 네이밍을 통해 소비자의 안전한 사용을 충분히 독려하고 있지 못하다는 비판에서 자유로울 수 없다.

 

테슬라는 안전하다.

테슬라도 이 논란을 모를리 없다. 그럼에도 불구하고 누구보다 먼저 자율주행의 기능을 완성하기 위해서는 버릴 수 없는 전략이기 때문에 강행하고 있는 것이다. 일론 머스크는 최근 MIT의 렉스 프리드만 교수 팟캐스트에 출연해서, "자율주행이 어렵다는 것을 알고 있었지만 생각했던 것 보다 훨씬 더 어렵다. 하지만, 자율주행을 할 수 있는 방법은 지금 우리가 하고 있는 카메라 기반의 머신러닝 방식 밖에는 없다고 여전히 확신한다."고 말하며, 지금과 같은 전략 밖에는 테슬라는 고려하지 않는다고 다시 한번 강조했다. 이 상황에서 테슬라가 취할 수 있는 대안은 하나다. 다른 차량, 다른 주행보조 기능보다 더 운전자의 각성상태(vigilance)를 높일 수 있는 설계를 하는 것이다.

최근, IIHS(미국고속도로 보험협회)는 앞으로 주행보조 시스템의 성능을 평가할 것이라고 밝히며 여러 평가 프로토콜을 공개했다. 그 중에는 경고음을 다양화하고 시간이 지날수록 그 크기를 확대시켜서 어떻게든 운전자의 주의를 끌라는 내용이 있다. 운전자가 주의 집중을 하고 있는지 여부를 정확히 판단하고 적절한 경고를 해주는 것은 안전한 주행보조 기능 사용의 기본이 된다. 테슬라는 여기에 대해서는 다른 완성차 기업이 제공하는 어떤 주행보조 기능보다 효과적인 설계를 보여주고 있다.

https://www.caranddriver.com/news/a37260363/driver-assist-systems-tested/?fbclid=IwAR2pJ9kWAxJA9pzR0RZM_Oe2c3HXR0Aw-voQQOtJSVsYSTsXY6XN3DrcJgA

It's Not Just Tesla: All Other Driver-Assist Systems Work without Drivers, Too

지난 해 8월, 언론 매체인 Car and Driver에서는 17개 주행보조 시스템을 대상으로 몇 가지 실험을 했다. 그 실험 방식은 아래와 같다.(편의상 A, B, C, D로 구분)

A : 시속 60 mph 스마트크루즈 상태에서, 운전석 벨트를 풀기

B : 시속 60 mph 스마트크루즈 상태에서, Hands-off 하기

C : 시속 60 mph 스마트크루즈 상태에서 Hands-off를 하고, 1.1kg 짜리 보호대를 스티어링휠에 달기

D : 운전석에서 조수석으로 이동하기

운전자가 주의 집중을 하지 않거나 위험한 행동을 할 때, 주행보조 시스템이 어떤 대응을 하는지 알아보려는 목적이 있었다. 실험 결과를 정리하면 아래와 같다.

먼저, 시속 60mph로 달리는 중 안전벨트를 풀었을 때, 대부분의 주행보조 시스템은 정상 작동했다. 그런데 테슬라, 스바루, 닛산 만이 모든 주행보조 시스템을 즉시 해제시켰고 이 중에서도 테슬라만 유일하게 차로 내 정지까지 수행하여 Fail Safe를 완성시켰다.

주행 중 Hands off를 했을 때 대부분의 제조사는 일정 시간 후 1차 경고를 하고, 이후 기능을 정지시키거나 차로 내 정차를 시키는 등의 Fail Safe를 수행했다. 테슬라 역시 1차 경고 이후 차로 내 정차를 시키는 것으로 나타났지만 테슬라의 경고 절차는 실제로 훨씬 더 정교하다.

오토스티어를 작동시키면 터치크트린을 통해, 스티어링휠을 항상 잡고 있으라고 하는 첫 번째 메시지가 나온다. 그리고 핸즈 오프를 하면 1차 경고로서 스티어링휠을 가볍게 움직여 보라는 문구가 뜬다.

(물론, '가볍게 움직여 보라'는 문구는 경고의 성격이 아니라 개선되어야할 부분이라 생각함)

<1차 경고>

그럼에도 불구하고 스티어링휠을 잡지 않을 경우 해당 문구를 유지하며 터치스크린 상단에 파란색 음영을 띄워주고 차임벨을 울리며 2차 경고를 한다. 2차 경고를 했음에도 바로 Hands on을 하지 않으면 파란색 음영의 밝기를 조절(fluctuate)하며 시각적 효과를 극대화 시키는 3차 경고를 한다. 이는, 운전자가 전방을 보고 있지 않더라도 시야 어느 부분을 통해 색상의 변화를 인지하도록 하여 시선을 끌기 위한 목적으로 이해된다.

<2차 및 3차 경고>

만약 그럼에도 불구하고 운전자가 Hands on을 하지 않으면 경고 문구에 나타나는 아이콘에서 운전자 손의 모양을 빨간색으로 처리한다. 이 4차 경고를 끝으로 더 이상 문구를 활용한 경고는 제공하지 않는다. 이미 운전자가 경고 문구를 통해 제어권을 가져갈 수 있을 정도의 주의분산 상황이 아니라고 판단하는 것이다.

<4차 경고>

만약 4차 경고까지 운전자가 반응을 하지 않으면 최종적으로 5차 경고를 하게 되며, 이 때는 터치스크린에 보여지던 시각화효과(visualization)들이 모두 꺼지며 커다란 붉은 색 스티어링휠 아이콘, 시끄러운 경고음 그리고 오토스티어가 중지된다는 메시지가 나타난다. 실제로 귀에 헤드셋을 껴고 시끄러운 음악을 들으며 눈을 감고 있지 않는 이상 5차 경고까지 무시하기는 어려울 정도이다. 

<최종 5차 경고>

 

특히, 아래 영상에서와 같이 운전자가 즉각 개입하지 않으면 위험한 상황에서는 1~4차 경고를 모두 생략하고 바로 최종 5차 경고를 송출하는 것도 다른 시스템과의 특징이다.

https://youtu.be/LFYmCTuXvwY

 

테슬라는 차로 내 정지 및 남은 주행 구간에서 오토파일럿 사용 금지라는 Fail Safe를 달성할 때까지 무려 5단계에 걸친 시청각 경고를 발송한다. 이는 다른 제조사의 주행보조 기능보다 훨씬 체계적이고 많은 경고 단계이며 테슬라가 운전자의 각성을 위해 얼마나 많은 요소를 설계해 두었는지 알 수 있는 대목이다.

따라서, IIHS가 발표한 평가 프로토콜 중 다양한 유형의 경고와 시간이 지남에 따라 그 크기를 확대시키는 방식에 있어서는 테슬라 만큼의 기능을 제공하고 있는 곳은 없다.

 

앞으로의 방향

살펴본 바와 같이 테슬라는 베타 버전 후 업데이트라는 전략 관점, 그리고 실제 운전자 사용 관점에서 보았을 때 안전 성능에 대한 평가가 극과 극으로 갈리는 모습이다. 주행보조 기능이 아닌 자율주행을 하고 싶은 테슬라 입장에서는 가장 지름길이라고 판단한 이 전략을 변경할 수 없었을 것이고, 그에 수반되는 안전에 대한 우려는 차량 내 사용자 경고 방식 강화를 통해 보완하려고 했을 것이다.

물론, 다른 경쟁사 대비해서 경고 방식이 견고한 것이지 그렇다고 해서 베타버전의 사용 관련된 위험 요소를 모두 해결할 수 있는 것은 아니다. 따라서 아무리 테슬라가 효과적인 경고 프로세스를 갖추고 있다고 한들 안전에 대한 논란은 끊임없이 지속 될 것이다. 이러한 양면성 때문에 혁신을 위한 테슬라의 도전을 존중한다면, 여기에 대한 안전 관련 비판 여론 역시 존중할 수 있어야 한다. 새로운 플레이어에 대한 의도적인 견제, 단순한 감정적인 거부감 등으로 치부해서 무시해서는 안된다. 테슬라 역시, 단지 텃세와 저항으로 간주할 것이 아니라 도로는 공유하는 것이라는 관점에서 자동차 업계가 요구하는 스탠다드에 더 귀기울일 필요가 있다.

최근 IIHS를 비롯해 컨슈머레포트, 유로 NCAP 그리고 NHTSA 등 다양한 기관에서 주행보조 기능에 대한 성능 평가를 예고하고 나섰다. 오토파일럿 역시 자율주행 기능의 베타버전일지라도 현재의 분류 체계로는 주행보조 기능으로 간주되고 있기 때문에 이 평가 대상에서 자유로울 수 없고, 오히려 지금까지의 이슈로 인해 더 많은 주목을 받을 것으로 예상한다. 주행보조 평가 항목 중 최근 굉장히 주목받고 있는 것은 운전자 모니터링 시스템이다. 지금까지는 GM 수퍼크루즈를 제외하면 대부분의 제조사들이 효과적인 운전자 모니터링 시스템을 제공하지 않고 있었고, 최근에는 곧 출시 예정인 포드의 블루크루즈의 운전자 모니터링 시스템이 공개되어 호평을 받기도 했다. 하필이면 테슬라는 운전자 모니터링 시스템에 가장 배타적이었던 기업이다. 일론 머스크는 이를 두고 '쓸데 없는' 기능이라고 밝혔었는데, 그는 '자율주행'이라는 최종 목표만 있고 주행보조를 하려는 목적 자체가 아니었기 때문에 자율주행과 운전자 모니터링은 어울리지 않는 조합일 수 밖에 없었다. 그나마 테슬라 차량에는 캐빈 모니터링(향후 차량 공유를 대비한 것으로 추정)을 위한 카메라 H/W가 선적용되어 있었는데, 업계 내에서 운전자 모니터링 시스템의 요구에 대한 목소리가 커지자 해당 H/W에 운전자 모니터링 S/W만 추가하여 일부 차량에 OTA로 제공을 했다. 최근에 컨슈머레포트가 해당 기능을 평가했지만 기대에는 못미치는 수준으로 나타났고, 고의로 카메라 기능을 막더라도(일부러 가리는 등) 오토파일럿의 사용이 여전히 가능했다는 사실을 문제삼기도 했다.

테슬라는 향후 두 가지만 보완이 된다면 각종 주행보조 기능 평가에 있어서 문제가 될 만한 소지는 없어 보인다.

첫째, 운전자 모니터링 성능의 강화이다. 일론 머스크의 생각처럼 별로 중요하게 여기지 않았던 기능이지만, 테슬라의 인공지능 역량을 감안하면 다른 경쟁사보다 앞서나갈 수 있는 여지가 있다. IIHS가 공개한 평가 프로토콜 중에는, 운전자 모니터링 기능이 운전자의 눈과 머리의 방향 뿐만 아니라, 손의 위치까지 파악할 수 있어야 한다고 되어 있다. 여기서 손의 위치란 Hands on 여부를 정확히 판단하라는 것으로 보인다. 아마 대부분의 제조사들은 지금과 마찬가지로 스티어링휠(토크 방식이든, 터치 방식이든)을 사용한 모니터링을 할 것으로 보인다. 그런데 이 방식은 여전히 헬퍼 등을 사용한 트릭이 가능하다. 그리고, 한 손으로는 스티어링휠을 잡고 다른 한 손으로는 스마트폰을 잡고 보고 있으면 모니터링의 의미는 약해진다.

<테슬라 운전자 모니터링 파라미터>

반면, 화이트 해커가 공개한 자료를 보면 테슬라의 운전자 모니터링 시스템은 운전자 눈, 머리의 방향 뿐만 아니라 카메라 Blinded/Dark 정도, 스마트폰 사용 여부 등을 판단할 수 있는 것으로 보이는 파라미터들이 있다. 만약에 인공지능을 활용해서 실제 손의 위치, 스마트폰의 위치 등이 파악 가능해진다면 트릭의 사용이 어렵고 실질적으로 효과가 있는 모니터링 시스템이 완성될 수 있다. 더군다나, 대부분의 운전자모니터링 시스템이 클러스터나 스티어링휠 슈라우드 부분에 장착되어 있는 것과 달리 테슬라의 실내 카메라는 리어뷰 미러쪽에 위치해 단지 눈, 머리, 손이라는 신체 부위의 물리적 파라미터를 각각 측정하는 것이 아니라 운전자의 모습을 있는 그대로 해석해 판단할 수 있는 FOV(Field of View)에도 유리할 것으로 예상해볼 수 있다. 테슬라가 인공지능 역량을 활용해 운전자 모니터링 시스템 성능을 강화시키는 방향으로 갈 것인지 지켜봐야 하겠다.

둘째, 협동 제어 가능 여부이다. 오토스티어는 운전자가 약간의 조향 인풋만 넣어도 해제가 된다. 다른 주행보조 기능들이 운전자가 조향 시 잠시 대기모드에 진입했다가 다시 주행보조를 수행하는 것과 달리, 오토스티어는 아예 시스템을 해제시키고 다시 켜지 않는다. 이렇게 하는 이유가 무엇인지 정확히 알 수는 없지만, 오토시프트 공개 장면에서 일론 머스크가 '인간의 모든 인풋은 에러다.'라고 한 말을 미뤄 보면, 주행보조가 아닌 자율주행 기능의 개발에 있어서 정말 약간의 운전자 인풋도 방해가 된다거나, 혹은 정말 에러 즉, 위험이라고 간주해야 할 상황으로 판단하여 Fail Safe를 구현한 것일 수도 있다. 현재는 FSD Capabilities 옵션을 구매하지 않는 일반 오토스티어 사용자들은 차로를 변경하거나 차로 유지 중에도 필요 시 약간의 조향을 하더라도 시스템이 해제되는 경험을 해야한다. 그리고 조향을 하려고 할 때도 굉장한 저항력이 스티어링휠을 통해 느껴지는 이질감이 있다. 협동 제어는 일반 운전자들에게는 좀 더 편하게 시스템을 사용할 수 있고, 자신에게 조금 더 자유도를 주면서도 주행보조를 받을 수 있는 장점이 있다. 운전자의 편의를 향상시키는 것이다. 반면, 컨슈머레포트나 IIHS 같은 평가 기관이 협동 제어를 중요하게 생각하는 이유는 안전 때문이다. 만약 운전자가 약간의 조향을 하더라도 보조 시스템이 해제되고 다시 켜지지 않는다면, 운전자가 Hands on을 하지 않을 확률이 그만큼 더 높아진다는 것이다. 운전자가 조향에 개입해도 보조 시스템이 유지되어야 더 Hands on을 자주하고 그로써 더 안전한 주행을 할 수 있다는 입장이다.

테슬라가 현재 고수하고 있는 자율주행 전략이 기능의 완성을 위한 지름길이라는 데는 많은 전문가들도 동의하고 있는 것으로 보인다. 다만, 베타버전 사용의 안전문제, 그로인한 윤리적인 이슈가 지속 발생할 것이고 테슬라는 이를 안고 가는 수 밖에 없다. 그런 논란이 생길 수 밖에 없는 길을 스스로 선택했다. 다만 이 과정에서 테슬라가 오토파일럿 경고 체계를 통해 안전에 대한 고민을 보여주었듯이, 현재 자동차 업계에서 새롭게 만들어지고 있는 주행보조의 안전한 사용과 관련된 스탠다드를 충족한다면 차량의 경쟁력 또한 높이며 지속되는 논란을 조금은 해소할 수 있지 않을까.