테슬라는 오토파일럿이 차량을 더 안전하게 만든다고 한다. 사고 희생자들은 사람을 죽였다고 말한다.

https://www.nytimes.com/2021/07/05/business/tesla-autopilot-lawsuits-safety.html

Tesla Says Autopilot Makes Its Cars Safer. Crash Victims Say It Kills.

 

최근 NHTSA가 ADAS와 자율주행 시스템 관련 충돌사고에 대한 보고 의무를 포함하는 General Order를 내린 것에 대해, 컨슈머레포트와 IIHS의 임원들은 “AEB, BSD 같은 능동안전기능이 안전하다는 데이터는 있지만, 주행보조시스템이 안전을 더 강화한다는 것을 증명할 데이터는 부족하다.”라는 흥미로운 주장을 했다.

이번 NYT 기사에 나오는 이야기도 테슬라 오토파일럿이 차로 변경하는 차량을 인지하지 못하고 충돌하여, 상대방 차량에 타고 있는 고등학생이 사망했다는 내용이다. 기사 본문에는 동영상이 삽입되어 있는데,

대략 사진과 같은 상황이며, 전방에 픽업트럭이 방향 지시등을 켜고 차로를 변경했고 공간도 충분했던 상황이라 픽업 트럭이 무리하게 주행하진 않았다고 보여진다. 충돌 당시에 오토파일럿은 작동중이었고 테슬라가 피해자 변호인에 제공한 자료에 의하면 오토파일럿은 약 69mph로 주행하다 충돌 1초전까지 그 속도를 유지했으며 충돌 직전에 70mph로 약간 상승했고 충돌 순간에는 65mph로 속도가 낮아졌다.

 NYT가 해당 영상을 카네기 멜론 대학의 한 교수에게 보여주니, 이번 사고가 카메라가 전방 햇빛에 간섭을 받았거나 차로를 변경하던 전방의 픽업 트럭 앞에 있는 대형 트럭과 헷갈렸을 수도 있다고 주장하며 이 (테슬라)차량에는 레이다도 있었지만 효과를 보지 못한 것 같다고 언급했다고 한다. 

Mr. Rajkumar of Carnegie Mellon, who reviewed the video and data at the request of The Times, said Autopilot might have failed to brake for the Explorer because the Tesla’s cameras were facing the sun or were confused by the truck ahead of the Explorer. The Tesla was also equipped with a radar sensor, but it appears not to have helped.

“A radar would have detected the pickup truck, and it would have prevented the collision,” Mr. Rajkumar said in an email. “So the radar outputs were likely not being used.”

테슬라측 변호인(McCarthy)은 오토파일럿의 결함이 아니라 너무 빠른 속도로 주행한 운전자 탓이라고 주장하고 있다.

In court filings, Tesla has not yet responded to the allegation that Autopilot malfunctioned or is flawed. In emails to Mr. Swanson’s firm that have been filed as exhibits in court, a Tesla lawyer, Ryan McCarthy, said the driver, not Tesla, bore responsibility.

“The police faulted the Tesla driver — not the car — for his inattention and his driving at an unsafe speed,” Mr. McCarthy wrote. He did not respond to emails seeking comment

이번 사고를 보면 크게 두 가지 관점에서 생각을 해본다.

주행보조 시스템 사용시, 운전자의 mind off 현상을 어떻게 막을 수 있나? mind off라고 표현한 이유는, 현재 운전자 모니터링 장치는 주로 hands on을 감지하거나, 눈의 방향을 트래킹하게 되는데 실제로 손을 올려놓고 전방을 보고 있더라도 속으로는 mind off하며 아무 생각 없이 주행하는 것이 가능하기 때문이다.

또 하나는, 베타 버전이 작동하는 ODD도 실제 ODD로 봐야하는가? 이번 사고는 약 112km/h로 주행하다가 발생했는데 테슬라 변호사가 위 원문에서처럼 ‘unsafe speed’로 주행한 운전자를 비난했다. 실제 속도 제한이 얼마인지 모르겠지만 112km/h가 unsafe speed였더라면 사실 그 속도에서는 오토파일럿을 안켜지게 하는 것이 맞다. 물론, 테슬라도, 다른 그 어떤 제조사도 주행보조 기능을 112km/h 미만 작동으로 제한한다면 상품성이 떨어질 수 밖에 없기 때문에 법규가 속도를 제한하지 않는 이상 절대 그렇게 하지 않았을 것이다. 그래서 과연 저 unsafe speed라는 주장이 얼마나 설득력을 가지는지 모르겠다.

이번 사고는 소송이 진행될 예정이고, 앞서 소개한 팩트 외에, 사망한 학생이 안전벨트를 매고 있지 않아 차량 밖으로 튕겨져 나갔다는 사실이 또 하나의 변수가 될 것 같다. 

이 기사에 보면 굉장히 감정적이고 미국스러운 표현이 보인다.

In written answers to questions, Mr. Maldonado said he and his wife were too devastated to talk in an interview. “We are living day by day,” he said. “There is so much sadness inside. We take family walks and try to do things together like going to church. There is a massive hole in the family.”

Mr. Maldonado described his son as an outgoing high school sophomore who liked to sing and planned to go to college. His dream was to become a professional soccer player and buy his parents a house. “Like any grateful child, he wanted to take care of his parents like they did for him,” Mr. Maldonado said.

이 표현을 보니 전에 미국 화물트럭 업계의 Nuclear Verdict 이슈에 대해 조사한 기억이 떠오른다. 트럭으로 인한 사고에서 상대 피해자가 사망했고 트럭 운전자의 과실이 증명된다면 징벌적 손해배상 제도에 입각하여 엄청난 배상액이 판결되어 파산하는 화물업체가 늘어나고 있다고 한다. 이 중에서도 배상액이 1,000만 달러 이상인 경우를 Nuclear Verdict라고 한다. 특히, 운전자의 과실이 Dirty Five(피로/졸음, 음주/마약, 차량 오작동, 정비 과실, 운전자 교육 부족) 중 하나에 해당할 경우 Nuclear Verdict가 될 가능성이 높다고 하는데, 배상액 때문에 업체가 파산을 하기도 하지만 보험료가 급증하기 때문에 보험료를 감당할 수 없어 파산하는 경우도 많다고 한다. 그래서 한켠에서는 이러한 과도한 징벌적 손해배상 제도를 비판하며 소송개혁(tort reform)을 해야한다는 목소리도 꾸준히 나오고 있다.

조사를 하며 알게된 사실 중 하나는, 이런 Nuclear Verdict를 노리는 변호사들(높은 수임료가 목적이겠죠)이 많은데 그들이 쓰는 전략 중 하나가 ‘감정에 호소’이고, 이 호소가 배심원들의 마음을 울릴 경우 배상액은 더욱 커진다는 것이다.

상식적인 시선으로 보았을 때 이번 사고는 주행보조 기능인 오토파일럿에 지나치게 의존하여 전방 주시 의무를 다하지 않은 사고차량 운전자의 잘못이 원인으로 지목되겠지만 최근 지속되고 있는 오토파일럿에 대한 관심과 주행보조 시스템의 안전한 사용에 대한 이슈가 커지고 있는 것을 감안할 때 테슬라에게 어떤 영향을 미치는 사고로 남을지 지켜봐야할 것 같다.