What Do We Tell the Drivers? Toward Minimum DriverTraining Standards for Partially Automated Cars

201903_What+Do+We+Tell+the+Drivers+Toward+Minimum+Driver+Training+Standards+for+Partially+Automated+Cars+.pdf

0.15MB

1. 저자 : Stepehn M. Casner(NASA), Edwin L.Hutchins,(UCSD)

2. 요약

- 서문 : 운전자 교육은 사람들이 잘 보지 않는 오너스 매뉴얼에 몇 페이지 자료 추가하는 수준으로만 이뤄지고 있음. 비행기 칵핏에서의 자율주행은 지난 수 십년간 적용되어 왔고 많은 사고를 방지했지만 또 다른 성격의 사고를 유발하기도 했음. 비행기와 자동차에서의 자율주행 시스템, 파일럿 또는 운전자 연구, 조종/운전 경험 등을 비교하여 partially automated 차량의 운전자를 위한 지식 수준을 요약하였음.

- 키워드 : ADAS, 칵핏 자율주행, 표준, 교통 안전, 훈련

- 내용 :

hands on/off 경험은 과거에는 ‘얼리 아답터 소비자만이 할 수 있는 경험이었지만 현재는 저가 모델 사용자들도 기본 옵션으로 경험할 수 있는 대중적인 것임. 완전 수동 주행에서 자율주행이 개입된 상황으로의 제어권 이양은 현재 굉장한 관심 대상임. 현재 여기에 있어 업계의 대응은 매우 수동적임. 최소한으로 오너스 매뉴얼에 ADAS 버튼 작동 방식 정도만 기술했을 뿐임.

참고 자료로 활용되는 human factor 가이던스는 비행기 칵핏에 처음 적용되었음. 파일럿들은 자율주행 능력에 대해 놀라면서도 복잡한 시스템이 그 다음 단계에 무엇을 할 지 예측할 수 없었음. 아이러니하게도, 그 다음 단계를 예측할 수 있는 것은 자율주행의 거동에 대해 처음 예상했던 것 보다 더 많은 지식을 요구함.

우리는 칵핏의 Automation이 비행에 어떤 변화를 가져왔는지 알고 있고, 파일럿에게 인간, 기계의 역할, 그리고 이 둘이 조합되었을 때의 역할에 대한 이해를 제공하는 것은 당연한 절차가 되었음. 그 덕분에 역대 최저의 사고율을 보이고 있음.

지난 10년간 Human Factor 연구자들은 이러한 경험을 자율주행 차량에도 적용하려는 노력을 했음. 이 논문에서는, 지난 40년간 인간-자율주행에 대해 자동차와 비행기를 통해 얻은 성과를 소개함. 운전자가 자율주행 차량을 주행하기 전에 알아야 할 기준을 세우는 첫 단추가 될 것이며, 어떻게 기준을 전달할 것인지(심지어 이러한 기준이 필요하다는 것도 모르는 사람들에게까지)를 고려하게 될 것임.

비행기

초창기 비행 시대에서 대부분의 사고는 파일럿이 제어를 잃거나 미확인 지형 또는 다른 비행기와 충돌 때문에 발생함. 이러한 일을 방지하기 위해 자동화가 언급이 되었고, FAA는 1974년, 고도가 높아지는 지형과 마주할 때 경고음 송출,그리고 1993년, 다른 비행기가 근처로 다가올 때 경고음 송출을 의무화 하였음.1983년에는 오토파일럿 기능을 통해 비행 경로의 대부분을 시스템이 따라갈 수 있어 파일럿이 다른 부분에 집중할 수 있게 되었음.

하지만 이러한 변화는 예상치 못한 문제를 수반하기도 했음. 복잡한 컴퓨터 코드로 구성된 시스템은 때때로 파일럿이 기대하지 않았던 작업을 하기도 하고, 기대했던 작업을 하지 않기도 했다. “무엇을 하고 있는가?” “이 다음엔 무엇을 할 것인가?”라는 질문은 칵핏에서 흔하게 발생하는 질문이 되었음. 파일럿들은 긴급 상황에서 발생하는 경고 시스템을 백업 용도로 활용하지 않고, 경고 알림을 듣고서야 문제가 있다는 것을 파악하기 일쑤였음.

1988년에 어떤 파일럿은 비행 전 비행과 상관 없는 잡담을 하다가 윙 플랩 점검을 깜박하였고 비행 중 스톨이 발생하여 사고가 나, 12명의 사망자를 내었음. 비행기는 미스 플랩에 대한 경고음을 알리는 기능이 있었으나, NTSB 조사 결과에 의하면 그날 만 해당 기능이 작동하지 않았음.

파일럿들은 인간 혹은 시스템 중 누가 더 상위의 권한을 가지는지 헷갈릴 때가 있어 보였음. 어떤 경우에는 파일럿이 시스템 자동화 중에 제어권을 가져오는 것에 애를 먹기도 함. 이렇게 예상치 못했던 문제 때문에 자동화 시스템에 대해 다시 고민을 하기 시작했고, 다음 솔루션에 이르렀음: 자동화 시스템과 운항업계의 변화에 대해 파일럿을 훈련시킴. 미팅과 워크샵을 진행하였고 파일럿들은 질문을 던지는 수준에서 시작하여 공동 연구에도 참가, 향후에는 훈련 리서처 보다 더 높은 이해도를 갖게 되었음.

이러한 노력의 결과는 파일럿들이 칵핏에서 잊어서는 안될 3가지 지식을 만들어 내었음.

Knowledge About the Automation

Knowledge About the Pilots

Knowledge About the Changed Task of Flying : 파일럿은 비행 결과에 궁극적인 책임이 있는 사람이며, 자동화 시스템은 하나의 도구이지 그 자체로 완전한 것이 아님을 강조.

또한, 자동화 시스템에 지나치게 의존한 파일럿은 “turn it off 교육”을 받아야 함. 이러한 노력은 효과를 보기 시작함. 아래 그래프와 같이 1960년 이후 레이더와 제트 엔진의 보급으로 비행기 추락 사고는 급격하게 감소했음. 이 두 가지 발명품은 비행 중 충돌, 지형과의 충돌, 기상 악화, 기계 결함으로 인한 사고를 급격하게 줄여주었음. 다만, 1960년대 후반에 사고가 다시 증가한 것처럼 처음부터 완벽하진 않았고, 1983년 어드밴스드 오토파일럿이 전체 플릿의 50%가까이 장착되었을 때도 사고율은 13년전과 유사한 수준이었음. 현재도 오토파일럿은 완벽한 시스템이라 볼 수 없지만 파일럿들에 대한 지속적인 교육과 노력으로 사고율은 현저하게 줄어들고 있음.

Cars

오늘날 우리는 지금까지의 역사를 자동차에서 반복하게 되었음. 각종 ADAS 기능들이 소개되어 운전을 돕고 있고, 사고를 막아주었음. Highway Pilot 시스템은 운전자에게 hands off 경험을 하게 해주기도 함. 제조사가 기술 경쟁을 펼치는 동안, 운전에게 어떻게 주의를 유지하게 할 것인지, 경고음을 지나치게 의존 또는 무시하지 않게 할 것인지, 운전자가 자율주행에 대해 제대로 이해하고 있으며 그 한계를 알고 있는지에 대한 많은 연구가 진행되었음.

제조사, 한계, 보험사, 정부당국, 로펌 기관 등 다양한 주체들이 모여 토론을 하였지만 아직 어떠한 합의도 이뤄지지 않았음. 파일럿에 비해, 자동차 운전자는 아무나 될 수 있고, 호기심에 기반한 교육을 받음. 비행과 운전에 관한 연구를 비교해 보면, 많은 유사한 점을 발견할 수 있음. 이 논문의 나머지 부분에서는 자율주행 운전자를 위한 지식 수준을 만들기 위해 항공 업계에서 얻은 교훈들을 정리하였음. 자율주행차를 운전하는 운전자들이 알아야 한다고 믿는 것들을 소개할 것이고 그들에게 교육하지 않은 내용들을 사용하게 둬서는 안되는 이유에 대해 이야기할 것임.

Knowledge About the Automation

지금까지는 운전자가 차에 대해 많이 알 필요가 없었음. 자율주행이 될수록 운전자가 알아야 할 정보는 오히려 많아질 것이고, 특히 차량을 렌트하는 것 처럼 평소에 익숙하지 않은 차량을 운전할 때 어려움을 겪을 수 있음.

Functions. 자율주행 기능은 가장 우려되는 부분임. 연구에 의하면 모든 운전자의 20% 정도는 그들의 차량에 그런 기능이 있는지 조차도 모르는 것으로 나타남.

Utah대학 연구진은 자율주행 기능에 대해 다양한 제조사가 사용하는 명칭을 모아 보았고, 비슷하게 들리는 이름들이 서로 다른 기능을 갖는 기술에 사용되고 있음을 확인함.

예를 들어, lane keeping은 3가지 다른 해석이 가능함.

1) 차량이 자동으로 조향해서 차로 유지를 하는 것

2) 운전자가 조향을 해야 하지만 레인을 벗어났을 때 강제로 시스템이 차로 이탈을 막아주는 것

3) 레인을 벗어날 때 경고음을 주지만 여전히 조향은 인간이 해야하는 것

설문에 의하면 운전자의 70%는 현재 판매되는 차량은 자율주행이 가능하다고 믿으며 그 중 11%는 자율주행 모드에서는 신문을 보고 낮잠을 자는 등의 행위를 해도 된다고 믿음.

이 설문은 차량을 구매하는 소비자의 인식과 실제 시스템의 현저한 차이를 보여줌. 이러한 상태에서 가족, 친구, 렌트 차량을 운전할 경우 많은 문제점들이 예상됨.

Engineering logic. 다양한 자율주행 모드는 그 작동 조건이 있음. 하지만 운전자는 차량 디스플레이를 완전히 이해하고 있지 않고 사용을 시도하며, 더 우려되는 것은 의지와 무관한 모드간 전이 상황임. 자율주행 모드 유지가 불가능한 조건이 되면 자동으로 해지가 되고 운전자가 제어를 하도록 경고 할텐데, 시스템을 이해하고 있지 않다면 이것은 매우 복잡한 과정임. 가장 중요한 것은, 운전자들은 차량 디스플레이를 정확히 이해하고 파악해야 한다는 것. 여기에 대한 분석은 모든 차량에 대해 이뤄져야 함.

Limitations. 일부 오너스 매뉴얼을 읽어보면 자율주행에 대한 한계점을 자세히 설명해 놓은 것이 있음. 신장이 일정 이하인 보행자는 감지가 안된다는 등, 특정 지역에서만 작동한다는 등. 정적인 한계 뿐 아니라 작동 한계 또한 존재함. 어댑티브 크루즈 콘트롤이 앞 차량을 따라가고 있고, 그 차량이 좌/우로 이동한다면 그보다 더 앞에 있는 차량의 정보를 파악하는데 시간이 필요함. 그런데 그 차량이 정지해 있었다면 크루즈 콘트롤이 충돌을 막아주긴 어려웠을 수도 있음. 코너길에서도 직선로에서와는 다른 차량 인식의 한계가 발생할 수 있음.

Equipment. 레이더나 각종 센서 장치들은 주행 중 더렵혀 지거나, 아이들의 장난(스티커 붙이기) 등을 통해 그 기능을 상실할 수 있음. 운전자는 장치의 역할에 대해 이해를 해서, 해당 장치가 불능이 되었을 때 운전자의 역할은 무엇인지 알아야 함.

Knowledge About the Driver

Knowledge of the New Driving Task

운전자는 자율주행 시스템이 툴에 불과하며, 그것을 언제, 왜 , 어떻게 사용할 것인지는 스스로 판단해야 함. 모든 상황이 동일하지 않고 하나의 철학은 그 상황을 대표할 수 없음. 예를 들어, 어떤 운전자들은 highway pilot이 졸릴 때 유용하다고 판단함. 로봇이 더 신뢰성이 가는데 왜 졸린 운전자가 제어권을 잡아야 하는가? (이 부분은 제가 이해가 잘 안되어 원문을 적어 놓습니다. “Why have a dozen driver at the controls when a robot can operate them with greater reliability?”)

연구 결과에 의하면 자율주행은 자연스럽게 운전자 주의를 감소시키는 것으로 나타남. 졸린 운전자는 engagement가 필요하지 disengagement가 필요한 것이 아님. 피곤할 때 운전하는 것은 이 기능을 사용하기에 매우 부적절한 때임. 따라서 highway pilot 사용에 대한 바람직한 입장은, 운전자의 집중력이 이미 떨어지고 있을 때 이 기능을 사용하지 않는 것임.

 

Discussion

Table1은 운전자가 알아야할 것에 대한 제안 내용임. 소비자 교육을 누가 해줘야 하냐는 설문에 대해 52%는 딜러쉽이라고 대답했음.