[MIT Review] 왜 무인자동차는 사람을 죽이도록 프로그램 되어야할까

(원문) "Why Self-Driving Cars Must be Programmed to Kill" by MIT Technology Review 

MIT 리뷰에선 무인자동차의 도덕적 판단에 관한 흥미로운 논문 하나를 소개했습니다. 바로 "Autonomous Vehicles Need Experimental Ethics: Are We ready for Utilitarian Cars?"(Bonnefon et al., 2015)이란 논문이었는데요, (내 논문도 나중에 소개 좀 해주라ㅠ) 무인자동차의 도덕적 판단에 대한 이슈를 제기한 논문이었죠.

이런 상황에서 무인자동차는 보행자를 치어야할까 아니면 운전자 스스로 충돌하도록 해야할까? (출처)

위의 그림과 같은 상황처럼 무인자동차가 사고를 피하지 못하는 상황에 직면했다고 합시다. 이러한 상황에서 무인자동차는 어떤 행동을 취해야 할까요?

A의 경우는 선택이 그리 어렵지 않네요. 여러 사람을 다치게 하는 것보다는 한사람을 다치게 하는게 나을테니까요. 하지만 B의 경우에 맞딱뜨린다면 어떻게 하는게 좋을까요? 보행자를 치고 지나갈까요, 아님 운전자가 스스로 다치게끔 차를 몰아야 할까요?

좋습니다. B 경우엔 저는 소중하니까 안타깝지만 보행자를 치고 지나가는 쪽으로 하도록 하죠. 그렇다면 과연 C 경우엔 어떨까요? 여러사람의 목숨과 나의 목숨, 무인자동차는 어떠한 판단을 내려야 할까요?

이러한 가치판단을 위해 논문에서는 설문조사를 실시했습니다. 결과는 놀라웠는데, 많은 사람들이 운전자의 목숨을 희생하는 쪽에 표를 던졌다는 사실입니다. 즉, 다시말하면 사람들은 "희생자의 총량"을 minimize하는 쪽의 알고리즘에 대체적인 동의가 있었다는 점입니다!

연구에선 희생자의 수 등의 변수를 바꿔가며 다양한 상황에 대한 설문을 진행했다.

하지만 그렇다고 이게 그리 간단한 문제는 아닙니다. 만약에 여러분이 차를 구매하신다면 운전자를 희생시키는 이러한 공리를 우선하는(utilitarian) 무인자동차를 구매하시겠습니까? 아마도 이 경우 판매량에 있어서 운전자를 희생시키는 차들은 판매량이 적을 수 있고 이는 또다른 교통사고 통계에 대한 다른 결과를 만들어낼 수 있을 것입니다.

상황에 대해서도 정말 다양한 질문들이 있을 수 있겠죠. 오토바이와 충돌이 예상될 경우 자동차는 오토바이보다 상대적으로 방어력이 크니 스스로 희생하는 쪽으로 무인자동차가 움직여야 할까요? 보행자가 어린이일 경우와 삶이 얼마 남지않는 노인일 경우는 다르게 대처해야 할까요? 그럼 정말 보험료가 가치 판단의 기준이 되는 건가요?

우리는 무인자동차 시대를 앞두고 있습니다. 실제로 무인자동차는 고속도로 상의 교통사고를 크게 줄여줄 가능성이 큽니다. 하지만 이러한 기계의 도덕적 가치판단에 대한 사회적 합의가 이루어지지 않는다면 우리는 또다른 혼돈에 빠지게 될 지도 모릅니다.

# 개인의 의견을 드리자면...

자동차가 대중화된 것이 사실 100년이 되지 못합니다. 그리고 자동차라는 새로운 생활도구에 발 맞춰 참 많은 "도로교통법"들이 탄생했죠. 사거리에서 자동차들이 만나면 어떻게 해야하는지, 횡단보도에선 어떻게 해야하는지, 도로 사정에 따라 운전은 어떻게 달라져야하는지 등등... 그래도 자동차는 무인자동차보단 쉬웠죠. 왜냐하면 책임은 분명 운전자와 보행자 사이에 있었으니까요.

하지만 이제는 우리들의 목숨을 좌지우지하는 순간에 내가 어찌할 수 없는 "기계"가 자리잡고 있습니다. 그리고 이러한 모습들은 앞으로 더욱 늘어가겠죠. 이제까지는 "기계결함" 만이 기계의 잘못이었다면, 앞으로는 앞서 말씀드린 가치판단 문제처럼 기계가 잘못이 없는데도 누군가는 피해를 봐야할 상황이 생긴다는 것이죠.

여기에 대해선 우리 모두가 기술을 이해하고 그들이 주는 편익과 잠재적 불완전성에 대한 충분한 이해를 거친 후 이를 기반으로 합의를 만들어가야하지 않을까 싶습니다. 어려서부터 교육과정에 이러한 기계의 도덕적 가치판단에 대한 토론을 자주 해보는 것도 한가지 방법일 것 같고요.

당장으로는 우선 법조계가 나서야 합니다. 그들이 나서서 현재의 무인자동차의 기술을 감안할 때 어디까지가 대중에게 허용된 범위이고, 어디까지가 허용할 수 없으니 (한시적으로) 실험실에서만 운영되어야 할 기술인지 그 경계를 결정해주는 것이지요. 그리고 전자에 대해선 방대한 가상 케이스들에 대한 검토가 있어야 할 것입니다. 그러기 위해서는 법조계가 더이상 법전만 보는 사람이 아닌 기술을 이해하는 사람의 참여도 적극 독려되어야 할 것으로 보입니다. 참 어려운 문제네요. 여러분의 생각은 어떠신가요?

[facebook] http://facebook.com/trobotics 
[rss] http://t-robotics.blogspot.kr/feeds/posts/default