자율주행자동차에 대한 상용화를 앞두고 있는 시점입니다.
@hav3000님의 글인
[토론] 완전 자율운행 자동차는 상용화 될 수 있을까요?
https://www.sagoda.org/sct/@hav3000/2uo3yd
를 읽고 단순하게 상용화에 대한 토론보다 보다 전문적인 토론이 필요하다 생각하게 되었습니다.
@hav3000님의 글에 대한 답변은 당연 고도 자동화 환경이 조성될 것이라고 봅니다. 하지만 그 전에 여러 논란이 있습니다. 단순히 기술 발전이 삶을 윤택하게 바꿀 수 있다는 것에서 그치지 말자는 것입니다.
그래서 제가 준비한 주제는 자율주행자동차의 윤리적 문제입니다.
이건 사고실험(thought experiment)입니다.
당신은 자율주행자동차를 타고 고속도로를 달리고 있습니다. 그리고 다른 차에 둘러싸여 있다고 해보죠.
갑자기 앞에서 달리던 트럭에서 크고 무거운 물체가 떨어집니다. 당신의 차는 충돌을 피하기 위해 제시간에 멈출 수 없습니다.
그렇다면 자동차는 결정해야합니다.
상황을 설명하면 왼쪽에는 SUV자동차, 오른쪽에는 오토바이, 전방에는 떨어지는 물체가 있습니다.
이 상황에서 당장 떠오르는 선택지는 다음과 같습니다.
- 직진해서 물체에 충돌한다.
- 왼쪽 SUV를 향해 방향을 튼다.
- 오른쪽 오토바이를 향해 방향을 튼다.
- 자신의 안전을 우선으로 고려해 3번을 선택해서 오토바이와 충돌해야 할까요?
- 타인의 위험을 최소화하기 위해 1번을 선택해서 방향을 틀지 않아야 할까요?
- 혹은 2번을 선택할 수도 있습니다.
만약 우리가 이런 상황에서 차를 직접 운전하고 있었다면 어떠한 결과든 단순한 반사반응이라 생각할 것입니다. 의도적인 결정이 아니라 운전자의 순간적인 방어활동에 의한 결과입니다.
그러나 같은 선택이라도 프로그래머가 미리 설정해 놓은 것이라면요?
이건 좀 계획된 살인처럼 보이네요.
객관적으로 보면 자율주행자동차는 교통사고를 획기적으로 줄일 것입니다. 교통사고 사망률도 줄어들겠죠. 이유는 주행 시 일어날 수 있는 사람의 실수와 부주의가 사라지기 때문입니다.
그래도 교통사고는 피할 수 없습니다. 비행기나 선박, 철도와는 다르게 자동차는 날씨, 노면상태, 주변 지형지물 등 대처해야 하는 변수가 너무 많기 때문입니다.
그리고 의도적인 변수도 존재합니다.
(이건 뒤에서 설명하도록 합시다.)
사고가 일어날 때, 미래사회는 사고의 확률과 가능성을 미리 선별할 것입니다. 몇 달 혹은 몇 년 전에 말이죠.
이걸 설명하려면 여러 산술적 이론에 대한 설명이 있어야 하니 넘어가기로 합시다. 예를 들면 전자의 확률적 존재증명과 비슷합니다,
프로그래머, 정책 결정자는 이런 사고를 사전에 결단을 내려야합니다. 일반적인 의사결정 규칙을 적용해서 쉽게 해결할 수 있습니다. 우리가 익히 알고 있는 ‘로봇 3원칙’처럼 간단하고 강력한 규칙입니다. 가령 ‘인명피해를 최소화 한다.’는 것을 제 1원칙으로 하다고 정해봅시다.
다시 처음 상황으로 돌아가서, 이번에는 상황을 조금 다르게 만들면 이해가 쉽겠군요.
상황은 다음과 같습니다. 오른쪽에는 헬멧을 착용한 오토바이. 왼쪽에는 헬멧을 착용하지 않은 오토바이, 전방에는 떨어지는 물체가 있습니다. 당신의 차는 누구와 충돌해야 할까요?
- 오른쪽으로 방향을 틀어 헬멧을 쓴 오토바이와 충돌해서 생존 확률을 높인다.
- 왼쪽으로 방향을 틀어 헬멧을 쓰지 않은 오토바이와 충돌한다.
- 직진해서 물체에 충돌한다.
1번 선택지는 책임감 있는 오토바이 운전자에게 불이익이 생깁니다.
2번 선택지는 인명피해를 최소화한다는 원칙에서 어긋납니다.
위의 두 선택지 모두 타겟팅 알고리즘을 기본으로 하고 있습니다. 어떤 물체에 충돌할지에 대한 선호나 차별이 있다는 겁니다.
그러면 선택을 해야 하는 차량의 소유자는 충돌해야 하는 대상자의 잘못이 아님에도 이 알고리즘의 부정적 결론에 따른 고통을 받을 겁니다.(사람을 치었으니까요.)
신기술은 이런 새로운 도덕적 딜레마를 만듭니다.
그러면 3번 선택지를 고르시면 된다구요? 다른 소질문을 던져야 겠군요.
당신이 차를 구매하려고 합니다.
- 사고시 가능한 많은 목숨을 살리는 차
- 어떤 댓가를 지불하더라도 당신을 살리는 차
이 둘 중에서 어떤 차를 구입하시겠습니까?
소결론
만약 차량이 승객의 삶을 분석하고 평가한다면 반사적 반응이 피해를 최소화하기 위해 설정된 미래보다 나을까요?
그리고 이 모든 결정은 누가 어떻게 할까요?
프로그래머? 정부? 이런 사고실험을 통해 기술윤리는 발전하고 양심적인 미래를 만들 것입니다.윤C 결론 & 질문
위에서 언급한 ‘의도적인 변수’를 잊지않았겠지요? 저는 이것을 피해 최소화와 겉으로는 드러나지 않는 소수의 이득이라고 생각합니다.
피해 최소화는 경제적 논리와 승객 삶의 가치분석으로 나뉠 것이라고 봅니다. 누군가 피해를 본다면 보상액이 적은 사람, 뒷말이 적게 나올 것 같은 사람이 다치게 되겠지요.
(이런 사상을 공리주이라 합니다. -해석적으로 말이죠.)
승객 삶의 가치분석을 통해서 의도적인 프로그램이 생길 수 있습니다. 돈 많은 사람을 위해서 돈 없는 사람의 차가 에어백처럼 쓰일 수 있지요. 많은 변수에 의한 안전장치의 충돌지점(특이점)에 완충제를 넣는 것입니다.
또 다른 이득 문제로는 다른 사람보다 상대적으로 빨리 목적지에 가고싶은 욕를 반영합니다. 좋은 의도를 생각해보면 경찰, 응급환자, 물류 등이 있겠지만 나쁜 의도는 범행을 위한 도주, 공공질서보다 편익을 생각한 사적인 사용이 있겠네요.
| 자율주행자동차의 사용으로 생겨난 윤리적 잣대는 평등할까요? 아니면 상대적으로 작용할까요? |
|---|
| 여러분이 만약 차를 구매한다면 |
| ‘사고시 가능한 많은 목숨을 살리는 차’와 ‘어떤 댓가를 지불하더라도 당신을 살리는 차’ 중에서 어떤 것을 고르시겠습니까? |
추가로 한국의 행보를 남깁니다.
http://m.irobotnews.com/news/articleView.html?idxno=18168
박선숙 의원은 자율주행시스템의 윤리적 설계기준을 마련하기 위한 ‘자율주행자동차 상용화 촉진 및 지원에 관한 법률 일부개정법률안’을 발의했습니다.
자율주행자동차법은 지난 19년 4월 5일 국회 본회의를 통과해서 이번 개정안은 2020년 5월 1일 첫 시행을 앞두고 제안된 첫 번째 개정안입니다.
이용자와 보행자의 생명안전을 위한 시스템 설계기준을 제시하도록 하는 것입니다.
저는 여기서 발의된 법이 과연 어떤 딜레마를 해결하고 논의되었을지 궁금하군요.
이상 윤C였습니다.
제 생각을 말씀드리기 전에,, 몇가지 질문 부터 하겠습니다
우선 5G를 넘어 초연결시대로 나아가는 미래를 우리는 그리고 있고
그 속에 자율주행자동차도 있는데요??
애초에 프로그래밍 은 자동차 자체의 안전을 위한 길로 가야하는 건 자명합니다. 또한 각 자율주행 차량들의 통제를 하는 시스템이 만들어질 것이라고 예상되는데 그러면 전방 사고 감지시, 자율 주행 차량이 차선을 이동하더라도 오토바이 또한 통제될 텐데 사고가 나긴 하는건가요? 아님 혹시 이 사고 실험이 그 사고가 발생할 경우를 가정해야하는 실험인가요?
또한 사고실험에서 제시된 문제는 자율주행 차량과 일반 주행 차량이 혼재되어 있을 때의 가정인가요 아님 완전자율 주행의 가정인가요??
여기서 진행한 상상실험의 오토바이, SUV는 이해를 돕기 위한 하나의 예시입니다.
내가 타고있는 차를 A. 오른쪽, 왼쪽 자동차를 각 B, C라고 해봅시다. 당연 전부 통제됩니다.
갑작스런 전방의 장애물이나 작동제어 불능 같은 변수들이 생겼을 경우 A와 B, C는 서로 입장을 공유할 것입니다. 5G의 속도로 말이죠.
하지만 여기서 우리가 간과한 것은 현실적인 제동과 충돌할 수밖에 없다는 결론을 내릴 경우입니다. 100km 속도의 자동차는 평균적으로 5~60m의 제동거리가 필요로합니다. 기차의 경우 3km나 됩니다. 기계는 우리가 상황을 알아차리기도 전에 판단할 것이고 결국 충돌을 결정합니다. 이것이 사전에 프로그램된 '운전자를 지킨다'가 제 1원칙이기 때문이죠.
이럴 경우 B, C중 어떤 차와 충돌하겠습니까? 역시 미리 통제된 프로그램에 의한 결정이겠죠.
당연 B, C또한 이 결과를 공유할 겁니다. B, C에 탑승한 사람은 인지하지 못하겠지만요.
그럼 B, C에 탑승자중 누군가는 사고를 당하게 되는데 그 기준의 척도는 무엇일까요?
돈? 사회적지위? 안전성?
이것이 제가 생각한 의도적 변수에 의한 결정입니다.
다시 결론을 말씀드리면 사고 가능성을 컴퓨터가 사람보다 먼저 인지하더라도 차량간의 거리, 제동에 필요한 거리, 충돌을 하지않고 상황을 해결할 수 있는 여러가지 결론을 빨리 계산하더라도 어쩔 수 없이 충돌하게 되는 경우입니다. 가정은 모든 자동차가 자율주행과 서로의 상황을 공유하더라도 말이죠.
자세한 5G의 기술과 Ip, 사물인터넷에 대한 논의는 담지 않겠습니다.
앞에 달리는 트럭이 크고 무거운 물체를 싣고 있다면, 자율주행 자동차는 인공지능에 의해 혹시 모를 낙하에 대비하여 차가 충분히 제동할 수 있을 만큼의 안전거리를 유지하며 달릴 것입니다. 그러므로 어떠한 사고도 나지 않겠죠. 이것이 진정한 자율주행 자동차입니다. 사고율 0%
위 사고실험은 이해를 돕기위한 하나의 예시입니다.
현실의 무궁무진한 변수들과 사고가능성은 따로 언그하지 않았지만, 기상조건, 노면상태, 차량간의 거리, 화물의 노후 등 여러가지가 있다고 언급만 했습니다.
아무리 자동화, 사고예측, 전산화가 진행되더라도 사고율 0%는 존재하지 않는다가 저의 생각입니다.
네. 0%는 이뤄지지 않겠지만 0%에 가깝게 설계하는 게 목표라고 생각합니다. 저는 개발자로서 접근하여 답변을 달아서 그런지 당연히 이런 상황도 염두에 두고 인공지능에 의한 자율주행 자동차로 개발해야 한다고 생각했어요. 개발자는 온갖 변수들을 생각하며 개발합니다. 가끔은 생각지도 못했던 변수가 나타나 당황스럽기도 하지요. 그래서 시험운행을 여러번 하면서 다양한 변수를 적용시켜 계속 업그레이드 하면서 개발을 합니다. ^^