'오징어 게임의 철학적 고민'
자율자동차에 탑재되는 인공지능AI의 고민은 오징어 게임의 룰처럼 공평하고 공정해야 한다. 하지만, 아직은 그렇지 못한 현실의 한계에서 AI의 철학적사고를 고민할 필요가 있다고 한다. 물론, 인간이 코딩을 하기 때문에 결국 인간의 철학적 사고가 필요하다.
철학적사고는 동양적 사고와 서양적 사고가 다를 수가 있고, 종교와 인종에 따라 철학적 기준이 달라질 수 있다. 하지만,분명한 공통분모는 '생명존중' 이다. 내 생명이 중요하면 타인의 생명도 중요하다 입장을 바꾸면 타인이 곧 내가 되는 것이다. AI의 인공지능에 사려 깊은 양보와 배려도 반드시 필요한 덕목일 것이다.
운전자의 소양과 경험의 순간적 판단이 '평생을 좌우한다' 이승과 저승의 경계가 되기 때문이다. AI의 인공지능보다 못한 운전자가 거리를 질주하는 세상은 그 자체가 지옥이다.
**오민수의 코딩 휴머니즘
주행 중 고장 난 자율차, 보행자·운전자 누굴 보호할까?
입력 2021.09.25 00:02
브레이크가 고장 난 기차를 상정해 보자. 그 기차는 선로에서 작업하고 있는 인부 5명을 향해 맹렬히 달리고 있다. 그대로 달릴 경우 인부 5명을 해치게 되지만 스위치를 눌러 선로를 변경할 수 있다. 그 대신 다른 선로에 있는 인부 1명을 해치게 된다. 만약 당신이 기관사라면 선로 변경 스위치를 누를 것인가? 이 질문에 대한 설문조사에서 89%의 사람들이 스위치를 누르겠다고 대답했다.
이번엔 질문을 바꿔 보았다. 당신은 기관사가 아니라 그 상황을 지켜보고 있는 구경꾼이다. 마침 당신 앞에는 덩치 큰 사람이 있는데 이 사람을 선로에 떠밀면 기차를 멈출 수가 있고 인부 5명을 살릴 수가 있다. 대신 그 덩치 큰 사람은 죽게 된다. 당신이라면 덩치 큰 사람을 밀겠는가?
보행자 우선 말하면서 차 구입은 꺼려
이 질문을 받은 사람들은 앞선 질문과 달리 고민에 빠진다. 무슨 차이일까? 스위치를 누르는 행위와 사람을 떠미는 행위 사이에서 인간의 감수성은 달라진다. 두 질문은 『정의란 무엇인가』의 저자 마이클 샌델이 자주 인용하여 널리 알려진 일명 ‘트롤리 딜레마’다. 결론적으로 말하자면 두 번째 질문에 대다수의 사람들(78%)은 밀지 않겠다고 대답했다.
‘최대 다수의 최대 행복’이라는 공리주의적 관점에서 보자면 두 질문에 대한 사람들의 반응은 모순이다. 우리는 다수를 위해 소수가 희생해야 한다고 생각하지만 동시에 다수를 위한 명분 때문에 소수를 희생시켜서는 안 된다고 생각하는 이율배반적인 존재가 된다.
만약 인부 5명이 나의 가족이라면 어떻게 될까? 그래도 덩치 큰 사람을 밀지 않을까? 그때는 누군가를 밀어서 가족을 살리는 게 오히려 정서적 판단이 되지 않을까? 그렇다면 정서적 판단의 개입이 무조건 옳다고 볼 수 있을까?
그동안 트롤리 딜레마는 대학교의 정치 철학 강의나 시민들을 위한 교양서적에서만 볼 수 있는 지적 유희에 해당했다. 그런데 코딩과 알고리즘의 발달이 모든 것을 현실로 바꿔 버렸다. 이제 우리는 그런 철학적 딜레마를 프로그래밍할 수 있어야 한다. 바로 자율주행차의 등장 때문이다.
주행 중 브레이크가 고장 난 자율주행차를 생각해 보자. 그대로 달릴 경우 보행자 5명을 치게 되고 핸들을 꺾으면 보행자 1명을 치게 된다. 이럴 경우 자율주행차에는 어떤 알고리즘이 코딩돼 있어야 할까? 당연히 핸들을 꺾는 판단을 하는 알고리즘이 다수의 공감을 얻을 것이다. 그런데 핸들을 꺾어서 다치게 되는 사람이 보행자가 아닌 자동차 탑승자라면? 자율주행차는 보행자와 탑승자 사이에서 누구를 보호해야 할까?
이 질문은 2016년 6월 과학학술지인 ‘사이언스’에 실린 논문에서 등장했다. ‘자율주행차의 사회적 딜레마’라는 제목의 이 논문은 사람들에게 위와 같은 질문으로 설문조사를 진행했다. 이 설문조사에서 대다수의 사람들(78%)이 다수의 보행자를 보호하는 것이 훨씬 더 윤리적이라고 답했다. 그런데 흥미로운 것은 그다음 질문이었다.
‘그렇다면 자동차 탑승자보다 보행자의 안전을 우선시하는 자율주행차를 구입하시겠습니까?’
예상했겠지만, 대다수는 그런 차를 구입하지 않겠다고 대답했다. 이성적 판단으로는 대다수의 보행자가 우선이지만, 그 자동차 탑승자가 자신이거나 혹은 가족인 경우에는 어김없이 딜레마에 빠지고 말았다.
그렇다면 자동차 제조사의 판단은 어떨까? 얼마 전 메르세데스 벤츠의 한 고위 임원은 보행자보다 자동차 탑승자의 안전을 우선시할 것이라는 발언을 했다가 언론의 뭇매를 맞아야 했다. 제조사 입장에선 당연한 결론이겠지만 그런 발언은 사회적 논란을 일으키기 십상이다. 당시 영국 데일리메일에서도 이런 기사를 내보냈다. “벤츠는 자율주행차가 방향을 바꾸어 탑승자가 다칠 위험을 감수하기보다는 보행자를 칠 것이라고 인정했다.”
하지만 비판은 있어도 대책이 없다는 것이 문제다. 독일 교통부는 사고를 피할 수 없는 상황에서 자율주행차가 어떤 선택을 해야 옳은지 결정할 수 없다는 공식 입장을 표명한 상태다. 다만 심증은 분명해 보인다. 자율주행차의 알고리즘을 연구하는 MIT의 라환 교수가 했던 말이 그 심증을 대변한다. “사람들은 자신을 희생시키는 자동차를 사지는 않겠지만, 다른 사람들이 그런 차를 샀으면 좋겠다고 생각한다.”
아마도 자율주행차는 공리주의를 표방할 것이다. ‘최대 다수의 최대 행복’이라는 공리주의는 모든 판단에 대해 계산 가능성을 전제로 한다. 그 계산이란 손해보다 이익이 많은가를 측정하는 것이다. 그것은 논리적이어야 하는 코딩 알고리즘에도 매우 적합하다. 이러한 이유로 공리주의는 도덕 철학이라기보다는 ‘도덕 과학’임을 자임한다.
법규 모호, 소비자·제조사 분쟁 소지
윤리적인 판단 근거를 이익과 손해의 관점으로만 코딩할 수 있다면 너무나 쉽다. 자율주행차뿐만 아니라 4차 산업혁명의 다양한 첨단 기술에 심어야 할 도덕적 알고리즘을 적용하기에도 용이하다. 모든 사물을 통해 광범위한 데이터를 수집할 수 있는 빅데이터 기술은 이러한 공리주의적 판단에 수치화된 근거를 제시해 줄 수 있기 때문이다.
보행자와 탑승자 중 누구를 살리는 게 이익일까를 판단할 것이며, 장애인과 비장애인 중 누구를 살리는 게 이익일까를 판단할 것이다. 어쩌면 아랍인인지 미국인인지 인종을 구분하는 데이터 값이 있을지도 모르겠고, 유명 인사와 일반 시민 중 어느 쪽을 살리는 게 이익인지 수치화된 데이터를 제시할 수도 있겠다.
2017년 8월 23일 독일은 세계 최초로 자율주행차에 대한 윤리 지침을 발표했다. 독일 교통부 그리고 14명의 과학자와 법률 전문가로 구성된 ‘디지털 인프라 담당 윤리위원회’는 자율주행 기술이 지켜야 할 20가지 지침을 만들었다.
이 지침에서 주목해야 할 점은 인권에 대해 표준화된 지침이 불가능하다는 내용이었다. 그것은 연령, 성별, 인종, 장애에 대해 우선순위를 판단해서는 안 된다는 것을 의미한다. 다시 말해, 아이를 살리기 위해 노인을 죽이는 것은 옳은 판단이 될 수 없다. 이러한 독일의 가이드라인은 인간의 존엄성에 대해 공리주의적 판단을 차단했다는 점에서 의의가 있다.
한 가지 아쉬운 점은 트롤리 딜레마에 대해서는 판단을 유보했다는 점이다. 결국 이 위원회가 고심 끝에 내놓은 결론은 다음과 같다. ‘차량 시스템은 인간의 결정을 따라야 한다.’
인간의 결정을 대신해야 할 자율주행차에게 인간의 결정을 따르라고 말하는 다소 어이없는 결론이긴 하지만, 어쨌든 인간의 존엄성과 가치 판단이라는 철학적 난제를 아직은 기계에 양보할 수 없다는 의지의 표명처럼 보인다.
최근 독일은 2022년에 일반도로에서 자율주행차가 운행되는 것을 목표로 자율주행차 상용화를 결정했다. 지난 2월 10일에는 자율주행차에 필요한 법 초안을 세계 최초로 상정했다. 한국은 2027년 상용화가 목표다.
다만, ‘자율주행이 가능한 정해진 조건’에 대한 법규가 구체적이지 않다는 점이 문제다. 이로 인해 자율주행차가 사고를 일으켰을 경우 소비자와 제조업체 간 분쟁이 발생할 소지가 여전히 존재하는 상황이다.
공리주의는 손쉽게 계산할 수 있다는 이점이 있다. 수치화된 데이터로 무장한 공리주의는 4차 산업혁명에 깊숙이 관여할지도 모르겠다. 하지만 우리는 이익과 손해를 계산하는 것만으로 존재의 가치와 존엄성을 따질 수 없다는 진실을 알고 있다. 알고는 있지만 자율주행차의 알고리즘에 입력할 수 있을 만큼 증명하지는 못했다. 결국 자율주행차의 딜레마는 기술적 딜레마가 아니라 철학적 딜레마다.
철학이라고 하면 마치 19세기나 20세기 정도에 머물러 있는 느낌을 받게 된다. 그만큼 철학이 멀리 있는 것은 아닐까? 자율주행, 인공지능, 빅데이터가 펼쳐지는 세상인데 아직도 우리는 아리스토텔레스나 벤담, 칸트, 롤스 같은 고전 읽기 수준의 철학을 말한다. 그러한 철학자들은 드론이 뭔지도 모른다.
이제는 그들이 남기고 간 철학적 유산들을 4차 산업혁명에 맞게 고도화시켜야 한다. 가상현실과 증강현실이 인간 사회에 미치는 영향을 탐구해야 하고, 사물인터넷과 빅데이터가 인권을 침해하는 것이 아니라 인권을 보호할 수 있게 만들어야 하며, 로봇과 인공지능이 인간을 대체하는 것이 아니라 인간을 풍요롭게 만들어야 한다.
우리가 철학적 난제들을 회피할수록, 또는 윤리적 딜레마를 계산하기 쉬운 공리주의에 양보할수록, 자율주행차와 4차 산업혁명은 인간에게 재앙이 될 것이다.
오민수 삼성청년SW아카데미 minsuu.oh@sericeo.com, 정보산업공학을 전공했고 코딩을 배웠으나 글쓰기를 더 좋아한다. 멀티캠퍼스에 입사 후 삼성그룹 파워블로거, 미디어삼성 기자를 병행하면서 ‘디지털 전환’과 관련한 글쓰기를 시작했다. 현재는 ‘삼성청년SW아카데미’에서 IT 생태계의 저변을 넓히는 일을 하고 있다.
DISCLAIMERS: 이 글은 개인회원이 직접 작성한 글로 내용에 대한 모든 책임은 작성자에게 있으며, 이 내용을 본 후 결정한 판단에 대한 책임은 게시물을 본 이용자 본인에게 있습니다.
라디오코리아는 이 글에 대한 내용을 보증하지 않으며, 이 정보를 사용하여 발생하는 결과에 대하여 어떠한 책임도 지지 않습니다.
라디오코리아의 모든 게시물에 대해 게시자 동의없이 게시물의 전부 또는 일부를 수정 · 복제 · 배포 · 전송 등의 행위는 게시자의 권리를 침해하는 것으로 원칙적으로 금합니다.
이를 무시하고 무단으로 수정 · 복제 · 배포 · 전송하는 경우 저작재산권 침해의 이유로 법적조치를 통해 민, 형사상의 책임을 물을 수 있습니다.
This article is written by an individual, and the author is full responsible for its content. The viewer / reader is responsible for the judgments made after viewing the contents. Radio Korea does not endorse the contents of the articles and assumes no responsibility for the consequences of using the information.
In principle, all posts in Radio Korea are prohibited from modifying, copying, distributing, and transmitting all or part of the posts without the consent of the publisher. Any modification, duplication, distribution, or transmission without prior permission can subject you to civil and criminal liability.
