로봇 3원칙과 자율주행자동차 한국교통연구원 ‘월간교통’ 2022년 6월호 2022.6.20 한우진(교통평론가, 미래철도DB 운영자) [email protected]
로봇 3원칙이라는 게 있다. 로버트 하인라인, 아서 클라크와 함께 SF3 대작가로 불렸던 아이작 아시모프가 1942년 제창한 원칙. 1. 로봇은 인간을 다치게 해서는 안 되며 인간이 해를 입는 것을 방관해서도 안 된다.
2. 원칙 1을 위반하지 않는 한 로봇은 인간의 명령에 복종해야 한다.
3. 원칙 1과 2를 위반하지 않는 한 로봇은 스스로를 보호해야 한다.아시모프는 로봇이 일상화된 미래세계를 상상하면서 이런 원칙을 제시했지만 사실 풀어 쓰면 사람이 사용하는 기계에 일반적으로 적용할 수 있음을 알 수 있다. 인간을 해치지 않게 한다는 것은 기계의 안전성을 의미하고, 인간의 명령에 복종한다는 것은 기계가 정해진 기능을 제대로 해야 한다는 것이다. 마지막으로 스스로를 보호한다는 것은 결국 고장나지 않도록 튼튼히 해야 한다는 뜻이다.
이처럼 로봇 3원칙은 이해하기 쉽고 기존에 사용하던 개념과도 연속성이 있어 많은 사람에게 쉽게 받아들여졌다. 인공지능처럼 미래의 기계를 만들고자 하는 사람들에게 큰 영감을 준 것도 물론이다.
자율주행차, 어떤 원칙으로 만들어져야 할까.반면 현재 교통 분야에서 가장 주목받고 있는 ‘로봇’이라고 하면 자율주행자동차가 꼽힌다. 자율주행 자동차를 만들 때도 명확한 원칙이 필요하며 로봇 3원칙이 그 힌트가 될 수 있다.
그러나 자율주행 자동차에 실제 로봇 3원칙을 적용하려다 보면 여러 난관이 생긴다. 일단 인간에게 상처를 주지 말아야 한다고 했으니 자율주행자동차는 교통법규를 준수하고 최대한 안전하게 운전한다. 하지만 때로는 분명 인간이 다치는 상황이 올 수도 있다. 기계가 모든 것을 예측하고 피할 수는 없기 때문이다. 이때 자율주행 자동차는 어떤 선택을 할까?
갑자기 나타난 보행자를 피하려고 급격한 스티어링을 할 경우 차량이 전봇대에 부딪혀 운전자가 죽을 수도 있다. 그렇다면 자율주행차는 그대로 보행자를 치는 것을 선택하는 것이 맞습니까? 어느 쪽 생명을 선택할지 결정하는 기준은 무엇인가.
실제 아시모프 원작 영화 ‘아이, 로봇’에서는 로봇이 물에 빠진 아이와 주인공(윌 스미스 분) 중 주인공을 구했다. 당시 주인공은 아이를 구하라고 명령했지만 로봇은 이를 무시했다. 주인공의 생존 확률이 높았기 때문이다.
마찬가지로 자율주행 자동차는 어떤 판단을 내릴까? 생존 확률을 어떻게 계산할 수 있을까. 자신의 주인인 운전자가 중요한가, 차보다 약자인 보행자가 중요한가. 이렇게 되면 공학을 떠나 철학 문제에 돌입하게 된다.
제2원칙도 모호하기는 마찬가지다. 인간의 명령에 복종하라는데 ‘인간’의 기준은 무엇인가. 자율주행자동차의 주인뿐인가. 주차장에서 잠시 차를 빼달라는 다른 운전자의 말을 들어야 할까. 그 사람이 속이고 있는지도 몰라. 자동차회사와 정부기관의 의견이 다르다면 누구를 따라야 할까. 역시 쉽게 결정하기 어려운 문제다.
여기에 자율주행차가 네트워크를 형성하면서 전략적인 사고를 할 수 있게 되면 상황은 더욱 복잡해진다. 1원칙에 따르면 인간을 다치게 해서는 안 된다고 하지만 이를 극단적으로 확장하면 전 세계 모든 자율주행 자동차가 멈춰버릴 수도 있다. 자동차가 주행하면 어떤 식으로든 교통사고가 발생하지만 아예 움직이지 않으면 사고도 발생하지 않는다는 논리다. 이런 논리의 폭주를 막을 수 있을까?
로봇 3원칙이 이처럼 모순과 이야기거리를 만들어내는 이유는 학계나 표준화 기구에서 엄밀히 정의한 것이 아니라 작가가 상상력을 바탕으로 만들어냈기 때문이다. 그런 만큼 한계가 있을 수밖에 없다. 작가 자신조차도 로봇 3원칙이 서로 충돌하고 그 안에서 갈등하는 로봇과 인간의 이야기를 많이 남겼다.
교통혁명을 일으킬 핵심 아이템 ‘자율주행차’ 최근 이어지는 반도체 부족 사태(쇼티지)는 우리 자동차가 이미 얼마나 지능화되어 있는지를 깨닫게 되는 계기가 됐다. 게다가 앞서 소개한 네트워크로 연결된 자동차라는 개념은 이미 ‘커넥티드카’ 형태로 우리 앞에 다가섰다.
자율주행자동차는 향후 교통 모습을 근본부터 바꿀 ‘핵심 아이템’으로 꼽힌다. 자율주행자동차 시대의 특징은 운전이라는 판단을 기계에 넘기게 된다는 점이다. 그러나 생명을 다룬다는 자동차의 특성은 변하지 않는다. 결국 기계가 사람의 생명을 다루는 시대가 다가오고 있는 셈이다.
그동안 자동차는 부작용도 있었지만 인류 문명을 크게 발전시켜 왔다. 앞으로도 이러한 긍정적인 역할을 지속하기 위해서는 자율주행 자동차에 대한 명확한 원칙이 세워져야 한다. 그리고 이는 로봇 3원칙처럼 누구나 쉽게 이해할 수 있다면 더 좋을 것이다. 빠르게 발전하는 자율주행차 기술에 맞춰 그에 대한 명쾌한 원칙도 함께 확립되길 기대한다.*
https://vo.la/Fcy4GM 월간교통 2022-06 저자 한국교통연구원 발간일자 2022-06-20 발행기관 한국교통연구원 언어/쪽수 국문/80Page(s) 키워드 월간교통, 새정부, 교통정책, 국정과제언, 광역도시교통, 도로교통, 철도교통, 항공교통, 물류, 지역균형발전, 전기차, 자율주행자동차, 차선폭, 설계기준, 피지컬 인터넷 로드맵, 모빌리티 가격 5,000 구매 다운로드 월간교통 2022년 6월호.pdf주요 내용 목차 최신자료/명… vo.la 세종특별자치시청대로 370