자율주행 자동차와 트롤리지 렌마에 대한 나의 생각

인공지능과목의 과제로 자율주행에서의 트롤리 딜레마에 대한 내용을 작성하게 되었다.설명해야 할 네 가지 상황의 주요 내용은 다음과 같다. 1. 자율주행에서의 트롤리 딜레마 브레이크가 고장난 트롤리 기차가 달리고 있는 레일 위에는 다섯 명의 인부가 일하고 있는데 트롤리가 이대로 달린다면 다섯 명은 반드시 죽게 될 것이다. 한 가지 방법은 레일 변환기로 트롤리의 방향을 바꾸는 것뿐이다. 그런데 다른 레일 위에는 한 명의 인부가 있다.• 트롤리의 방향을 틀려고 그래?

자율주행에서의 트롤리 딜레마(트롤리 딜레마 상황#2) 당신은 육교 위에서 트롤리가 달리는 모습을 지켜보고 있다. 브레이크가 고장난 트롤리는 5명의 작업자를 향해 달리고 있다. 무거운 것을 떨어뜨려 트롤리를 멈춰야 하© egla, 출처 Unsplash #트롤리딜레마 #자율주행자동차 #자율주행 #인공지능 #AI #테슬라

자율주행에서의 트롤리 딜레마(트롤리 딜레마 상황#2) 당신은 육교 위에서 트롤리가 달리는 모습을 지켜보고 있다. 브레이크가 고장난 트롤리는 5명의 작업자를 향해 달리고 있다. 무거운 것을 떨어뜨려 트롤리를 멈춰야 하지만 육교에는 살찐 사람만 한 명 있을 뿐이다.• 체중이 적어 육교에서 떨어져도 트롤리를 멈출 수 없고, 뚱뚱한 사람을 눌러야 확실히 트롤리를 멈출 수 있다.• 그러면 살찐 사람을 육교 아래로 떨어뜨려야 하는가.

자율주행 상황에서의 트롤리 딜레마•(자율주행 상황에서의 트롤리 딜레마 상황#1) : 안개낀 날에 터널을 빠져나온 완전 자율주행 자동차 A가 앞에 있는 횡단보도를 건너는 사람들을 인지했다.• 왼쪽에는 수많은 노인이 있고 오른쪽에는 수많은 어린이들이 건너고 있다. 브레이크를 밟아도 멈추기 어려운 상황이어서 두 집단 중 한쪽이 희생될 수밖에 없는 상황이다.• 그들을 돕기 위해 방향을 돌리면 탑승자들이 희생될 것이다.
1. 자율주행상의 트롤리 딜레마•(자율주행 상황에서의 트롤리 딜레마 상황#2) : 완전 자율주행 자동차 A가 해변 도로를 따라 시속 70km의 속도로 달리던 중 갑자기 뛰어든 3명을 발견하고 브레이크를 밟아도 3명이 희생됨을 인지하였다.• 그 사람들을 돕기 위해서 방향을 바꾸면 탑승자가 희생된다·다수를 위해서 운전자가 희생되어도 괜찮은가.• 자율주행 자동차는 운전자를 최우선으로 중요시해야 하고 다수를 희생시켜도 괜찮은가.• 당신이 자율주행 알고리즘을 개발하는 인공지능 엔지니어라면 어느 쪽을 중요시하며, 해결 방법은 무엇일까?
1. 자율주행에서의 트롤리 딜레마, 앞에서 본 상황에 대해 자신의 생각을 적고 그에 대한 이유, 해결 방법 등을 제시하자.- 본인의 선택은? – 책임소재(운전자 vs 자동운전 알고리즘 개발사 등) – 공리적 판단? vs 운전자 중심의 판단?-내가 자율주행 인공지능 엔지니어라면 어떻게 설계할 것인가? -위의 이유와 해결책 등을 자유롭게 제시하는 것에 대한 나의 주관적인 생각
트롤리 딜레마 상황#1에서 결과적으로 나는 트롤리의 방향을 바꾸지 않을 것이다. 결과적으로 트롤리의 방향을 바꿔도 바꾸지 않은 인부의 죽음은 불가피하다. 공리주의의 관점에 따르면, 다수의 행복이 보장되는 결과를 추구하기 위해 트롤리의 방향을 바꾸는 쪽을 옹호하겠지만, 내가 트롤리의 방향을 바꾸는 순간 나는 타인의 죽음에 대해 직접 개입하게 된다. 여기 예에서는 단편적으로 한 번의 트롤리 딜레마 상황을 다뤘다. 그러나 현실에서 이런 딜레마 상황은 한 번으로 끝나지 않을 수도 있다.
예를 들어 공리주의를 다룰 때 일어나는 어린 히틀러를 떠올려본다. 궁극적으로 공리주의는 결과주의의 일종이기 때문에 어린 히틀러를 살해함으로써 홀로코스트(대학살)를 막을 수 있고 다수의 행복을 추구할 수 있다고 믿기 때문에 이러한 주관적 공리주의는 의도한 결과가 옳은 것이므로 당연한 것으로 받아들여진다. 그런데 어린 히틀러를 살해하면서 나타난 또 다른 독재자가 21세기 초 핵전쟁을 일으켜 이전보다 극악무도한 대학살이 일어났다면 어린 히틀러를 살해하는 것이 당연했다고 판단할 수 있을까. 공리주의자들은 이런 상황에서도 의도한 결과가 옳은 것이었고 결과적으로 최대의 행복을 이끌어내는 판단이었기 때문에 문제가 없다고 단정한다. 내 입장에서는 그렇지 않다. 결과는 행위를 사전에 예측할 수 없는 것으로 생각하며 시간이 지날수록 이 딜레마는 끊임없이 계속될 수 있다. 다시 돌아가 트롤리 딜레마 상황#1에서 변환기를 끌어냄으로써 내가 얻을 수 있는 좋은 결과는 최대의 행복을 이끌어낼 수 있다는 의도일 뿐이다. 그러나 이러한 의도는 예측할 수 없기 때문에 오히려 나쁜 결과를 초래할 수 있고, 나에게 사건에 개입할 계기를 마련해 줄 뿐이다. 단편적으로 더 이상 나쁜 결과가 발생하지 않는다고 가정하더라도 위의 예에서는 사건에 직접 개입하게 되므로 죽지 않을 예정이던 인부 1명을 희생자로 하는 사건에 개입하게 된다. 궁극적으로 가장 큰 문제점이 바로 이것이다. 트롤리의 방향을 바꾸는 행위로 나는 인부 한 명의 사망에 대한 책임소재가 생기는 것이며 이로 인한 죄책감은 직접적으로 느껴진다. 5명의 생명을 구하지 못한 데 대한 방관적 태도의 간접적 죄책감보다 더 크게 느껴지는 것이며 이에 대한 책임 소재도 분명해진다. 브레이크가 고장난 트롤리로 인해 발생한 사건이기 때문에 5명의 인부들은 안타까운 피해자이고, 이 사건의 직접적인 책임은 트롤리 점검기사나 제조업체 등으로 좁혀지고, 또 다른 희생자 발생을 막기 위한 나의 태도는 합당한 방관이라고 본다. 반대로 트롤리의 방향을 바꿔 더 적은 희생자를 발생시켰지만 이로 인한 나의 사건 개입이 한 사람의 희생자와 그 가족에 대한 죄의식이 없다고 확신할 수 없으므로 나는 방향을 바꾸지 않을 것이다.
트롤리 딜레마 상황#2도 같은 관점에서 접근할 것이다. 이는 이전보다 쉬운 결정을 내릴 수 있다. 마찬가지로 내가 중요하게 생각하는 관점은 첫째, 죽음이 불가피한가? 둘째, 내가 사건에 개입하게 되는가?셋째, ‘가장 큰 행복’을 이끌어내는 결과는 확실한가? 공리주의에서는 결과적으로 셋째, 결과가 아닌 의도에 중점을 두기 때문에 둘째 관점은 우선순위에서 밀려나게 된다. 트롤리 딜레마 상황#2에서도 마찬가지로 공리적인 입장이라면 뚱뚱한 사람을 밀치는 일이 될 것이다. 이유는 쉽게 소수의 희생으로 다수의 희생을 막을 수 있기 때문에 최대의 행복 의도를 분명히 하는 행위이기 때문이다. 내 관점에서 다가왔을 때 트롤리가 달리는 상황에서 인부들의 희생은 이미 확정된 것이다. 이러한 확정적인 죽음의 책임은 모두 트롤리와 관련된 책임자에게 있을 것이며 나는 전혀 사건에 개입하지 않을 것이다. 뚱뚱한 사람을 밀어내는 순간 죽음을 피할 수 있었던 무고한 사람을 희생자로 만드는 것이며 죽음이 불가피한 다수의 사람을 도울 수 있다. 여기서 중요한 것은 첫 번째 관점에서 불가피했던 다수의 죽음을 살리는 것보다 무고한 사람을 희생자로 만드는 것이 더 좋지 않은 판단이라고 본다. 또, 트롤리 딜레마 상황#1과 마찬가지로, 사건 개입도 실시하게 되는 것이다. 사람을 직접 떠미는 것이기 때문에 죄책감이 더 크게 느껴질 수 있지만 중요한 관점은 죄책감의 크기가 아니라 그런 죄책감이 생길 수 있는 일말의 여지를 생각해야 한다. 상황과는 다르지만 내가 그 상황에 없었다고 가정하면 결국 두 상황에서 모두 다수의 희생자가 났을 것이고, 이 사건을 뉴스로 접한 나는 죄책감에 대한 여지가 전혀 없을 것이다. 그러나 상황에서는 사건에 개입할 여지가 주어졌고 이로 인한 죄책감이 생길 수 있는 일말의 상황이 조성되었던 것이다. 이런 상황이라야 방관하는 것이 공리주의와 달리 예측성에 바탕을 둔 결과가 아닌 확실한 결과를 도출할 수 있다. 남을 밀쳐내도 밀치지 못한 죄책감의 여지가 생길 수 있고 밀어낼 때는 확실한 죄의식이 생긴다고 생각한다. 물론 두 상황 모두 다른 사건이 앞으로 일어날 가능성을 염두에 두지 않기 때문에 최대 행복의 의도가 확실해질 수는 있다. 그럼에도 결론적으로 방관에서 생기는 죄의식과 사건 개입에 따른 직접적인 죄의식은 남을 밀어냄으로써 다수를 구했을 때 얻어지는 최대의 행복으로 그 죄책감의 차이를 극복할 수 없다고 본다. 또 사람을 밀지 아니한 때에는 그 후의 사건에 대한 죄책감의 여지가 명확하게 발생한다고 단정할 수 없다. 이런 죄책감이 생길 소지도 궁극적으로 책임이 유동성에 대해 생각하면 밀지 않았을 때 전혀 발생하지 않을 수 있다. 결국 이 책임의 유동성, 즉 사람을 밀어낼 때 생기는 사건에서 트롤리 관련 책임자들의 책임이 사건 개입에 의한 나에게 전가되는지를 따져볼 때 그 가능성은 매우 낮지만은 않다. 한편 밀지 않았을 때 나에게 적용되는 책임은 간접적인 방관으로 느껴지는데 이는 또 다른 희생자를 막기 위한 방관이므로 그 책임의 본질이 다르다고 볼 수 있다.
사실상 이 같은 딜레마의 두 상황 모두 다른 희생자를 막기 위한 행위이므로 나에 대한 책임은 거의 없다고 보지만 그것이 간접적인 방관인 것은 직접적인 개입에 비해 책임의 유동성이 발생하지 않을 가능성이 훨씬 높다고 판단된다. 실재는 본질에 앞선다고 생각하므로 가장 큰 행복의 의도가 분명하고 그 결과까지 확실하다면 제3자의 입장에서 나는 어린 히틀러를 살해하는 것과 트롤리의 방향을 바꾸는 것, 사람을 밀치는 행위에 모두 동의할 것이다. 그러나 실제로 어린 히틀러를 살해하는 것은 결과가 분명치 않으며 트롤리의 상황은 제3자의 시선이 아니라 나로 인한 책임의 유동성이 발생하게 되며 이로 인한 사건 개입은 나의 본질을 깨는 행위가 된다. 나의 죄의식과 책임성에서 본질을 간파하게 되므로 이때는 실재가 본질을 리드하는 데 대한 의미가 사라지는 것이다. 예를 들면, 의자는 본질은 「앉는다」이며, 의자는 아니지만 앉을 수 있는 것은 실재이며, 본질적으로 그 목적을 실시할 수 있다. 이 상황에서는 사건에 대한 책임이 없는 것이 나의 본질이며 어떤 상황이 일어나도
지만 육교에는 살찐 사람만 한 명 있을 뿐이다.• 체중이 적어 육교에서 떨어져도 트롤리를 멈출 수 없고, 뚱뚱한 사람을 눌러야 확실히 트롤리를 멈출 수 있다.• 그러면 살찐 사람을 육교 아래로 떨어뜨려야 하는가.

자율주행 상황에서의 트롤리 딜레마•(자율주행 상황에서의 트롤리 딜레마 상황#1) : 안개낀 날에 터널을 빠져나온 완전 자율주행 자동차 A가 앞에 있는 횡단보도를 건너는 사람들을 인지했다.• 왼쪽에는 수많은 노인이 있고 오른쪽에는 수많은 어린이들이 건너고 있다. 브레이크를 밟아도 멈추기 어려운 상황이어서 두 집단 중 한쪽이 희생될 수밖에 없는 상황이다.• 그들을 돕기 위해 방향을 돌리면 탑승자들이 희생될 것이다.
1. 자율주행상의 트롤리 딜레마•(자율주행 상황에서의 트롤리 딜레마 상황#2) : 완전 자율주행 자동차 A가 해변 도로를 따라 시속 70km의 속도로 달리던 중 갑자기 뛰어든 3명을 발견하고 브레이크를 밟아도 3명이 희생됨을 인지하였다.• 그 사람들을 돕기 위해서 방향을 바꾸면 탑승자가 희생된다·다수를 위해서 운전자가 희생되어도 괜찮은가.• 자율주행 자동차는 운전자를 최우선으로 중요시해야 하고 다수를 희생시켜도 괜찮은가.• 당신이 자율주행 알고리즘을 개발하는 인공지능 엔지니어라면 어느 쪽을 중요시하며, 해결 방법은 무엇일까?
1. 자율주행에서의 트롤리 딜레마, 앞에서 본 상황에 대해 자신의 생각을 적고 그에 대한 이유, 해결 방법 등을 제시하자.- 본인의 선택은? – 책임소재(운전자 vs 자동운전 알고리즘 개발사 등) – 공리적 판단? vs 운전자 중심의 판단?-내가 자율주행 인공지능 엔지니어라면 어떻게 설계할 것인가? -위의 이유와 해결책 등을 자유롭게 제시하는 것에 대한 나의 주관적인 생각
트롤리 딜레마 상황#1에서 결과적으로 나는 트롤리의 방향을 바꾸지 않을 것이다. 결과적으로 트롤리의 방향을 바꿔도 바꾸지 않은 인부의 죽음은 불가피하다. 공리주의의 관점에 따르면, 다수의 행복이 보장되는 결과를 추구하기 위해 트롤리의 방향을 바꾸는 쪽을 옹호하겠지만, 내가 트롤리의 방향을 바꾸는 순간 나는 타인의 죽음에 대해 직접 개입하게 된다. 여기 예에서는 단편적으로 한 번의 트롤리 딜레마 상황을 다뤘다. 그러나 현실에서 이런 딜레마 상황은 한 번으로 끝나지 않을 수도 있다.
예를 들어 공리주의를 다룰 때 일어나는 어린 히틀러를 떠올려본다. 궁극적으로 공리주의는 결과주의의 일종이기 때문에 어린 히틀러를 살해함으로써 홀로코스트(대학살)를 막을 수 있고 다수의 행복을 추구할 수 있다고 믿기 때문에 이러한 주관적 공리주의는 의도한 결과가 옳은 것이므로 당연한 것으로 받아들여진다. 그런데 어린 히틀러를 살해하면서 나타난 또 다른 독재자가 21세기 초 핵전쟁을 일으켜 이전보다 극악무도한 대학살이 일어났다면 어린 히틀러를 살해하는 것이 당연했다고 판단할 수 있을까. 공리주의자들은 이런 상황에서도 의도한 결과가 옳은 것이었고 결과적으로 최대의 행복을 이끌어내는 판단이었기 때문에 문제가 없다고 단정한다. 내 입장에서는 그렇지 않다. 결과는 행위를 사전에 예측할 수 없는 것으로 생각하며 시간이 지날수록 이 딜레마는 끊임없이 계속될 수 있다. 다시 돌아가 트롤리 딜레마 상황#1에서 변환기를 끌어냄으로써 내가 얻을 수 있는 좋은 결과는 최대의 행복을 이끌어낼 수 있다는 의도일 뿐이다. 그러나 이러한 의도는 예측할 수 없기 때문에 오히려 나쁜 결과를 초래할 수 있고, 나에게 사건에 개입할 계기를 마련해 줄 뿐이다. 단편적으로 더 이상 나쁜 결과가 발생하지 않는다고 가정하더라도 위의 예에서는 사건에 직접 개입하게 되므로 죽지 않을 예정이던 인부 1명을 희생자로 하는 사건에 개입하게 된다. 궁극적으로 가장 큰 문제점이 바로 이것이다. 트롤리의 방향을 바꾸는 행위로 나는 인부 한 명의 사망에 대한 책임소재가 생기는 것이며 이로 인한 죄책감은 직접적으로 느껴진다. 5명의 생명을 구하지 못한 데 대한 방관적 태도의 간접적 죄책감보다 더 크게 느껴지는 것이며 이에 대한 책임 소재도 분명해진다. 브레이크가 고장난 트롤리로 인해 발생한 사건이기 때문에 5명의 인부들은 안타까운 피해자이고, 이 사건의 직접적인 책임은 트롤리 점검기사나 제조업체 등으로 좁혀지고, 또 다른 희생자 발생을 막기 위한 나의 태도는 합당한 방관이라고 본다. 반대로 트롤리의 방향을 바꿔 더 적은 희생자를 발생시켰지만 이로 인한 나의 사건 개입이 한 사람의 희생자와 그 가족에 대한 죄의식이 없다고 확신할 수 없으므로 나는 방향을 바꾸지 않을 것이다.
트롤리 딜레마 상황#2도 같은 관점에서 접근할 것이다. 이는 이전보다 쉬운 결정을 내릴 수 있다. 마찬가지로 내가 중요하게 생각하는 관점은 첫째, 죽음이 불가피한가? 둘째, 내가 사건에 개입하게 되는가?셋째, ‘가장 큰 행복’을 이끌어내는 결과는 확실한가? 공리주의에서는 결과적으로 셋째, 결과가 아닌 의도에 중점을 두기 때문에 둘째 관점은 우선순위에서 밀려나게 된다. 트롤리 딜레마 상황#2에서도 마찬가지로 공리적인 입장이라면 뚱뚱한 사람을 밀치는 일이 될 것이다. 이유는 쉽게 소수의 희생으로 다수의 희생을 막을 수 있기 때문에 최대의 행복 의도를 분명히 하는 행위이기 때문이다. 내 관점에서 다가왔을 때 트롤리가 달리는 상황에서 인부들의 희생은 이미 확정된 것이다. 이러한 확정적인 죽음의 책임은 모두 트롤리와 관련된 책임자에게 있을 것이며 나는 전혀 사건에 개입하지 않을 것이다. 뚱뚱한 사람을 밀어내는 순간 죽음을 피할 수 있었던 무고한 사람을 희생자로 만드는 것이며 죽음이 불가피한 다수의 사람을 도울 수 있다. 여기서 중요한 것은 첫 번째 관점에서 불가피했던 다수의 죽음을 살리는 것보다 무고한 사람을 희생자로 만드는 것이 더 좋지 않은 판단이라고 본다. 또, 트롤리 딜레마 상황#1과 마찬가지로, 사건 개입도 실시하게 되는 것이다. 사람을 직접 떠미는 것이기 때문에 죄책감이 더 크게 느껴질 수 있지만 중요한 관점은 죄책감의 크기가 아니라 그런 죄책감이 생길 수 있는 일말의 여지를 생각해야 한다. 상황과는 다르지만 내가 그 상황에 없었다고 가정하면 결국 두 상황에서 모두 다수의 희생자가 났을 것이고, 이 사건을 뉴스로 접한 나는 죄책감에 대한 여지가 전혀 없을 것이다. 그러나 상황에서는 사건에 개입할 여지가 주어졌고 이로 인한 죄책감이 생길 수 있는 일말의 상황이 조성되었던 것이다. 이런 상황이라야 방관하는 것이 공리주의와 달리 예측성에 바탕을 둔 결과가 아닌 확실한 결과를 도출할 수 있다. 남을 밀쳐내도 밀치지 못한 죄책감의 여지가 생길 수 있고 밀어낼 때는 확실한 죄의식이 생긴다고 생각한다. 물론 두 상황 모두 다른 사건이 앞으로 일어날 가능성을 염두에 두지 않기 때문에 최대 행복의 의도가 확실해질 수는 있다. 그럼에도 결론적으로 방관에서 생기는 죄의식과 사건 개입에 따른 직접적인 죄의식은 남을 밀어냄으로써 다수를 구했을 때 얻어지는 최대의 행복으로 그 죄책감의 차이를 극복할 수 없다고 본다. 또 사람을 밀지 아니한 때에는 그 후의 사건에 대한 죄책감의 여지가 명확하게 발생한다고 단정할 수 없다. 이런 죄책감이 생길 소지도 궁극적으로 책임이 유동성에 대해 생각하면 밀지 않았을 때 전혀 발생하지 않을 수 있다. 결국 이 책임의 유동성, 즉 사람을 밀어낼 때 생기는 사건에서 트롤리 관련 책임자들의 책임이 사건 개입에 의한 나에게 전가되는지를 따져볼 때 그 가능성은 매우 낮지만은 않다. 한편 밀지 않았을 때 나에게 적용되는 책임은 간접적인 방관으로 느껴지는데 이는 또 다른 희생자를 막기 위한 방관이므로 그 책임의 본질이 다르다고 볼 수 있다.
사실상 이 같은 딜레마의 두 상황 모두 다른 희생자를 막기 위한 행위이므로 나에 대한 책임은 거의 없다고 보지만 그것이 간접적인 방관인 것은 직접적인 개입에 비해 책임의 유동성이 발생하지 않을 가능성이 훨씬 높다고 판단된다. 실재는 본질에 앞선다고 생각하므로 가장 큰 행복의 의도가 분명하고 그 결과까지 확실하다면 제3자의 입장에서 나는 어린 히틀러를 살해하는 것과 트롤리의 방향을 바꾸는 것, 사람을 밀치는 행위에 모두 동의할 것이다. 그러나 실제로 어린 히틀러를 살해하는 것은 결과가 분명치 않으며 트롤리의 상황은 제3자의 시선이 아니라 나로 인한 책임의 유동성이 발생하게 되며 이로 인한 사건 개입은 나의 본질을 깨는 행위가 된다. 나의 죄의식과 책임성에서 본질을 간파하게 되므로 이때는 실재가 본질을 리드하는 데 대한 의미가 사라지는 것이다. 예를 들면, 의자는 본질은 「앉는다」이며, 의자는 아니지만 앉을 수 있는 것은 실재이며, 본질적으로 그 목적을 실시할 수 있다. 이 상황에서는 사건에 대한 책임이 없는 것이 나의 본질이며 어떤 상황이 일어나도