[Quora] 자율주행차는 피해를 최소화하거나쁘지않아 운전자의 안전을 우선하도록 프로그래밍해야 합니까?

>

들어가는 Quora의 예기는 객관적인 예기도 있지만, 다양한 사람들이 자유롭게 의사를 포용하는 공간이므로 약간 주관적인 예기도 있습니다. 본인명 승급제도와 동일한 "Upvote"를 통해 예기의 공유 정도를 본인에게 보여주고 있습니다. 이점들을참고로읽어보시면좋을것같습니다. 그리고 제가 소개하는 글 이외에도 그 주제로 다른 사람의 의견도 있습니다. 관심 있으신 분들은 아래 참고자료에 접속해서 추가로 읽어보시면 됩니다.자,그럼시작해볼까요?

작성자:Geoffrey Widdison, 화학 엔지니어(2006년~현재)​ 여기서 " 해야 합니다(Should)"다는 줄거리에는 정 이야기 답을 할 수 없습니다.(이해를 돕기 위해 영어 제목을 당초 부유합니다. Should aself-driving car be programmed to minimize harm or prioritize the driver's safety?) 보다 좋은 질문은 그들이 어떻게 프로그램 되는가 하는 것입니다. 모든 적용 가능한 교통법규에 따라 자율주행차가 차량 탑승자의 안전을 지키도록 프로그래밍되기를 바라는 것으로 배팅할까 합니다. 그들은 두 사람의 목숨을 구하러 한명의 목숨을 희생하게 대 칠로, 극히 짧은 순간의 결정(split-second decision)을 내린 특이로 가상적인 귀취에 대해서 거의 확실하게 프로그래밍되지는 않죠. 이는 기존 센서와 기존 AI의 용량을 크게 웃도는 것으로 제조 대기업들은 그런 종류의 매우 복잡한 추론적인 시스템을 시도하고 개발하려는 동기가 전혀 없습니다.보행자가 도로에 있는 경우, 타러 해도 다른 충돌을 1개도 없이 최대한 빨리 차를 세우게 추측하면 프로그래밍된다고 생각합니다. 자동차 대기업들은 이들이 길이 완전히 깨끗하다는 것을 확인하지 못하는 한 충돌을 피하기 위해 차선을 친국어로 만들도록 결코 프로그래밍하지 않을 것입니다. "이것은 도덕적 철학에서 비롯된 것이 아니라, 단지 그들이 자신감을 갖지 못한 차선에 머무르는 한, 그들은 어떤 결과적인 부상에도 거의 확실한 책입니다" 반면 만약 그들이 거칠게 돌아다니고 도덕적으로 최적의 해결책을 찾아 누군가를 숨지게 한다면 그 사람의 가족은 고소할 것입니다. 법정에서 트롤리 문제를 논하는 것은 대부분의 회사가 그들 자신을 좋아하지 않기 때문에 원하는 입장이 아닙니다.결론적으로 안전 프로토콜은 평범하고 지루하고 엄격하게 법을 준수하는 것 중 하나입니다. 도덕성에 뭔가 다른 것이 필요하다고 판단되면 법을 바꾸는 것이 필요하겠죠.​

>

끼어드는 것은 오랜만에 윤리적인 스토리를 쓰고 있는 것 같네요. 최신 인공지능(AI)의 발전과 함께 자주 거론되는 주제가 즉석 인공지능의 윤리적 문제라고 생각합니다. 자율주행차라고 분명히 말하지는 않지만, 넓은 의미에서 인공지능의 발전과 윤리적인 문제에 대해 자주 언급되고 있다고 생각합니다.저도 아주 가끔 트롤리 딜레마에 대해서 언급하는데, 정말 거의 글의 소재로 다루지는 않는 것 같아요. 처소음의 트롤리 딜레마에 대해서 정리하고, MIT의 Moral Machine 결과, 독소나 행정부의 윤리선언 정도가 본인명 직접적으로 다룬 글인 것 같습니다. 그 이유를 생각해 보면, 자율주행의 윤리적 문제에 답이 없다는 것에 고개를 숙이게 되는 것 같습니다. 물론 현재까지는 그렇습니다. 하지만 앞으로도 그렇게 되지 않을까 한다. 이번 글의 작성자도 그런 부분에서 자율주행차의 사회적 문제에 대한 접근을 법적 관점에서 한 것으로 보입니다.자율주행차의 머리 역할을 하는 AI의 예외 귀추에서의 동작을 윤리적인 부분에서 접근한다면 답을 찾기 어려울 것입니다. 윤리적인 문제라는 것이 답을 찾는 것이 아니라 당시 사회가 갖고 있던 가치에 대한 흐름과 기본적인 사람들이 갖고 있던 본성에 대한 생각의 정리이기 때문이 아닐까. 이와 같이 택무 본인도 주관적인 판단을 하겠지만 명확한 사항에 기술 기준을 연결시키는 것은 쉬운 일이 아닙니다. 그래서 역사는 법이라는 잣대를 만들고, 사람들이 최소한의 도리를 지킬 수 있도록 하는 문명사회를 만들지 않았다.제가 철학이 본인의 사회학을 연구하는 사람이 아니기 때문에 더 이상 언급해서는 안 된다고 생각합니다. 다시 기술적인 부분으로 돌아가서 앞 문장은 현실적인 대답을 하고 있는 것 같습니다. 저도 물론 현재 자율주행차를 개발하고 있는 중견기업에서 어떻게 이런 일을 해도 Percent도 안 되는 예외귀추에 대처하는 프로그램을 만들고 있는지는 모르겠지만 윤리적 접근은 못하고 있습니다.이런 이유로 자율주행차 AI에 대한 프로그램 공개 검증이 필요하다는 목소리도 나오고 있습니다. 간단하게 프로그램의 소스코드를 공개하고 검증을 받아야 한다는 것입니다. 물론 자율주행차를 개발하는 중견기업 입장에서는 말이 안 되는 주장이죠. 하지만 자율주행차를 도로상에 등장시키기 위해 각국 정부에서 노력하는 과정에서 이런 검증 과정을 통과 전제로 추가하는 하나가 발생한다면 중견기업 입장에서는 달리 방법이 없을 겁니다.또 다른 주장 중에는 전 세계 자율주행차 AI의 욕심을 만들어야 한다는 의견도 있습니다.아직 다양한 의견이 나오고 있지만 구체화된 스토리는 없습니다. 아직 자율주행차가 문제가 되지 않아서요. 물론 몇몇 중견기업의 문제 뉴스는 있지만 일반인들에게는 큰 관심을 끌 정도로 우리 생활에 들어오지 못하고 있기 때문이다. 머지않은 그런 날은 올 것이고, 당시 본격적인 논의가 시작될 것입니다. 결말에는 윤리적인 문제가 아니라 법적인 문제로 귀결될 것으로 조심스럽게 추측합니다.PS: 검색을 통해 보시고, 만약 원하시는 스토리를 찾을 수 없다면, '태그' 또는 '검색'을 해보시면 더 많은 자료를 찾을 수 있습니다. 그래도 찾으시는 스토리가 없으시면 (이미하나,메모) 제가 알고 있는 범위 내에서 도와드리도록 하겠습니다. 부다 소음을 가지지 않아도 됩니다.Over the Vehicle!!!참고 자료

​