도로 분노 사건에서 살해된 피해자가 AI 딥페이크 형태로 법정에 등장, 자신의 용서를 전했습니다. 판사는 10년 이상 징역형을 선고했으며, AI의 법적 선례가 우려됩니다.
NBC 뉴스에 따르면, 도로 분노 사건의 피해자로 고인이 된 사람이 AI로 생성된 딥페이크 형태로 피고인의 선고 심리에 자신의 영향을 직접 전하는 사례가 처음으로 등장했습니다.
애리조나주 매리코파 카운티 검찰청 대변인에 따르면, 피해자 크리스토퍼 펠키를 AI 형태로 활용하자는 아이디어는 그의 가족으로부터 나왔습니다. 펠키의 여동생은 2년 동안 영향 진술서를 작성했지만 자신의 말이 그의 기억에 적합하지 않을 것 같다고 느꼈다고 설명했습니다. 펠키는 2021년 도로 분노 사건 중에 총으로 피살되었습니다.
이러한 이유로 딥페이크 아바타를 도입하자는 아이디어가 탄생했습니다. 펠키의 여동생은 CNN과의 인터뷰에서 “이것이 그가 생각했을 것”이라고 확신하며 대본을 작성했습니다. 매리코파 카운티 고등법원 토드 랭 판사는 이 아이디어를 승인했고, 가족은 법정에서 AI로 생성된 펠키의 영상을 재생했습니다. 영상에서 아바타는 사실상 자신의 살인범을 위한 관대함을 요청하는 모습을 보였습니다. 피고인은 올해 초 과실치사 및 위협 혐의로 유죄 판결을 받았습니다.
“나를 쏜 가브리엘 호르카시타스에게: 그날 그러한 상황에서 우리가 만난 것은 유감입니다,”라고 AI로 생성된 펠키는 말했습니다. “다른 삶에서는 아마도 친구가 될 수 있었을 것입니다. 나는 용서를 믿습니다.”
그러나 판사는 징역 10년 이상의 최대형을 선고했습니다. “저는 용서를 들었습니다,”라고 AI 생성 아바타에 대해 판사가 말했습니다. “저는 그것이 진실하다고 느꼈습니다. 오늘 제가 들은 펠키의 인물상을 반영하는 그의 명백한 용서는 진실하다고 느껴집니다.”
피고측은 AI 프레젠테이션이 항소의 강력한 쟁점이 된다고 주장했습니다. “판사는 특히 피해자로부터 무엇을 들을지에 대해 재량권이 있지만, 항소 법원이 이것이 잘못인지 결정해야 할 것입니다,”라고 변호사 제이슨 람은 말했습니다. 이 사건은 절차적 문제로 이미 재심이 열렸습니다.
애리조나 주립대학교의 윤리 및 신기술 전문 법학교수인 게리 마천트는 이번 사례가 설정한 법적 선례에 대해 우려를 표했습니다.
“당신은 그 사람이 법정에서 실제로 말하는 것을 보고 있지만, 현실에서는 그들이 죽었고 말을 하고 있지 않는 것입니다,”라고 그는 NBC 뉴스에 말했습니다. “이것은 위험한 영역으로 우리를 이끌 수 있는 또 다른 도약입니다.”
※출처: Engadget
