영국 법무부가 범죄 예측 AI 도구 개발로 논란에 휩싸였습니다. 경찰 데이터를 활용해 살인자를 예측하려는 이 도구는 민감한 정보를 포함하고 있으며, 인종차별 문제를 야기할 가능성이 있습니다. 시민 단체는 이 도구가 형사법 시스템 내 차별을 강화할 수 있다고 경고했습니다. 현재 이 프로젝트는 연구 목적으로 진행 중이며, 결과 발표가 예정되어 있습니다.
가디언은 영국 법무부가 사람들을 살인자로 발전할 가능성이 있는지를 판별하는 알고리즘을 개발 중이라고 보도했습니다. 초기에는 “살인 예측 프로젝트”로 불리던 이 도구는 영국 경찰의 데이터를 활용하며, 여기에는 용의자뿐만 아니라 피해자 및 목격자에 대한 정보도 포함될 수 있습니다.
시민 자유 감시 단체인 Statewatch는 정보공개법을 통해 이 프로그램을 발견했습니다. 이 단체가 입수한 문서에 따르면, Statewatch는 경찰의 데이터에 기초해 10만 명에서 50만 명 사이의 사람들에 대한 정보를 사용하여 예측 도구를 개발했다고 주장했습니다. 법무부에 공유된 정보의 여러 카테고리는 또한 정신 건강, 중독, 자살 및 장애와 같은 민감한 주제를 포함하는 것으로 드러났습니다.
“거듭된 연구가 범죄를 ‘예측’하는 알고리즘 시스템이 본질적으로 결함이 있음을 보여주고 있습니다,”라고 Statewatch의 연구원 소피아 라일은 말했습니다. “우리의 제도적으로 인종차별적인 경찰 및 내무부의 데이터를 사용하는 이 최신 모델은 형사법 시스템을 지탱하는 구조적 차별을 강화하고 확대할 것입니다.”
“이 프로젝트는 연구 목적을 위해 진행되고 있습니다. 이는 확정된 범죄자에 대한 교정국 및 경찰의 기존 데이터를 사용하여 집행유예 중인 사람들이 심각한 폭력을 저지르는 위험을 더 잘 이해하기 위해 설계되었습니다. 이 과정에 관한 보고서는 추후에 발표될 예정입니다,”라고 법무부 대표는 가디언에 전했습니다.
법 집행 기관은 AI 도구와 오랫동안 의문스러운 관계를 가지고 있습니다. 이는 AI를 경찰 보고서 작성에 사용하는 것에서부터 (나쁜 생각) ShotSpotter와 같은 프로그램을 오용하는 경우 (또 다른 나쁜 생각), 시민의 프라이버시에 위협이 되는 기술을 채택하는 것까지 (또한 나쁜 생각), 이러한 기술이 잘 활용된 사례는 역사적으로 찾아보기 어렵습니다.
※출처: Engadget
