AI 생성 아동 학대 자료가 급증하며 인터넷 안전에 비상이 걸렸습니다. 2025년 상반기에만 485,000건의 AI-CSAM이 보고되었고, 이는 이전보다 크게 증가한 수치입니다. AI로 만든 콘텐츠가 실제와 거의 구별이 어려워 법 집행 기관들이 대응에 어려움을 겪고 있습니다.
뉴욕타임스에 따르면, AI로 생성된 아동 성적 학대 자료(CSAM)가 인터넷에 범람하고 있다고 합니다. 인터넷 감시 재단(Internet Watch Foundation) 및 실종 및 착취 아동을 위한 국가 센터(National Center for Missing & Exploited Children)와 같은 기관의 연구자들은 이 새로운 AI 생성 CSAM이 실제 자료와 거의 구별이 불가능하다고 경고하고 있습니다.
관련 수치를 살펴보겠습니다. CSAM을 조사하고 보고하는 비영리 단체인 인터넷 감시 재단은 올해 들어 현재까지 AI로 생성된 비디오 1,286편을 식별했습니다. 이는 2024년 상반기에 확인된 2편의 비디오와 비교되는 수치로, 기하급수적인 증가입니다.
인공지능(AI)의 발전은 학습과 혁신을 지원하는 등 여러 이점을 제공합니다. 그러나 AI가 아동 성적 학대 자료(AI-CSAM)를 생성 및 공유하는데 악용될 수 있다는 우려가 커지고 있습니다.
실종 및 착취 아동을 위한 국가 센터도 이러한 통계를 재확인하고 있습니다. 이 기관은 2025년 상반기에 AI로 생성된 CSAM에 대한 보고를 485,000건 받았으며, 이는 정지 이미지와 비디오를 포함합니다. 이는 2024년 전체 67,000건과 비교됩니다. 또 다른 엄청난 증가입니다.
인터넷 감시 재단의 임시 CEO인 데릭 레이-힐은 “이것은 마치 광산 안의 카나리아와 같습니다. 절대적인 해일을 보고 있습니다.”라고 말했습니다.
이러한 기술은 지속적으로 발전하고 있으며, 비디오와 이미지가 더욱 현실적으로 변하고 있습니다. 인터넷 감시 재단은 사용자들이 새로운 비디오의 현실성을 칭찬하는 인터넷 포럼을 발견했습니다. 보고에 따르면 이 콘텐츠는 다크 웹을 통해 배포되며, 이는 법 집행 기관이 범죄자를 식별하기 어렵게 만듭니다.
AI 이미지 생성기가 어떻게 작동하는지 기억할 필요가 있습니다. 이들은 실제 이미지와 비디오를 사용해 학습합니다. 뉴욕타임스에 따르면, 이 새로운 AI 생성 콘텐츠의 많은 부분이 알고리즘에 의해 재구성된 실제 CSAM을 포함하고 있으며, 일부 자료는 학교 웹사이트와 소셜 미디어에서 스크랩된 실제 아동 사진을 사용하고 있다고 합니다.
이 문제는 기술 초기 시절로 거슬러 올라갑니다. 2023년에 스탠포드 인터넷 관측소의 연구자들은 이미지 생성기 스테이블 디퓨전의 초기 버전 데이터 세트에서 수백 개의 CSAM 예시를 발견했습니다. 스테빌리티 AI는 안전 기준을 향상시키기 위한 보호 장치를 도입했으며 특히 CSAM을 포함하여 유해 콘텐츠의 제작 및 확산을 방지하기 위해 기술 오용 방지에 깊이 헌신하고 있다고 밝혔습니다.
이로 인해 다른 회사들도 실종 및 착취 아동을 위한 국가 센터에 AI로 생성된 CSAM을 보고하기 시작했습니다. 아마존은 올해 상반기에 AI 생성 CSAM 380,000건을 보고하고 모두 제거했습니다. 오픈AI는 75,000건을 보고했습니다.
법원은 이 기술을 따라잡는 데에 더딘 모습을 보이고 있습니다. 미 법무부는 작년에 AI로 생성된 CSAM을 소지 및 배포한 혐의로 첫 번째로 알려진 체포를 했습니다. 영국에서는 AI를 사용해 이 이미지를 생성하고 판매한 남성이 최근 18개월 형을 받았습니다.
매트 갈레오티 미 법무부 형사부 책임자는 “법무부는 모든 형태의 AI로 생성된 CSAM을 심각하고 새롭게 등장하는 위협으로 간주하고 있습니다.”라고 뉴욕타임스에 밝혔습니다.
현 상황에서 우려할 수준으로 발생률이 증가했지만, AI로 생성된 콘텐츠는 여전히 당국 및 감시 기관이 식별한 전체 CSAM의 극히 일부분을 차지하고 있습니다. 예를 들어, 인터넷 감시 재단은 2024년에 291,273건의 CSAM 보고를 확인했고, 앞서 언급한 바와 같이 AI로 생성된 것은 단 두 건이었습니다.
※출처: Engadget
