OpenAI는 ChatGPT를 이용한 중국의 비밀 영향력 작전을 TikTok, Facebook 등에서 차단했습니다. 이 작전은 다양한 주제의 소셜 미디어 콘텐츠 생성을 통해 정치적 오해를 조장했습니다. OpenAI는 이외에도 러시아, 이란, 북한의 유사한 작전도 방해했으며, 이는 AI의 오용에 대한 경각심을 일깨웁니다.
중국의 선전과 사회 공학 작전은 ChatGPT를 활용하여 국내외에서 게시물과 댓글을 생성하고 참여를 유도하는 작업을 수행해 왔습니다. OpenAI는 최근 자사의 도구를 이용해 TikTok, Facebook, Reddit, X 등 여러 플랫폼에서 소셜 미디어 게시물과 답글을 생성하던 네 개의 중국 비밀 영향력 작전을 방해했다고 밝혔습니다.
생성된 댓글은 미국 정치부터 중국 공산당과 싸우는 대만 비디오 게임까지 다양한 주제를 다루고 있었습니다. ChatGPT는 오해를 불러일으키는 정치적 담론을 조장하기 위해 서로 다른 뜨거운 이슈를 지지하거나 비판하는 소셜 미디어 게시물을 생성하는 데 사용되었습니다.
OpenAI의 수석 조사관인 벤 니모는 NPR과의 인터뷰에서 “중국에서 관찰되는 것은 다양한 전술을 이용한 비밀 작전의 범위가 점점 커지고 있다는 것입니다.”라고 말했습니다. OpenAI는 또한 러시아, 이란, 북한에서 유래한 것으로 보이는 소수의 작전도 방해했다고 주장하며, 중국 작전에 대해 니모는 “많은 국가와 주제를 목표로 삼았으며, 이 중 일부는 영향력 작전, 사회 공학, 감시의 요소를 결합한 것이었습니다.”라고 설명했습니다.
이러한 일은 처음이 아닙니다. 2023년, 사이버보안 회사 Mandiant의 연구원들은 2019년 이후로 다수의 정치적 동기를 가진 온라인 영향력 캠페인에서 AI 생성 콘텐츠가 사용되었다는 것을 발견했습니다.
2024년, OpenAI는 중국, 이란, 북한의 국가 연계 작전이 OpenAI 모델을 악의적으로 사용한 다섯 가지 사례를 방해하기 위한 노력을 명시한 블로그 게시물을 발표했습니다. 이러한 응용 프로그램에는 코드 디버깅, 스크립트 생성, 피싱 캠페인에 사용할 콘텐츠 생성이 포함되었습니다.
같은 해, OpenAI는 이란의 비밀 작전을 방해했다고 밝혔습니다. 이 작전은 ChatGPT를 이용해 미국 선거에 관한 장문의 정치 기사를 작성해 보수적 또는 진보적인 매체로 위장한 가짜 뉴스 사이트에 게시했습니다. 이 작전은 또한 X와 Instagram에 가짜 계정을 통해 상반된 견해를 담은 댓글을 작성하는 작업을 수행했습니다.
니모는 NPR과의 인터뷰에서 “AI 사용으로 인해 이러한 작전이 더 많은 참여를 얻는 경우는 일반적으로 보지 못했습니다.”라며, “이러한 작전의 경우, 더 나은 도구가 반드시 더 나은 결과를 의미하는 것은 아닙니다.”라고 밝혔습니다.
이는 거의 위안이 되지 않습니다. 생성 AI가 저렴해지고 더 스마트해지면서 대량의 콘텐츠를 생성하는 능력은 이러한 영향력 캠페인을 더욱 쉽고 저렴하게 구축할 수 있도록 할 것입니다. 비록 이들의 효율성은 크게 달라지지 않을지라도 말입니다.
※출처: Engadget
