ChatGPT, 가짜 영수증도 문제없는 AI 이미지 생성기!

지난주, 저는 ChatGPT가 이미지에서 제가 원하는 텍스트를 표시하지 않아 얼마나 실망했는지에 대해 썼습니다. 그런데 이제 그 문제가 해결된 것 같고, 매우 설득력 있는 텍스트로 가득 찬 이미지를 쉽게 만들 수 있습니다. 사실, 이 텍스트들은 너무나도 설득력 있습니다.

ChatGPT는 설득력 있는 텍스트를 생성할 수 있는 최초의 무료 AI 이미지 생성기로, 이미 많은 사람들이 ChatGPT가 생성한 이미지들이 너무 좋아서 영수증을 위조하는 데 사용할 수 있다고 주목하고 있습니다.

그래서 이제 우리는 온라인에서 보는 이미지들에 대해 더욱 신중해야 할 것입니다. 가짜 이미지와 진짜 이미지를 구별하는 것이 그 어느 때보다 어려울 것이기 때문입니다. 하지만 AI의 가짜 이미지를 식별할 수 있는 방법이 있을 것입니다.

디테일 속의 진실

ChatGPT에서 생성된 가짜 영수증. (이미지 제공: OpenAI)

이번 주에 ChatGPT의 서버는 요요처럼 오르락내리락했고, 작동할 때는 매우 느렸습니다. 이는 ChatGPT가 새로운 이미지 생성 기능을 발표한 이후 사용자가 급격히 증가했기 때문입니다.

OpenAI의 CEO인 샘 알트먼은 X에 포스팅하면서 “26개월 전 ChatGPT의 출시 당시 제가 본 가장 대단한 바이럴 순간 중 하나였고, 5일 만에 사용자 100만 명을 추가했습니다. 이제는 지난 한 시간 안에 사용자 100만 명이 추가되었습니다.”라고 말했습니다.

샘 알트먼은 X에서 이를 “성경적인 수요, 지금까지 본 적 없는 것”이라고 설명했습니다.

모두가 자신과 애완동물을 스튜디오 지브리 스타일의 애니메이션으로 만들고 싶어 했고, 이에 따라 ChatGPT의 서버는 버거워졌습니다.

하지만 제가 정말 흥미롭게 여긴 것은 ChatGPT의 애니메이션 기능이 아니라, 개선된 텍스트 렌더링입니다. AI는 항상 손가락을 잘 못 그리는 것처럼 텍스트를 생성하는 데 서툴렀으며, 이러한 난독화된 텍스트는 AI 생성 이미지를 식별하는 방법 중 하나였습니다.

이제 완벽히 읽을 수 있는 텍스트를 생성할 수 있게 되면서, 더 이상 진짜와 가짜를 구별하는 것이 어려워졌고, 그래서 좀 더 깊게 탐색해야 할 필요가 생기게 되었습니다.

Mac에서 파일의 메타데이터를 확인하기 위해 ‘정보 보기’ 사용하기. (이미지 제공: Apple)

컴퓨터나 휴대폰의 각 이미지는 메타데이터를 가지고 있습니다. 이 메타데이터는 이미지가 어디서, 어떤 앱으로 생성되었는지 또는 사진의 경우 어떤 카메라로 찍었는지 알려줍니다. ChatGPT에서 생성된 이미지도 마찬가지로 메타데이터가 포함되어 있고, 이 메타데이터는 필요한 모든 정보를 제공합니다.

Mac에서 이 메타데이터를 보려면 해당 이미지를 다운로드한 후 Finder에서 오른쪽 클릭하여 정보 보기를 선택합니다. ChatGPT 웹사이트에서 생성된 이미지는 메타데이터의 “어디에서:” 부분에 “ChatGPT.com”이 포함되어 있습니다.

Windows에서는 파일 탐색기를 열어 이미지를 찾은 후 오른쪽 클릭하여 속성을 선택합니다. 자세한 정보 탭을 클릭하고 스크롤하여 어떤 앱으로 생성되었는지 알려주는 메타데이터를 찾으면 됩니다.

불행히도, 저희의 모든 시험에서 Windows는 해당 파일이 ChatGPT에서 생성되었다는 메타데이터 부분을 표시하지 못했습니다.

iPhone에서는 사진에서 정보 아이콘을 탭하면 “ChatGPT에서 저장됨”이라고 표시됩니다. Android에서는 Windows와 마찬가지로 이미지가 ChatGPT에서 생성되었다는 메타데이터를 확인할 수 없었습니다.

하지만 짜증나는 것은, 메타데이터를 확인할 수 있다고 하더라도 믿을 수 없다는 점입니다. 이 메타데이터는 편집할 수 있습니다. 쉬운 작업은 아니지만 만약 누군가가 의지가 충분하다면 방법을 찾을 것입니다.

게다가 간단히 이미지 파일을 온라인 서비스에 업로드하고, 동일한 파일을 다시 다운로드하는 것만으로도 많은 메타데이터가 손실되는 것 같습니다.

누구에게 연락할까요?

우리의 가짜 영수증이 온라인 AI 이미지 검사기를 쉽게 속였습니다. (이미지 제공: Sightengine)

그렇다면 메타데이터를 믿을 수 없다면 무엇을 해야 할까요?

이미지가 AI로 생성되었는지 여부를 알려주는 온라인 검사기가 많이 있습니다. 일반적으로 이들은 꽤 잘 작동하지만, 제가 발견한 바에 따르면 위의 영수증과 같은 새로운 ChatGPT의 텍스트 이미지는 너무 현실적이어서 검사기를 완전히 속일 수 있습니다.

예를 들어, 위에서 본 “TasteRadar” 가짜 영수증 이미지를 Sightengine에 업로드했는데, 여태까지 업로드한 다른 AI 인물 이미지들에 대해서는 결과를 정확히 맞췄던 이 검사기도 “진짜일 가능성이 높다”라며 AI로 생성되었을 확률이 7%에 불과하다고 했습니다.

이제 저는 걱정이 됩니다. AI 이미지 검사 웹사이트들이 새롭게 생성된 ChatGPT 이미지에 속는다면 우리는 모두 곤란할 것입니다.

현재는 이미지가 가짜인지 내가 여전히 알아차릴 수 있다고 생각하고 싶습니다. ChatGPT가 생성한 텍스트에는 일정한 규칙성이 있어 실제로 인쇄된 것처럼 보이는 것과는 다르게 너무 완벽합니다. 하지만 모든 이미지에서 그것을 알아차릴 수 있다고 한다면 스스로를 속이는 느낌을 받습니다. 그리고 당연히 시간이 지나면서 더 나아질 것입니다.

AI 이미지가 너무 좋아져서 우리가 그것이 진짜인지 여부를 판단할 수 없다면, 우리는 앞으로 보거나 듣는 모든 것을 의심해야 하게 될 것입니다.