ChatGPT로 놀라운 가짜 영수증 생성 방법 소개!

ChatGPT-40의 새로운 이미지 생성기를 사용하여 가상의 레스토랑 TasteRadar의 영수증을 만드는 우리의 시도(위 그림)는 꽤 괜찮았지만, 총합이 실제로 맞지는 않습니다.
(이미지 출처: OpenAI)

• 이제 ChatGPT로 가짜 영수증을 쉽게 생성할 수 있습니다
• 이 영수증은 설득력이 있으며 추가 조정을 통해 매우 진짜같이 보일 수 있습니다
• OpenAI는 메타데이터와 사용 정책이 우리를 보호해줄 것이라고 합니다

생성적 AI는 AI 생성 이미지의 가장 명백한 문제 중 하나인 텍스트 문제를 해결하는 것처럼 보입니다. 그리고 이 소식은 아무 의미 없는 글자가 포함된 이미지를 지겹게 보아 온 모든 이들에게 반가운 소식이지만, 이는 의도치 않은 결과를 초래할 수도 있습니다. 이제 ChatGPT가 가짜 영수증을 꽤 잘 만들어내고 있다는 것입니다.

이 가짜 영수증은 바로 알아볼 수 있는 사람이 보면 완전히 설득력 있지는 않습니다. 너무 깨끗하고, 약간 CGI 같으며, 때때로 계산이 틀리기도 합니다(위의 예시와 같이). 하지만 또한 쉽게 놓칠 수 있습니다. 약간의 손질로 주름이나 음식 얼룩을 추가하여 더 현실감 있게 만들 수 있습니다.

현 시점에서 가장 효과적인 방법은 기존 영수증을 ChatGPT로 재생성한 후, 원하는 가격으로 바꾸는 것입니다.

OpenAI는 크게 걱정하지는 않는다고 하지만, 이는 디지털 사기꾼들과 문제를 일으키는 자들에게는 효과적인 새로운 도구로 보입니다.

우리는 OpenAI에 연락하여 AI 생성 영수증과 같은 트렌드를 주시하고 있다는 대변인의 말을 들었습니다. “우리는 플랫폼 안팎에서 이미지 생성 과정을 모니터링하고, 내부 도구를 사용하여 해당 이미지가 우리 제품에 의해 생성되었는지 확인하며, 사용 정책 위반을 식별할 때 조치를 취합니다,”라고 그들은 밝혔습니다.

“우리는 실제 사용 사례와 피드백에서 끊임없이 배우고 있으며, 창의적 자유와 오용 방지를 균형 있게 맞추기 위해 우리의 정책을 계속 정제해 나갈 것입니다. 모든 이미지에는 OpenAI에 의해 AI 생성되었음을 나타내는 산업 표준 C2PA 메타데이터가 포함됩니다,”라고 OpenAI 대변인이 덧붙였습니다.

그러나 OpenAI의 대변인 Taya Christianson은 TechCrunch와의 인터뷰에서 가짜 영수증에 대한 긍정적 사용 가능성에 대해 한 걸음 더 나아가 말했습니다: “비사기적 상황에서 금융 문해력을 가르치는 것”을 위한 것입니다.

기사 삽화나 실제 또는 가상의 무대 장식을 위한 소품 제작에 사용할 수도 있을 것 같습니다. 하지만 가짜 영수증은 사기를 위해 사용될 수도 있으며, 이미지가 더 설득력이 있을수록 사기를 더 쉽게 조장할 가능성이 큽니다.

‘ChatGPT에 의해 생성됨’이라는 메타데이터 보호장치는 괜찮지만, 메타데이터 없이 이미지를 내보내는 것은 클릭 한 번으로 이루어질 수 있습니다. 이러한 보호장치들이 소셜 미디어의 “좋게 말하기” 정책이 인터넷에서 사람들이 나쁘게 행동하는 것을 막지 못한 것과 마찬가지로 가짜 이미지를 사기에 사용하는 것을 막을 수 있을지는 확실하지 않습니다.

그러나 인정하자면, OpenAI의 직원들이 이 기술을 사용하여 자신의 비용 청구서를 부풀리기 시작한다면 굉장히 재미있을 것입니다.