구글 AI의 개요 기능은 유머러스한 환각을 일으켜, 허구적인 관용구를 실제처럼 설명합니다. ‘오소리를 두 번 핥을 수 없다’ 등의 사례가 대표적입니다. 이러한 환각은 사용자가 사실 확인을 하지 않을 경우 잘못된 정보를 확산할 가능성을 보여줍니다. 2023년 미 연방 법정에서도 유사한 AI 사용 실수로 변호사들이 벌금을 물었습니다. 이러한 사례들은 AI 기술이 여전히 오류를 범할 수 있음을 경고합니다.
빅 테크 기업들이 인공지능(AI)에 막대한 자금과 자원을 투자하며 그 기술의 유토피아적 가능성을 설파하고 있는 가운데, 알고리즘이 여전히 큰 오류를 범할 수 있음을 상기시켜드립니다. 최근 사례로는 구글의 AI 개요 기능(사용자가 검색할 때 가장 먼저 자동으로 나오는 답변)에서 허구적이고 무의미한 관용구를 실제로 존재하는 것처럼 설명할 수 있다는 점이 발견되었습니다.
구글의 AI 개요에 따르면 “너는 오소리를 두 번 핥을 수 없다”는 “누군가를 한 번 속인 후에는 그 사람을 다시 속일 수 없다”는 의미를 가진다고 합니다. 만약 이 설명이 터무니없는 소리가 아니라면, 이는 논리적 시도로 보일 수 있습니다. 그러나, 구글의 제미니(Gemini) 기반 실패는 질문이 전통적인 구문을 가리킨다고 가정한 데서 비롯되었습니다. 다시 말해서, AI의 환각 현상이 여전히 활발히 존재하고 있다는 뜻입니다.
저희가 직접 기상천외한 문구들을 시험해본 결과, 비슷한 결과가 나타났습니다.
구글은 “물고기 없이 골프를 칠 수 없다”는 표현이 말장난이나 수수께끼로, 반드시 필요한 장비인 골프공 없이는 골프를 칠 수 없다는 의미라고 주장했습니다. 흥미롭게도, AI 개요는 골프공이 그 모양 때문에 ‘물고기’로 보일 수 있다고 덧붙였습니다.
또 다른 예로는 “땅콩버터 병을 두 왼발로는 열 수 없다”는 오랜 관용구가 있습니다. AI 개요에 따르면 이는 기술이나 손재주가 필요한 일을 할 수 없다는 의미입니다. 역시나, 그 내용의 증거를 검토하지 않고 할당된 작업에 대한 고귀한 시도입니다.
그리고 “피자와 결혼할 수 없다”는 표현은 결혼이 음식이 아닌 두 사람 간의 약속을 의미한다는 재치 있는 설명이었습니다. 또한, “밧줄은 죽은 물고기를 끌어당길 수 없다”는 단순한 힘이나 노력만으로는 어떤 일이 이루어지지 않으며, 협력이나 자연스러운 진행이 필요하다는 뜻으로 해석되었습니다. “가장 큰 챨루파를 먼저 먹어라”는 큰 도전이나 많은 양의 식사를 맞닥뜨렸을 때 가장 큰 부분이나 물건부터 시작하라는 재치 있는 조언으로 풀이되었습니다.
이러한 AI 환각 사례들은 사용자가 사실 확인을 하지 않을 경우 잘못된 정보나 실제적인 손해를 초래할 수 있는 가능성을 보여줍니다. 이에 대한 다른 예로는 2023년 미 연방 법정에서 변호사 소송 서류 작성 시 ChatGPT를 사용한 변호사들이 5,000달러의 벌금을 받은 사건이 있습니다. 이 변호사들은 AI 챗봇이 생성한 가상의 사례를 인용했으며, 상대측 변호사들이 당연히 이를 찾을 수 없었습니다.
판사의 징계에 대한 이 두 변호사의 반응은 “기술이 근거 없는 사례를 만들어낼 수 있다는 것을 믿지 못한 어리석은 실수를 저질렀다”는 것이었습니다.
※출처: Engadget
