Cluely와 AI 속임수 논쟁: 혁신인가 위험인가?

모든 것을 “속일 수 있다”고 약속하는 AI 앱인 Cluely는 아마도 솔직함에 대해 어느 정도 인정을 받을 만합니다.

인공 지능이 어떤 면에서 대형 언어 모델(LLM)이 작성한 유창한 문장을 제공하거나, ChatGPT가 생성한 놀라운 예술 작품을 제공하거나, Sora가 제작한 설득력 있는 비디오를 통해 시스템을 활용할 수 있는 플랫폼이라고 믿는다면, Cluely와 그 창립자들은 단지 솔직함을 보여주는 것일지도 모릅니다.

그러나 그들은 아마도 정직함을 조롱하는 제품을 출시하기 위해 허세를 부리고 있는 것일 가능성이 더 큽니다.

당신이 좋아할 내용

Cluely는 브라우저에 설치된 후 화면의 모든 것을 은밀히 감시하고 청취할 수 있는 영리한 앱입니다. 주요 사용 사례는 고액의 개발자 직책을 위한 인터뷰가 진행 중인 Zoom 비디오 통화입니다. 이러한 통화 중에 Leetcode 문제를 푸는 작업, 즉 인터뷰어가 지켜보는 동안 코딩이나 알고리즘 문제를 해결하는 작업을 요청받을 수 있습니다. Cluely가 실행되면 질문에 대한 답변을 빠르게 제공할 수 있고, 심지어 코딩 문제까지 해결할 수 있습니다.

Lee는 Cluely를 사용하여 여러 주요 기술 회사의 인터뷰를 수월하게 통과했다고 주장했습니다. 이 소문은 Lee와 그의 Cluely 공동 창립자가 학생이었던 컬럼비아 대학교까지 전달되었습니다. Lee는 그가 X(이전의 Twitter)에 게시한 편지에 따르면, 퇴출되었습니다. Lee는 전체 경험을 X 스레드에 자세히 설명했습니다.

Lee는 후회 대신 이 계획이 잘 실행되었다는 듯한 만족감을 표현하는 것 같습니다. 그리고 어떤 면에서는 그렇습니다. Cluely는 Techcrunch에 따르면 350만 달러의 자금을 모금했고, 우리를 “모든 것을 속일 수 있게” 도울 준비가 되어 있습니다.

만약 그 말이 조금 불쾌하게 들린다면, 당신만 그런 것이 아닙니다. Lee는 X에서 이 앱을 방어하는 데 상당한 시간을 보냈으며, Cluely는 21세의 Lee가 Cluely를 스마트글래스 같은 앱에서 사용하여 데이트 상대를 자신이 31세이며 그녀와 그녀의 예술에 관심이 있다고 설득하는 모습을 보여주는 장난스러운 론칭 비디오로 이 사안을 도운 것 같진 않습니다. 그녀는 속임수를 알아차리고 결국 떠나지만, 요점이 전해졌습니다. Cluely는 데이트에서 속일 수 있게 도와줄 수 있습니다.

Cluely가 답변을 제공하기 위해 사용하는 LLM에 대해서는 아직 공개되지 않았지만, 이는 AI의 잠재력에 대한 일그러진 시각입니다.

Lee는 (지금은 사이트에서 사라진 것으로 보이는) 그의 선언문에서 부정행위를 재정의할 필요가 있으며, Cluely의 행동이 구글이나 계산기가 손끝에 답변을 제공하고 아마도 수십 년 동안 우리를 “속일” 수 있게 도와온 것과 다르지 않다고 주장합니다.

X에서 저는 Lee에게 이 관점에 대해 물었습니다. 다음과 같이 썼습니다:

“당신의 경험이 AI에 대한 잘못된 교훈을 가르칠 가능성에 대해 걱정하지 않으십니까? 사람들은 이미 회의적이며, 만약 이를 부정행위 도구로 본다면 일부는 사용하고 참여할 확률이 적어질지도 모릅니다. 최소한, 더 많은 사람들이 (직업 인터뷰와 같은 것들에서) 지원자가 AI를 사용해 속일 수 있다고 믿기 때문에 신뢰하지 않을 것입니다.”

잠시 후, Lee가 응답했습니다 (가독성을 위해 구두점을 수정했습니다):

“모든 것을 ‘속인다’는 것이 정확히 무엇을 의미합니까?

대화를 ‘속인다’는 것은 어떻게 하는 걸까요?

Cluely(와 AI)는 너무 많은 이점을 제공하여 불공정하게 느껴지고, ‘속이는 것처럼’ 보입니다.

세상은 이 현실에 불편함을 느끼겠지만 (당신도 보여주는 것처럼), 곧 정상화될 것이며, AI 최대주의가 진정으로 정착되는 날, 인류의 잠재력은 1,000,000배 향상될 것입니다.

초기 망설임 -> 대규모 채택은 세계 역사의 모든 기술이 퍼지는 방식이었습니다.”

속임수는…속임수입니다

주저함과 그 후의 대규모 채택에 대한 개념은 동의하지만, 소비자용 AI에서 실시간으로 그 현상을 보고 있습니다. 하지만 Lee는 대화에서는 ‘속일 수 없다’고 암시하는 것처럼 보입니다. 그는 아마도 시라노 드 베르주라크를 읽어본 적이 없는 것 같습니다.

이 모든 것이 Cluely에 암호화된 근본적인 속임수를 설명하지는 못합니다.

저는 X에서 계속 질문했습니다:

” ‘속인다’는 것은 무거운 단어이지만, 우리 모두 이해하는 단어라고 생각합니다. 구글 검색은 엄청난 연구 능력을 제공하며, 손끝에서 백과사전적 지식을 디지털화한 것입니다. 계산기는 주머니 속의 수학 천재이지만, 교육자들이 허락할 때까지 수업에서는 금지되었습니다. 그들은 부정행위의 잠재력을 이해했습니다. 통화의 다른 참가자의 인지 없이 감시와 청취를 하고 답변을 생산하는 브라우저 도구는 많은 이들에게 전혀 다른 것으로 여겨질 것입니다. BTW: 어떤 LLM을 사용하고 계시나요?”

Lee는 아직 응답하지 않았지만, 아마도 그가 이미 답을 알고 있기 때문일 것입니다. 구글과 계산기는 도구입니다. Cluely는 “이것이 나의 답변입니다”라는 거짓 뒤에 숨겨진 도구입니다.

면접관의 질문에 응답하기 위해 구글이나 계산기를 몰래 사용하는 것과 똑같을 것입니다. 아마 면접관은 카메라 밖에서 격렬하게 키보드를 치는 것을 알아차릴 것입니다. Cluely는 단지 그 속임수의 위력을 높여줄 뿐 결코 속임수가 아닌 것은 아닙니다.

간략한 사용 후기

참고로, 저는 Cluely를 제 MacBook Air에 설치하여 작동 방식을 확인해 보았습니다. 이는 제3자 도구가 화면의 비디오를 감시하고 오디오를 청취하지 못하도록 하는 일반적인 보호 장치를 사용자의 허락하에 무효화하는 강력한 도구입니다. 상대방에게 거대한 AI 두뇌가 그들을 감시하고 있다는 경고는 제공하지 않습니다.

아직 초기 단계이며, Cluely는 완전히 실시간으로 작동하지 않는 것 같습니다. 작동을 위해 AI 버튼을 클릭해야 하고 답변을 제공해야 합니다. 그렇더라도 잠재력은 있으며, 반드시 긍정적인 것만은 아닙니다.

Lee의 노력은 부정행위를 정상화하고 재정의하려는 시도입니다. 그러나 그것이 속임수가 아니라는 사실을 설명해주지 않으며, 더 수용 가능한 것으로 만들지도 않습니다. 그는 이를 시도하다 학교에서 쫓겨났고, 이제 당신에게 자신의 명성을 걸라고 요구하고 있습니다. 일부는 그 일을 할지도 모르겠지만, 저는 하지 않을 것입니다.