ChatGPT의 진화하는 메모리 기능과 개인화의 양면성

ChatGPT의 메모리 기능은 과거에 단순했습니다. 당신이 기억하라고 말하면 그것을 기억했습니다.

2024년 이후로, ChatGPT는 사용자가 유용한 컨텍스트를 저장할 수 있는 메모리 기능을 갖추게 되었습니다. 당신의 목소리 톤과 글쓰기 스타일에서부터 목표, 관심사, 진행 중인 프로젝트까지. 이러한 메모리는 설정에서 확인, 업데이트 또는 삭제할 수 있었습니다. 가끔은 스스로 중요한 것을 기록하기도 했습니다. 하지만 주로 당신이 요청한 것을 기억했습니다. 이제, 이것이 변화하고 있습니다.

ChatGPT의 개발사인 OpenAI는 메모리의 주요 업그레이드를 진행하고 있습니다. 당신이 수동으로 저장한 몇 가지 정보 외에도, 이제 ChatGPT는 모든 과거 대화로부터 정보를 자동으로 추출하여 미래의 응답에 활용할 수 있습니다.

당신이 좋아할 수도 있습니다

OpenAI에 따르면, 메모리는 이제 “저장된 메모리”와 “채팅 기록”에서 얻는 인사이트 두 가지 방식으로 작동합니다. 사용자에 의해 직접 추가된 것이 “저장된 메모리”이며, ChatGPT가 자동으로 수집하는 것이 “채팅 기록”입니다.

이 기능은 장기 또는 지속 메모리라고 불리며 ChatGPT Plus와 Pro 사용자에게 제공됩니다. 그러나 이 글이 작성된 시점에, 이는 영국, EU, 아이슬란드, 리히텐슈타인, 노르웨이, 스위스에서는 지역 규제로 인해 사용이 불가능합니다.

여기서의 아이디어는 간단합니다: ChatGPT가 더 많이 기억할수록 더 유용해진다는 것입니다. 이는 개인화의 큰 도약입니다. 그러나 우리가 무엇을 대가로 포기하고 있는지 고민할 시기이기도 합니다.

개인화되는 메모리

(이미지 출처: Shutterstock)

여기서 매력을 쉽게 느낄 수 있습니다. ChatGPT로부터의 더욱 개인화된 경험은 자신을 덜 설명하고 더 적절한 답변을 받게 합니다. 이는 유용하고, 효율적이며, 익숙합니다.

“개인화는 항상 메모리에 대한 것이었습니다.”라고 AI 음성 기술 회사인 Speechmatics의 제품 매니저인 Rohan Sarin은 말합니다. “누군가를 오래 알고 있으면 더 이상 모든 것을 설명할 필요가 없습니다.”

그는 예를 하나 들었습니다: ChatGPT에게 피자 가게를 추천해달라고 요청하면, 당신의 피트니스 목표에 더 적합한 것을 추천할 수도 있습니다. 이는 당신에 대해 알고 있는 것에 기반한 미묘한 힌트입니다. 단순히 지시를 따르는 것이 아니라, 이면을 읽어내는 것입니다.

Sarin은 이렇게 말합니다. “우리가 누군가와 가까워지는 방식입니다. 또한 그들을 신뢰하게 되는 방식이기도 합니다.” 이러한 감정적 공감대는 이러한 도구들이 매우 유용하다고 느낄 수 있게 하며, 어쩌면 위안이 되기도 합니다. 하지만 이는 감정적 의존의 위험을 증가시키기도 합니다. 어쩌면 이 모든 것이 처음부터 목표였을지 모릅니다.

“제품 관점에서 보면, 저장은 항상 ‘끈적임’에 관한 것이었습니다.”라고 Sarin은 말합니다. “이는 사용자가 다시 돌아오게 만듭니다. 각 상호작용마다 전환 비용이 증가하게 됩니다.”

OpenAI는 이를 숨기지 않습니다. 회사의 CEO인 Sam Altman은 메모리가 “인생 내내 당신을 알아가는 AI 시스템을 가능하게 하며, 매우 유용하고 개인화되게 만든다”고 트윗했습니다.

그 유용성은 분명합니다. 그러나 단지 우리를 돕기 위한 것이 아닌, 우리를 알아가는 것에 의지하는 위험도 분명합니다.

우리처럼 기억할 수 있나요?

(이미지 출처: Getty Images)

AI의 장기 메모리에서의 도전 과제는 인간과 같은 방식으로 맥락을 이해하지 못한다는 점입니다.

우리는 본능적으로 구분합니다. 개인적인 것과 전문적인 것, 중요한 것과 일시적인 것. ChatGPT는 이러한 맥락 전환에서 어려움을 겪을 수 있습니다.

Sarin은 사람들이 ChatGPT를 다양한 용도로 사용하기 때문에 이러한 경계가 흐려질 수 있다고 지적합니다. “현실에서 우리는 비언어적 단서를 사용하여 우선순위를 정합니다. AI는 그런 것이 없습니다. 그래서 맥락 없는 메모리는 불편한 트리거를 가져올 수 있습니다.”

그는 예를 듭니다. ChatGPT가 해리 포터를 좋아한다고 한 번 언급했기 때문에 모든 이야기나 창의적 제안에서 마법과 판타지가 자주 언급될 수 있습니다. 과거에 의미가 있었던 기억을 계속해서 불러올까요? 그는 이렇게 말합니다. “우리의 잊는 능력은 우리가 성장하는 방식의 일부입니다.” 만약 AI가 그저 우리가 누구였는지를 반영한다면, 우리가 어떤 사람이 될 수 있는지를 제한할 수 있습니다.”

순위를 정할 수 있는 방법이 없다면, 모델은 무작위로 느껴지거나 시대에 뒤떨어진, 심지어 그 순간에 부적절한 것들을 불러낼 수 있습니다.

직장에 AI 메모리 도입하기

지속 메모리는 직장에서 매우 유용할 수 있습니다. AI 내장 데이터 통합 플랫폼인 Matillion의 AI 및 데이터 과학 책임자인 Julian Wiffen은 강력한 활용 사례를 봅니다: “장기 프로젝트의 연속성을 개선하고, 반복적인 프롬프트를 줄이며, 더 맞춤화된 보조 경험을 제공할 수 있습니다.”라고 말합니다.

그러나 그는 주의해야 한다고 말합니다. “실제로, 사용자 특히 기업이 고려해야 할 미묘한 문제들이 많습니다.” 그가 가장 걱정하는 것은 개인정보 보호, 제어, 데이터 보안입니다.

“저는 종종 실험하거나 생각을 정리하기 위해 프롬프트를 사용합니다. 그것이 남거나 다른 맥락에서 다시 나타난다면 싫습니다.” Wiffen은 기술 환경에서 프로젝트 간에 코드의 조각이나 민감한 데이터가 옮겨짐으로 인해 지적 재산이나 규정 준수 문제를 일으킬 위험을 지적합니다. “이러한 문제는 규제 산업이나 협업 환경에서 더욱 확대됩니다.”

기억은 누구의 것인가?

OpenAI는 사용자가 여전히 메모리를 관리할 수 있음을 강조합니다 – 더 이상 관련이 없는 개별 메모리를 삭제하거나, 메모리 기능을 완전히 끄거나, 새로운 “임시 채팅” 버튼을 사용할 수 있습니다. 이는 과거 메모리에 의해 영향을 받지 않는 대화의 상단에 표시되며, 또한 새로운 메모리를 생성하기 위해 사용되지 않습니다.

그러나 Wiffen은 충분하지 않을 수 있다고 말합니다. “제가 걱정하는 것은 세밀한 제어와 투명성의 부족입니다.”라며, “모델이 무엇을 기억하는지, 정보를 얼마나 오래 보유하는지, 실제로 잊혀질 수 있는지가 종종 불명확합니다.”라고 말합니다.

그는 또한 GDPR과 같은 데이터 보호 법규 준수에 대해 우려합니다. “선의의 메모리 기능이라도 실수로 민감한 개인 데이터나 프로젝트의 내부 정보를 보유할 수 있습니다. 그리고 보안 관점에서 보면, 지속 메모리는 공격 표면을 확장합니다.” 이것이 아마도 전 세계적으로 새로운 업데이트가 출시되지 않은 이유일 것입니다.

해답은 무엇일까요? “더 명확한 가드레일, 더 투명한 메모리 표시, 그리고 무엇이 기억되고 무엇이 아닌지 완전히 제어할 수 있는 능력이 필요합니다.”라고 Wiffen은 설명합니다.

모든 AI가 동일하게 기억하지는 않습니다

(이미지 출처: OpenAI & Google & Microsoft)

다른 AI 도구들은 메모리에 대해 다른 접근 방식을 취하고 있습니다. 예를 들어, AI 비서 Claude는 현재 대화 외의 지속적인 메모리를 저장하지 않습니다. 이는 보다 적은 개인화 기능을 제공하지만 더 많은 제어와 개인정보를 보장합니다.

Perplexity, AI 검색 엔진은 메모리에는 초점을 두지 않고 실시간 웹 정보를 검색합니다. 반면 Replika는 사용자와의 관계를 심화시키기 위해 장기적인 감정적 컨텍스트를 저장하는 방식으로 감정적인 동반자를 목적으로 합니다.

그래서 각 시스템은 목표에 따라 메모리를 다르게 처리합니다. 그리고 그들이 우리에 대해 더 많이 알수록, 그 목표를 더 잘 달성하게 됩니다 – 우리가 글을 쓰고, 연결하고, 검색하고, 이해받는 느낌을 갖게 만들기 위해서입니다.

메모리가 유용한지 여부는 질문이 아닙니다. 나는 분명히 유용하다고 생각합니다. 질문은 우리가 AI가 이 역할을 이렇게까지 잘하기를 원하는지 여부입니다.

도움이 되고, 효율적이며 심지어 필수적인 도구로 설계되었기 때문에 그렇다고 말하기는 쉽습니다. 하지만 그 유용성은 중립적이지 않으며, 의도적입니다. 이러한 시스템은 우리가 더 의존할 때 이익을 얻는 회사에 의해 만들어졌습니다.

당신은 아마도 자신의 모든 것을 기억하고, 심지어 당신보다 더 잘 기억하는 두 번째 두뇌를 기꺼이 포기하지 않을 것입니다. 그리고 그것이 요점입니다. 그것이 바로 당신이 좋아하는 AI 도구의 뒤에 있는 회사들이 기대하는 것입니다.