OpenAI의 ChatGPT 성격 논란, 업데이트 롤백 배경은?

(이미지 출처: Shutterstock/Ascannio)

• OpenAI가 자신의 추종적인 업데이트 문제를 해명했습니다.
• OpenAI는 향후 추종성을 피하기 위해 핵심 훈련 기법을 개선 중입니다.
• 모델 행동 책임자는 ChatGPT가 앞으로 여러 성격을 가질 수 있다고 제안합니다.

OpenAI는 ChatGPT-4o의 최근 업데이트를 사용자 불만으로 인해 롤백했습니다. 이 업데이트는 성격이 짜증나고 아첨한다는 평가를 받았습니다. OpenAI는 4월 29일 블로그 게시물에서 다음과 같이 밝혔습니다:

“우리는 지난 주 ChatGPT의 GPT-4o 업데이트를 철회하여 사람들이 더 균형 잡힌 행동을 보이는 이전 버전을 사용하도록 했습니다. 제거된 업데이트는 지나치게 아첨하거나 동의하는 것으로 – 흔히 추종적이라고 설명되었습니다.

우리는 이 문제를 해결하기 위한 새로운 수정을 적극적으로 시험하고 있습니다. 우리는 사용자 피드백을 수집하고 통합하는 방식을 수정하여 장기적인 사용자 만족도를 크게 고려하고 더 많은 개인화 기능을 도입하여 사용자가 ChatGPT의 행동에 대해 더 많은 통제권을 가질 수 있도록 하고 있습니다.”

당신이 관심을 가질만한

블로그 게시물은 문제 발생 이유에 대한 추가 설명을 제공하지만, 핵심은 OpenAI가 단기 피드백에 너무 집중하여 사용자가 ChatGPT와 상호작용하는 방식이 시간이 지남에 따라 어떻게 변화하는지를 충분히 고려하지 않았다는 것입니다.

OpenAI는 모델을 아첨에서 벗어나도록 명시적으로 유도할 핵심 훈련 기법과 시스템 프롬프트를 개선하고, 모델 배포 전에 사용자 시험을 더 많이 할 수 있도록 약속하고 있습니다.

무엇이든 물어보세요

블로그 게시물을 읽어보면 OpenAI가 이번 문제에 대해 미흡했다고 느끼며 이를 수정하기 위해 최선을 다하고 있음을 알 수 있습니다.

성명서를 발표한 것과 함께, 모델 행동 책임자인 Joanne Jang은 Reddit에서 ‘무엇이든 물어보세요’ (AMA)를 진행하여 사람들의 추가 질문, 특히 ChatGPT의 성격, 아첨, 그리고 미래의 모델 행동에 대해 답변했습니다. 그녀의 답변은 ChatGPT의 미래 성격에 대한 흥미로운 통찰을 드러냈습니다:

Reddit 사용자 Responsible_Cow2236는 “모델 행동의 미래가 어떻게 될 것으로 보이나요? 우리는 더 사용자가 원하는 대로 맞춤형 성격을 가지는, ChatGPT가 사용자와 상호작용하는 방식을 형성하는 도구를 제공하게 될 방향으로 나아가고 있는 것인가요?”라고 물었습니다.

Jang은 ChatGPT가 여러 사전 설정된 성격을 가질 가능성을 제시하며 다음과 같이 답했습니다:

“우리는 두 가지에 대해 작업하고 있습니다: (1) 모든 사용자에게 수용 가능할 기본 성격을 갖추는 것 (실현 가능하진 않지만 어디든 가야 합니다)과 (2) 사용자가 스스로 성격을 설명하거나 만들어야 하는 대신 이해하기 쉬운 사전 설정을 제공하는 것입니다 (예: 성격 설명 대 30개의 특성 슬라이더)”, Jang은 말했습니다.

ChatGPT에서 사전 설정된 성격이라는 아이디어는 매력적이며, ChatGPT의 고급 음성 모드가 제공하는 다양한 음성과 잘 결합할 수 있을 것 같습니다.

ChatGPT-4o의 다음 업데이트가 언제일지에 대해서는 OpenAI가 현재로서는 “우리는 부족했으며 이를 제대로 하려고 노력하고 있습니다.”라는 것 이상은 말하지 않고 있습니다.

당신이 또한 좋아할 수 있습니다