AI 대부 Geoffrey Hinton, 인공지능의 위험을 경고하다

Dr. Geoffrey Hinton은 오늘날 우리가 사용하는 거의 모든 신경망 기반 생성 인공지능의 기초를 구축하는 데 기여한 공로를 인정받아 마땅합니다. 또한 그는 최근 몇 년간 일관성을 유지했다는 점에서도 인정받을 만합니다. 그는 여전히 AI 개발 및 활용의 급속한 확장이 상당히 심각한 결과로 이어질 것이라고 생각하고 있습니다.

2년 전, 뉴욕타임즈와의 인터뷰에서 Dr. Hinton은 “악의적인 인물이 나쁜 목적으로 사용하는 것을 어떻게 막을 수 있을지 보기 어렵다”고 경고했습니다.

이제 CBS 뉴스와의 새로운 인터뷰에서, 노벨상 수상자인 그는 우려를 더욱 증폭시키고 있습니다. 그는 컴퓨터 두뇌가 인간의 두뇌처럼 작동하는 방법을 알아냈을 때, “40년 만에 우리가 여기까지 올 줄은 몰랐다”고 인정하며, “10년 전에는 우리가 여기까지 올 수 있다고 믿지 않았다”고 덧붙였습니다.

당신이 좋아할 만한

그럼에도 불구하고, 우리는 이제 이러한 상황에 처해 있으며, AI 모델 개발 속도가 무어의 법칙(칩의 트랜지스터 수가 약 18개월마다 두 배로 증가한다는 법칙)보다 훨씬 빠르게 증가하고 있습니다. 일부 사람들은 인공지능의 능력이 대략 12개월마다 두 배로 증가하며 분기별로도 상당한 도약을 하고 있다고 주장할 수 있습니다.

자연스럽게 Dr. Hinton의 우려는 이제 다양해졌습니다. 그가 CBS 뉴스에 한 말을 일부 소개합니다.

1. AI가 인간을 지배할 위험이 10%에서 20%에 달한다

CBS 뉴스에 따르면, Dr. Hinton의 현재 AI와 인간 간 위험 요소에 대한 평가입니다. Dr. Hinton이 인공지능의 진보가 의학, 교육, 기후 과학에 이익을 줄 것이라고 믿지 않는 것은 아닙니다. 문제는 AI가 너무 지능적이 되어 우리가 그것이 무엇을 생각하고 있는지, 혹은 아마도 계획하고 있는지 모르게 되는 시점이 언제인지입니다.

인터뷰에서 Dr. Hinton은 인공지능 일반 지능(Artificial General Intelligence, AGI)에 대해 직접 언급하지 않았지만, 그것은 그의 마음속에 있을 것입니다. 다소 모호한 개념으로 남아 있는 AGI는 AI 기계가 인간 지능을 초월할 수 있음을 의미할 수 있습니다. 그리고 만약 그것이 실현되면, AI가 인간처럼 자신의 이익을 위해 행동하기 시작하는 시점이 언제일까요?

2. AI가 언젠가 당신을 죽일 수 있는 ‘귀여운 새끼 호랑이’인가?

자신의 우려를 설명하려고 할 때, Dr. Hinton은 현재의 AI를 새끼 호랑이를 소유하고 있는 누군가에 비유했습니다. “그것이 자라서 당신을 죽이려고 하지 않을 것이라고 확신할 수 있는 경우가 아니라면, 그저 아주 귀여운 새끼 호랑이일 뿐입니다.”

이 비유는 사람들이 대부분 ChatGPT, CoPilot, Gemini와 같은 AI를 사용하여 재미있는 그림과 비디오를 생성하고, “정말 귀엽지 않나요?”라고 선언하는 방식을 고려하면 의미가 있습니다. 하지만 모든 그 재미와 공유할만한 이미지 뒤에는 단지 신경망과 모델이 이해한 최고의 결과를 제공하는 데만 관심이 있는 무정한 시스템이 있습니다.

3. 해커의 효율성이 증가 – 은행 등 여러 분야가 위험에 처할 수 있다

현재의 AI 위협에 대해 Dr. Hinton은 분명히 심각하게 받아들이고 있습니다. 그는 AI가 해커들이 은행, 병원, 인프라와 같은 목표를 공격하는 데 더 효과적이게 만들 것이라고 믿고 있습니다.

AI는 코드를 작성하고 어려운 문제를 해결하는 데 도움을 줄 수 있으며, 이는 그들의 노력을 가속화할 수 있습니다. Dr. Hinton의 대응? 세 은행에 걸쳐 자신의 자금을 분산시켜 위험을 완화하는 것입니다. 괜찮은 조언으로 보입니다.

Dr. Hinton은 임박한 AI 위협에 대해 너무 걱정한 나머지 CBS 뉴스에 자신이 77세인 것이 기쁘다고 말했습니다. 이는 아마도 AI와 관련된 최악의 시나리오가 발생하기 전에 오래 떠나고 싶다는 의미일 것입니다.

그러나 그가 제때 탈출할 수 있을지는 확신이 서지 않습니다. 전 세계적으로 권위주의자가 점점 늘어나고 있으며, 그들 중 일부는 이미 AI 생성 이미지를 사용하여 그들의 선전을 추진하고 있습니다.

5. 기술 기업들이 AI 안전에 충분히 집중하지 않는다

Dr. Hinton은 OpenAI, Microsoft, Meta, Google(Dr. Hinton이 이전에 근무했던 곳)과 같은 대형 기술 기업들이 단기 이익에 너무 집중하고 AI 안전에는 충분히 집중하지 않고 있다고 주장합니다. 이를 입증하기는 어렵고, 그들을 방어하자면, 대부분의 정부가 실제적인 AI 규제를 강력히 시행하지 못했습니다.

Dr. Hinton은 경고를 울리려고 할 때 주목해왔습니다. 그는 CBS 뉴스에 자신의 전 제자이자 OpenAI의 전 수석 과학자인 Ilya Sutskever가 AI 안전 문제로 인해 Sam Altman을 잠시 OpenAI CEO 자리에서 물러나게 한 것에 자부심을 느꼈다고 말했습니다. Altman은 곧 돌아왔고, 결국 Sutskever는 떠났습니다.

앞으로 어떤 일이 벌어질지, 그리고 이에 대해 우리가 무엇을 해야 할지에 대해 Dr. Hinton은 아무런 답을 제시하지 않습니다. 사실 그는 우리 모두와 마찬가지로 이 모든 것에 거의 압도된 것처럼 보입니다. CBS 뉴스에 그는 절망하지는 않지만, “상대적으로 짧은 시간에 모든 것이 이전에 본 적 없는 규모의 변화가 일어날 수 있는 매우 특별한 시점에 있는 것 같다. 이를 감정적으로 받아들이기 어렵다”고 말했습니다.

동의합니다, Dr. Hinton.

당신이 좋아할 만한