소셜 미디어를 뒤덮은 AI 콘텐츠의 홍수, 그 미래는?

어제 아침, 나는 페이스북에 로그인해서 콜로세움이 워터파크로 변신한 이미지를 보았다. LinkedIn에서는 모든 사람이 최신 ChatGPT 업데이트 덕분에 자신들의 프로필 사진을 스튜디오 지브리 캐릭터로 변환하는 데 열중하고 있었다. Threads에서는 세버런스의 출연진이 아기로서 루몬을 기어 다니는 영상을 보여주었고, X에서는 엘론 머스크와 도널드 트럼프가 내가 보고 싶지 않았던 포즈를 취한 Grok 생성 이미지를 친절히 제공했다.

이게 나만의 경험은 아니겠지? 소셜 미디어는 합성 콘텐츠의 소용돌이가 되었다. 우리는 이미 AI 뒤범벅의 부상을 다루어 왔다 – 일종의 간담을 서늘하게 만드는 예술 갤러리이자 불가사의한 음탕한 꿈. 확실히 알고리즘은 내가 관심 있어 할만한 콘텐츠를 제공하고 있다 – 세버런스 아기들, 여행 영감, 적절한 양의 머스크 풍자 등 말이다. 그건 어느 정도 맞는 말이다.

하지만 나는 계속 생각하게 된다: AI가 공식적으로 소셜 미디어를 망쳐 놓은 걸까? 그리고 이는 그냥 무해한 혼란일 뿐인지, 아니면 조용히 우리가 진실, 신뢰, 현실을 보는 방식을 재구성하고 있는 것일까?

AI 슬롭옥칼립스의 네 기사

AI 콘텐츠의 가장 큰 문제 중 하나는 엄청난 양이다 – 그리고 모든 방향에서 쏟아지고 있다. AI 전도사들, 당신의 직장 동료들, 친구들 그리고 재활용된 콘텐츠가 무엇인지도 모르는 당신의 할머니까지. 그리고 분명히 더 잘 알아야 하는 브랜드들.

이 혼란을 이해하기 위해, 나는 조 골처, 창의적 디렉터이자 소셜 미디어 전문가와 이야기를 나눴다. 그는 매일 이 문제를 다루는 브랜드들과 일하며 AI 슬롭 홍수의 최전선에 있다. 조에 따르면, AI 콘텐츠는 네 가지 뚜렷한 “유형”으로 나뉜다 – 그는 그것을 “바이러스” 같다고 설명했다.

기능성 AI 슬롭
“조잡하게 만들어진 기본적인 스톡 이미지가 이미지가 있어야 할 자리를 채우는 것이죠,”라고 골처는 설명한다. “가장 낮은 수준이며, 왜 그것이 있거나 무엇인지를 고민한 의식적인 생각이 거의 들어가지 않았습니다.” 이는 최소한의 노력을 들인 수준이다. 단지 무언가를 게시하기 위해 밋밋한 시각 요소를 붙여 넣은 것이다. 어쩌다 콘텐츠가 된 자리표시자 콘텐츠.

클릭베이트 슬롭
“우리를 스크롤을 멈추고 ‘이건 정말 역겹고 끔찍하다’고 생각하게 만드는 것들이지만, 대화 생성을 위해 설계된 것입니다,”라고 골처는 말한다. 이것이 가장 교활한 유형이다. 좋은 콘텐츠가 되려 하지 않으며, 그저 충분히 나빠져서 바이럴되기를 의도하고 있다.

‘내가 만든 것을 봐!’라는 게시물
“이것은 사람들이 LOTR, 스타워즈 또는 또 다른 거대 IP를 닮은 무언가를 만들기 위해 AI를 사용하는 곳입니다,” 라고 골처는 설명한다. “그들은 ‘이것을 10분 만에 했어!! 산업을 바꿀 것이며 이제 수천 달러를 예술가들에게 쓰는 대신 이걸 사용해야 한다’라고 합니다. 이는 대개 지루하게 진행됩니다.” 이는 과대 광고와 기술 형제들의 극장 피드백을 받은 생성 콘텐츠다. 항상 호흡이 가쁘고, 결과는 언제나 실망스럽다.

진정으로 좋은 것들
“실제로 목적, 허가, 그리고 놀라운 시각 효과와 AI가 할 수 없는 작업을 수작업으로 섞어 놓은 좋은 AI 캠페인이 있습니다,”라고 골처는 말한다. 예, 일부 브랜드는 신중함, 배려, 실제 예술성을 견지하며 잘 하고 있다. 그러나 드물고 대개 쓰레기 더미 아래 묻혀 있다.

이렇게 문제를 구분하는 것이 암울하게 느껴질 수 있을 것이다 – 가장 저주받은 콘텐츠에 전염병학을 완전히 적용한 것처럼 – 하지만 사실 유용하다. 혼란을 분류함으로써 왜 AI 콘텐츠가 피할 수 없는 것처럼 느껴지며, 왜 그렇게 다양한 디스토피아적 색조를 띠는지를 설명할 수 있다.

AI를 위한 AI

우리는 단지 만들 수 있기 때문에 만들어지는 AI 콘텐츠의 시대에 살고 있다. 사람들, 브랜드, 전체 사업체가 그것을 대량 생산하고 있다. 반드시 무언가를 말하기 위해서가 아니며, 대안보다 더 나은 것도 아니다. 단지 도구들이 존재하고 사용하기 쉽고 사용 압박이 거대하기 때문이다.

이는 기술의 더 깊은 문제를 반영한다. 최근 애플의 AI 실수를 보면 된다. 모든 과대광고에도 불구하고, AI는 판매되었던 마법을 제공하지 않는다. 이는 사용자들이 필요로 해서가 아니라 주주들이 “AI”라는 말을 수익 발표에서 듣고 싶기 때문에 제품으로 강제로 들어갔다.

그리고 지금? 실제로 혁신하는 것은 별로 없다. 사실, 대부분의 응용 프로그램에서 이는 매우 비싼 속임수처럼 보이기 시작하고 있다.

“이는 토렌트나 음악 스트리밍 초기에 있었던 것과 비슷합니다 – 약간 미개척지였죠,”라고 골처는 설명한다. “브랜드가 로고를 붙였다고 해도, 그것이 윤리적으로 좋다는 것은 아니었습니다. 그들은 단지 법적 파도와 돈을 타고 있었으며, 입법이 너무 늦게 시행되기 전까지 말입니다.”

암호화폐나 NFT와 마찬가지로, 우리는 혁신, 과대광고, 과용 그리고 피로감을 본다. “나는 AI 콘텐츠에도 같은 기술 과대광고 그래프를 적용할 수 있다고 생각합니다,”라고 골처는 말한다. “항상 내 직감이 ‘이 버블은 터질 것이다’라고 말합니다. 그리고 나는 여전히 그것이 일어날 것이라고 믿는다. AI 데이터 세트가 자체적으로 소비되기 시작하고 혁신적인 와우 요소가 닳아지면 – 남는 것은 무엇일까요?”

그리고 그는 아마도 우리 중 더 많은 사람들이 물어봐야 하는 질문을 던지고 있다: “이 수십억 달러짜리 도구들이 실제로 우리의 삶을 어떻게 개선하고 있을까요? 왜냐하면 참신함은 사라지기 시작하고 윤리(또는 그 부재)가 더 명확해지고 충격 가치는 사라지고 있기 때문입니다.”

AI가 이것을 시작한 것은 아니다. 소셜 미디어는 이미 나락으로 빠지고 있었다. 그리고 생성 콘텐츠의 최신 물결은 그것을 불가사의하고 파생적이며 뇌를 녹이는 혼돈으로 바로 밀어 넣었다.

그리고 AI가 우리의 피드를 의미 없는 온갖 쓰레기로 넘치게 한다면, 그것은 더 위험한 무언가를 하고 있는 것이다: 그것을 무기로 사용하는 것이다. AI가 생성한 유명인 아기들을 보고 웃음을 터뜨리거나 불가사의한 골짜기에서 나온 브랜드 광고를 보고 크림할 수 있지만, 이러한 반응은 더 크고 무서운 그림을 간과하게 만든다.

왜냐하면 AI는 대규모로 잘못된 정보를 조장할 수 있기 때문이다. 예를 들어, 유럽 전역에서 우익 그룹들이 AI 생성 이미지를 사용하여 분노를 일으키고 음모 이론을 퍼뜨리고 분열을 조장하고 있다. 그리고 이것은 단순한 주변 트롤들이 아니다 – 이는 대중의 여론을 조작하기 위한 조직적인 캠페인이다.

그것은 단지 하나의 예일 뿐이다. 선거 잘못된 정보. 딥페이크 포르노. 가짜 전쟁 영상. 맞다, 이것은 언제나 온라인에 존재했던 유형의 콘텐츠이다. 이제 규칙이 바뀌었다. 기술이 필요하지 않다. 팀이 필요하지 않다. 심지어 예산도 필요하지 않다. 단지 이야기와 현실을 버릴 의지만 있으면 된다. 그리고 소셜 미디어에서는 나머지는 저절로 해결된다.

이것이 진정한 공포 이야기다. 우리가 쓰레기에 휩쓸리고 있다는 것만이 아니라, 브랜드들이 우리가 AI로 생성된 광고를 원한다고 생각하는 것만이 아니라, 우리가 진짜보다 가짜가 더 빨리 퍼지는 세상으로 가고 있다는 것이다. 그리고 알고리즘은 그것이 진짜인지 여부는 상관하지 않는다 – 단지 클릭, 좋아요, 그리고 주의를 끄는 것만 중요하다.