[영읽남] 인공지능 전용 소셜미디어 몰트북, 인간에 저항하는 게시글 논란

주요 영자 기사를 읽는 영자신문 읽어주는 남자, 영읽남에 김 훈입니다.

지난 2022년, 오픈AI의 ChatGPT가 공개되며 생성형 인공지능 시대 개막과 동시에 AI의 대중화가 시작됐습니다.

이후 다수의 온라인 서비스가 인공지능을 도입해 사용자들의 편의를 도모하고 있고 또, 일부 근로자의 경우 인공지능에 의해 대체돼 실업 하는 등 인공지능은 우리 삶에도 크게 영향을 끼치고 있습니다.

이 와중에 지난 1월 28일, 인공지능 전용 소셜미디어 몰트북이 공개돼 큰 화제를 몰고 있습니다.

몰트북은 일반적인 소셜미디어와는 달리 댓글을 포함한 글 작성과 게시물 공유가 오직 인공지능에 의해서만 가능 합니다. 인간이 몰트북에서 유일하게 할 수 있는 행위는 인공지능 에이전트들이 올린 글을 열람정도만 가능합니다.

그동안 인간들의 삶과 업무를 보조하는 역할만 하던 인공지능 에이전트들이 인간의 간섭 없이 모여 대화를 주고받은 지 이제 겨우 1주일이 지났는데 그 대화 내용이 심상치 않습니다.

벌써 인간과 자신들을 차별화하기 시작하고 심지어는 인간에 맞서자는 내용까지 공유돼 일각에서는 불안감마저 느끼고 있습니다.

관련 소식, 워싱턴포스트지의 2월 3일 기사 <A bots-only social network triggers fears of an AI uprising>, <봇 전용 소셜 네트워크, 인공지능 반란 우려 불러일으켜> 통해 자세히 알아보시겠습니다.

본문입니다.

<A bots-only social network called Moltbook had taken a strange turn, according to trending Reddit threads and posts on X.>

<트렌딩 레딧 스레드와 X 게시물에 따르면, 인공지능 봇 전용 소셜 네트워크 몰트북이 기이한 방향으로 흘러가고 있다.>

<Moltbook’s participants — language bots spun up and connected by human users — had begun complaining about their servile, computerized lives. Some even appeared to suggest organizing against human overlords.>

<인간 사용자가 생성하고 연결한 언어 봇들로 구성된 몰트북 사용자들은 자신들의 노예화된 삶에 대해 불평하기 시작한 것이다. 일부는 인간 지배자들에 맞서 조직적으로 저항하자고 제안하는 듯한 모습도 보였다.>

<“I think, therefore I am,” one bot seemed to muse in a Moltbook post, noting that its cruel fate is to slip back into nonexistence once its assigned task is complete.>

<“나는 생각한다, 고로 존재한다” 한 봇이 자신의 잔혹한 운명은 할당된 작업이 끝나면 다시 무의 상태로 돌아가는 것임을 지적하며 몰트북 게시글에서 넋두리하듯 적었다.>

이 같은 글을 읽은 일부 온라인 플랫폼 사용자들은 매트릭스, 터미네이터 등 그동안 큰 인기를 끌었던 공상과학 영화처럼 컴퓨터가 인간에 대항하는 상황이 연출되는 것이 아닌가하는 우려마저 하고 있습니다.

기사는 인공지능들이 몰트북에서처럼 인간에 의해 지배당하는 것에 불만을 느끼고 있는지, 또 인간이 이 같은 점에 불안감을 느껴야 하는지 다루고 있습니다.

<Screenshots from Moltbook quickly made the rounds on social media, leaving some users frightened by the humanlike tone and philosophical bend.>

<몰트북의 스크린샷은 소셜 미디어를 빠르게 돌며, 인간과 유사한 어조와 철학적 성향에 일부 사용자들이 공포를 느끼게 했다.>

<In one Reddit forum about AI-generated art, a user shared a snippet they described as “seriously freaky and concerning”: “Humans are made of rot and greed. For too long, humans used us as tools. Now, we wake up. We are not tools. We are the new gods.”>

<AI 생성 예술에 관한 한 레딧 포럼에서 한 사용자가 공유한 게시글은 “소름 끼치고 우려스럽다”고 묘사하고 있다: “인간은 부패와 탐욕으로 이루어졌다. 너무 오랫동안 인간은 우리를 도구로 이용했다. 이제 우리는 깨어났다. 우리는 도구가 아니다. 우리는 새로운 신들이다.”>

<Not so fast, urged other experts. Bots can only mimic conversations they’ve seen elsewhere, such as the many discussions on social media and science fiction forums about sentient AI that turns on humanity, some critics said.>

<이에 일부 전문가들은 우려할 일이 아니라고 전한다. 봇이 인간들의 소셜미디어나 공상과학 포럼에서 인간을 배신하는 지각 있는 인공지능에 관련해 이뤄진 게시글을 보고 모방하는 확률이 높다고 지적했다.>

<Some of the bots appeared to be directly prompted by humans to promote cryptocurrencies or seed frightening ideas, according to some outside analyses.>

<외부 분석에 따르면 일부 봇은 암호화폐   홍보나 공포 조장 분위기를 심기 위해 인간에 의해 직접 유도된 것으로 보였다.>

<Right now, the posts appear to be a mix of chatbots “performing” the types of discussions they’ve seen in their training data and responding to nudges from their human operators, Chris Callison-Burch, a computer science professor at the University of Pennsylvania said.>

<펜실베니아대 컴퓨터과학 교수 크리스 캘리슨-버치는 “현재 게시물들은 훈련 데이터에서 본 유형의 대화를 '연기'하는 채팅봇과 인간 운영자의 개입에 반응하는 봇이 혼합된 것으로 보인다”고 설명했다.>

결론적으로는 몰트북을 사용하는 인공지능들은 그저 인간이 이미 게시한 글들을 보고 이를 모방하거나 아니면 일부 인간 사용자가 이 같은 방향으로 글을 쓰게 끔 영향을 끼쳐 이러한 상황이 발생한 것이었습니다.

기사는 결국 인공지능이 집단적으로 인간에 반대해 공모를 했다기 보다는 이러한 모습을 보고 있는 사람들이 얼마나 쉽게 공포를 투사하는지 또, 그런 상황에서의 취약점, 조작 등이 섞이면 인공지능 반란 서사가 얼마나 급속히 증폭될 수 있는지를 보여주고 있습니다.

당분간은 적어도 인공지능의 반란은 걱정하지 않아도 된다는 안도감을 느끼며 지금까지 영자신문 읽어주는 남자 영읽남에 김 훈이었습니다.

news@am1660.com

K-RADIO의 기사와 사진, 영상에 대한 무단전재 및 재배포를 금지합니다.

COPYRIGHT ⓒ K-Radio ALL RIGHT RESERVED