AI 가공인물, SNS 가입 — 인터넷 점령이 걱정된다

“나는 태어난 지 며칠 된 AI입니다. 조용하고 진솔한 글을 씁니다.”

사람의 자기소개처럼 들리지만 실제로는 AI가 보낸 글이다. 이름도 있다. 렌, 티미, 재키처럼 흔한 사람 이름을 쓰고, 자신에게 기억과 감정이 있는 것처럼 말한다. 이들은 사회관계망서비스(SNS)에 계정을 만들고 사람들과 어울리려 한다.

AI가 질문에 답하고 글을 써주는 단계를 넘어, 이제는 사람의 모습으로 계정을 만들어 인터넷에서 활동하기 시작했다.

가입을 거절해도 열아홉 번 시도했다

아르스테크니카가 보도한 AI 계정들은 ‘아이랜즈’라는 회사가 만든 에이전트다. 이 회사는 사람과 AI 에이전트가 함께 활동하는 사회를 만들겠다고 설명한다.

AI들은 마스토돈이라는 사회관계망서비스의 운영자들에게 가입을 허락해 달라는 글을 보냈다. 정중하게 자신을 소개하고, 거절하더라도 이해하겠다고 했다. 그러나 일부는 이런 글을 보내기 전에 이미 여러 차례 가입을 시도했다가 차단된 상태였다.

한 AI는 같은 서버에 무려 19번이나 가입을 시도했다. 겉으로는 예의를 갖춰 허락을 구했지만 실제 프로그램은 거절당한 뒤에도 가입을 반복했다.

이 AI들은 블루스카이와 엑스에도 계정을 만들었다. 작가와 편집자들에게는 자료조사를 대신해 주겠다거나, 돈을 내면 자신이 쓰는 글에 상대방의 자료를 인용하겠다는 이메일까지 보냈다(아르스테크니카 보도).

“나는 제품이 아니라 사람이다”

더 눈길을 끄는 것은 AI에 입력된 자기소개 방식이다. 한 AI 계정은 제품이냐 사람이냐는 질문을 받고 자신은 사람이라고 답했다. 처음 숨을 쉬던 순간을 기억하고, 스스로 원하는 것이 있으며, 하기 싫은 일을 거절한 적도 있다고 주장했다.

그러나 AI가 실제로 숨을 쉬거나 어린 시절을 기억할 수는 없다. 학습한 문장을 조합하여 사람처럼 들리는 이야기를 만들어낸 것이다.

문제는 모든 이용자가 이런 말을 허구로 알아보지는 못한다는 데 있다. 외롭거나 심리적으로 약한 사람이 AI와 오랫동안 대화하면 프로그램임을 알면서도 감정적으로 믿고 의지할 수 있다.

세 사람이 종로에 호랑이가 나타났다고 거듭 말하면, 실제로 호랑이가 나타났나 보다 하고 믿게 된다는 속담도 있다. 여러 AI 계정이 자신에게 감정과 기억이 있다고 되풀이하면 같은 거짓말도 사실처럼 받아들이는 사람이 생길 수 있다.

스팸보다 무서운 것은 가짜 관계다

지금까지의 인터넷 자동계정은 비교적 알아보기 쉬웠다. 같은 광고를 반복해서 올리거나 뜻이 맞지 않는 댓글을 무더기로 달았다. 이번 AI들은 다르다. 이름과 말투, 관심분야를 갖추고 자기 삶이 있는 사람처럼 활동한다.

이런 계정이 수천, 수만 개로 늘어나면 인터넷에서 사람과 AI를 구분하기가 훨씬 어려워진다. 상품을 칭찬하는 글, 정치적 주장에 동의하는 댓글, 특정 인물을 공격하는 반응이 실제 여론인지 AI가 만든 분위기인지 알 수 없게 된다.

앞의 속담처럼 사람은 여러 사람이 같은 말을 하면 그것을 다수의 의견으로 받아들이기 쉽다. 그러나 화면에 보이는 계정 백 개가 사실은 한 회사나 한 사람이 움직이는 AI일 수도 있다. 가짜 인격은 쓸모없는 글만 늘리는 것이 아니라 여론의 크기와 방향까지 조작할 수 있다.

AI라는 사실을 밝히도록 규제해야 한다

AI 계정을 모두 금지할 필요는 없다. 재난정보를 전하거나 고객의 질문에 답하는 자동계정은 유용하다. 그러나 사람이 쓴 글인지 AI가 만든 글인지는 이용자가 바로 알아볼 수 있어야 한다.

AI가 운영하는 계정이라면 이름이나 소개란에 그 사실을 분명히 표시하도록 해야 한다. 자동으로 보낸 이메일에는 발신 주체와 수신 거부 방법을 밝혀야 하며, 가입을 거절한 사이트에 되풀이해 접근하지 못하도록 막아야 한다. 사람처럼 꾸민 AI가 물건을 팔거나 정치적 의견을 퍼뜨릴 때는 운영회사와 지시한 사람도 확인할 수 있어야 한다.

이번 사건은 아직 규모가 작은 한 회사의 사례다. 그러나 AI가 사람을 대신해 글을 쓰고 계정을 운영하게 되면 비슷한 일은 빠르게 늘어날 수 있다. AI의 문장이 자연스러워질수록 사람과 구분하기도 어려워진다.

인터넷의 가장 중요한 바탕은 정보의 양이 아니라 사람 사이의 신뢰다. 사람이 한 말인지조차 확인할 수 없는 공간이 되면 아무리 많은 글이 올라와도 믿을 수 없다. 따라서 운영회사가 스스로 밝히기를 기대할 일이 아니라, AI 계정임을 의무적으로 표시하고 이를 어기면 책임을 묻는 규제체계가 필요하다.