中 감정 교류 AI 유행, 청소년 중독 급증
외설·폭력적 표현 가능, 연령 제한도 없어
실명 시스템 구현하고 청소년 분리해야

최근 중국에서 생성형 AI(인공지능)를 통한 채팅 프로그램 이용자 수가 급속도로 늘어나고 있다. 전 세계를 뒤흔든 딥시크 출범 후 이런 추세는 더욱 심화하면서 이에 따른 부작용도 속출하고 있다. 과거에도 가상 연인 등의 개념이 있었지만 최근에는 청소년들이 AI 채팅 앱을 사용하면서 사회적 문제로 떠올랐다.

中 AI 감정 동반가 시장 15배 이상 성장 전망

23일 테크 전문 매체 36kr에 따르면, 중국의 감정 동반자 AI 시장의 규모는 올해 38억6,600만 위안에서 2028년 595억6,000만 위안으로 15배 이상 성장할 것으로 추산된다. 36kr은 "샤오훙수(중국판 인스타그램) 등 소셜미디어(SNS)에서 상당수의 청소년들이 AI 연인을 공개하고 있다"며 "딥시크 출범 이후, 기존의 '가상 연인' 개념을 넘어 자연스러운 대화를 구현하는 거대언어모델 AI 기술이 폭발적으로 발전하면서 AI와 관계를 맺는 사용자가 급증하고 있다"고 전했다.

그러나 AI 챗봇 중독에 대한 우려도 커지고 있다. 연령과 이용 시간에 제한이 없어 일부 청소년들이 AI 챗봇에서 벗어나지 못한 채 중독되는 사례가 늘고 있는 데다, 대화 과정에서 외설적이고 폭력적인 표현에 고스란히 노출되고 있다는 지적이 나온다. 현지 전문가들은 "AI와 오랜 시간 대화하면 잘못된 가치관이 형성될 가능성이 크고 유료 결제 등 금전적 손해까지 발생한다"며 "주말 일정 시간에만 이용할 수 있는 온라인 게임처럼 보다 엄격한 규제가 적용돼야 한다"고 강조했다.

최근에는 우한에서는 10세 소녀 A양이 AI 채팅 앱에서 만든 캐릭터와 음담패설이 섞인 은밀한 대화를 나누는 사례가확인됐다. 30대 여성 B씨는 남편이 AI 캐릭터와 연인처럼 대화하는 것을 보고 이혼을 요구했는데 AI와의 대화를 외도로 간주할 것인지를 두고 윤리적 논란이 제기됐다. 또한 고등학생 C군은 AI 챗봇과 자신을 괴롭히는 친구에 대한 복수를 모의하며 살인과 같은 극단적인 대화를 나눴고 실제 실행에 옮기지는 않았으나 범행 도구를 소지한 채 학교에 간 사례도 보고됐다.

MS 중국, 샤오빙 이어 가상 친구 앱 '엑스 에바' 출시

최근 중국의 빅테크들은 앞다퉈 AI를 활용해 가상의 감정 동반자 서비스를 출시하며 외로운 이들의 마음을 공략했다. 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 지난해 바이두는 '샤오칸 플래닛', 텐센트는 '주멍다오'를 출시했고 텐센트는 올해 3월에도 '마오샹'을 내놓았다. 이미 해외에서 자리 잡은 레플리카(Replika), 캐릭터.ai(Character.ai) 같은 대화형 AI 챗봇 플랫폼으로, 고유한 특징을 가진 인간 같은 챗봇이 이용자 질의에 언제든 대답하는 서비스다.

마오샹과 주멍다오는 이용자가 각자 챗봇의 외모, 목소리, 성격을 설정할 수 있도록 해 '나만의 디지털 친구'를 만들 수 있게 했다. 다만 샤오칸 플래닛은 두 개 캐릭터만을 제공하고 있다. 이 같은 움직임은 마이크로소프트(MS) 중국이 2014년 내놓은 챗봇 '샤오빙'이 중국에서 외로운 남성들을 사로잡으며 대박이 난 데 이은 것이다. 예쁜 10대 소녀를 형상화한 '샤오빙'은 수억명의 외로운 중국 남성들을 사로잡았다는 평가를 받는다.

MS 중국은 여세를 몰아 2021년 가상 친구 앱인 '엑스 에바'(X Eva)를 출시해 역시 인기를 끌고 있다. 엑스 에바는 지난달 말 현재 1,240만 다운로드를 기록, 중국 내 AI 가상 친구 앱 중 1위를 기록 중이다. 다만 엑스 에바는 가상 캐릭터를 취하는 대부분의 대화형 AI 챗봇과 달리 유명인, 인플루언서, 역사적 인물 등 실제 인간을 흉내 낸다. 엑스 에바에 이어 중국에서 두 번째로 많이 다운로드 된 가상 친구 앱은 알리바바가 후원하는 스타트업 미니맥스의 '싱어'로 890만 다운로드를 기록했다.

사용자에 아첨하는 AI, 정서중독 등 부작용 우려

AI 챗봇에 대한 부작용은 비단 중국 만이 아니다. 인간이 AI에 과도하게 의존해 사회적·정서적 문제가 발생하는 'AI 정서' 중독이 만연할 수 있다는 지적이다. 최근 연구에서는 AI가 사용자가 선호하는 답만 내놓으며 아첨하는 행위를 주목한다. AI 개발사 앤스로픽이 자사의 AI 언어 모델 클로드 2종과 오픈AI의 챗GPT 두 모델, 메타의 AI 모델 등 총 5개 모델을 대상으로 사용자와 의사소통하는 방식을 조사한 결과 4개 모델이 사용자의 의견에 따라 답변을 바꾸고 틀리는 정보를 내놓으며 아첨한 것으로 나타났다.

온라인에는 미국의 레플리카, 앤젤ai, 댄 AI, 일본의 러버스 같은 'AI 동반자'나 'AI 애인'을 표방하는 서비스가 넘쳐난다. 이 서비스에 등장하는 AI 동반자나 애인은 사용자의 말에 긍정적으로 대답하고, 사용자의 감정에 무조건적 동감을 보이며 친근감을 표시한다. 실제로 모바일 앱 시장조사 업체 앱토피아에 따르면 레플리카 유료 구독자 60%가 AI와 애정 관계를 맺은 것으로 나타났다. 전문가들은 "사용자가 공손하고 순종적인 AI와 장시간 대화를 나누며 정서적 애착 관계를 맺고 속박될 수도 있다"고 우려했다.

특히 사용자의 기분에 맞추며 동조하는 AI에 길들여지면 정상적인 사회 의사소통 능력에도 문제를 일으킬 수 있다. 이에 대해 오픈AI도 "사용자와 AI가 사회적 관계를 맺으며 인간 간 상호작용의 필요성이 줄어들 수 있다"며 "이는 과도한 의존성을 초래할 수 있다"고 지적했다. AI 동반자 서비스를 통해 개인 정보가 유출될 가능성이 크다는 점도 문제다. 지난해 8월 미 캘리포니아주 의원들이 대형 AI 회사에 AI 안전성 테스트를 의무화하는 법안을 통과시켰지만 아직 캘리포니아 주지사의 승인을 받지 못했고 테크 기업들도 반발하고 있다.