AI만 붙이면 혁신? 소비자 기만하는 ‘AI 워싱’ 실태

소비자 우롱하는 'AI 마케팅'
기능·적용분야 불명확한데도
혁신기술 포장해 소비자 기만

‘AI 워싱(AI Washing)’ 사례가 빠르게 확산고 있다. AI 워싱이란 최신 AI 기술이 적용된 것처럼 포장하지만, 실제로는 AI가 아예 쓰이지 않았거나 단순 자동화가 적용된 제품과 서비스를 뜻한다. 환경에 무관하거나 악영향을 끼치는 제품을 친환경 제품인 양 포장하는 ‘그린워싱’과 유사한 개념으로, 기술력 없이 AI 대세론에 편승한 마케팅이 오히려 AI 산업을 저해하는 요인이 되고 있다는 지적이 나온다.

과장·허위 마케팅 'AI 워싱' 문제 심각

22일 유통업계에 따르면 최근 소비자들은 AI 워싱에 무차별적으로 노출되고 있다. AI 워싱의 유형은 크게 '과장형'과 '무관형' 두 가지로 나뉘는데, 단순한 자동화 기능이나 인식 기술에 AI라는 이름을 갖다 붙여 과장 광고를 하는 과장형 방식이 가장 흔하다. 워싱턴포스트(WP)는 AI가 탑재됐다고 홍보하고 있는 오럴비의 칫솔을 대표 사례로 지목했다. 오랄비는 AI가 치아 위치와 밝기 등을 파악해 이가 잘 닦였는지 알아낼 수 있다고 광고하지만, WP는 “이 칫솔에 AI 기능이 정확히 어떻게 적용되는지 물었으나 회사는 대답하지 못했다”고 보도했다. 코카콜라가 내놓은 ‘인간과 AI가 함께 만든 최초의 한정판 맛’이라는 광고도 같은 사례로 거론된다. 해당 제품에 AI가 어떤 기여를 했는지 불분명하다는 것이다. 이를 두고 포브스는 “제품이 더 혁신적으로 보이도록 AI를 언급하는 것”이라고 지적했다.

과장을 넘어 허위로 AI를 내세우는 무관형 사례도 적지 않다. 지난 3월 미국 증권거래위원회(SEC)는 투자 자문 회사 델피아와 글로벌프리딕션스에 벌금을 40만 달러(약 5억4,500만원) 부과했다. 이들은 투자 프로세스에 AI와 머신러닝(ML)을 사용한다고 광고했지만 사실상 AI를 전혀 쓰지 않았다는 것이 드러났다.

세계 최대 전자상거래 업체 아마존의 무인 매장 ‘아마존 고’도 무관형 사례로 꼽힌다. 아마존은 2018년 고객이 들어와서 필요한 물건을 집어 들고 나가기만 하면 자동으로 계산해 준다는 아마존 고를 처음 선보였다. 센서와 카메라 수천 대가 고객이 어떤 물건을 구매하는지 자동으로 인식하고 계산하는 방식으로, 아마존은 이를 “AI로 운영되는 점원 없는 매장”이라며 홍보했다. 하지만 이런 시스템 뒤에 실제로는 사람이 있다는 의혹이 제기됐다. IT 전문 매체 디인포메이션은 아마존이 무인 결제 시스템을 운영하기 위해 인도에서 직원 약 1,000명을 고용하고 있다고 보도했다. 인도 직원들이 각 매장 카메라를 들여다보며 고객이 무엇을 들고 나갔는지 체크해 수작업으로 계산하고 있었다는 것이다. 아마존은 “인도 근로자들이 검수 작업을 한 것뿐”이라는 입장을 내놨지만, 아마존의 신뢰성엔 이미 금이 갔다.

애플·삼성전자도 AI 워싱 논란

지난 3월 불거진 애플 집단 고소 사태도 AI 워싱의 심각성을 여실히 보여준다. 지난해 애플은 AI 에이전트 기능인 ‘더욱 개인화된 시리(Siri)’를 내세워 아이폰16 시리즈를 홍보했지만 이를 도입하지 못해 소비자와 주주들로부터 고소를 당했다. 더욱 개인화된 시리는 애플의 음성 비서 시리에 AI를 도입해 고도화했다는 기능이다. 애플의 설명에 따르면, AI가 이용자를 대신해 스마트폰 내 여러 앱에 접속해 명령을 수행한다. 애플은 지난해 9월 유튜브에 아이폰16 프로로 더욱 개인화된 시리 기능을 활용하는 광고 영상을 게재하기도 했다.

광고 속 등장인물은 이름이 기억나지 않는 지인과 마주친다. 등장인물이 시리에 “몇 개월 전 A 카페에서 만난 사람 이름 좀 알려달라”고 부탁하자 시리가 달력과 일정을 확인한 후 이름을 답해준다. 애플은 아이폰16을 구매하는 이용자들에게 “추후 시리 업데이트를 통해 선보일 것”이라고 예고했다. 그렇게 판매한 아이폰 수량만 3,720만 대에 이른다.

그러나 애플은 예고했던 업데이트를 돌연 미뤘다. 지난 3월 7일(이하 현지시간) 애플은 성명을 통해 “더욱 개인화된 시리의 출시를 연기한다”고 밝혔다. 좀 더 완벽한 AI 에이전트 기능을 구현하는 데 생각보다 오랜 시간이 걸린다는 게 이유였다. 애플은 정확한 일자는 밝히지 않은 채 “시리 업데이트는 2026년에 선보일 수 있을 것”이라는 말만 남겼다. 시리가 이용자 대신 달력 앱을 확인하는 광고도 삭제했다.

이에 일부 소비자는 애플을 상대로 집단소송을 제기하며 반발했다. 3월 19일 캘리포니아 북부지방법원엔 ‘아이폰16 시리즈의 AI 광고가 허위광고에 해당한다’는 내용의 소장이 제출됐다. 그로부터 석 달 후인 6월엔 팀 쿡 최고경영자(CEO)와 케반 파레크 최고 재무책임자(CFO) 등 애플의 경영진이 주주들로부터 고소당하는 일도 있었다. 일부 주주는 애플을 상대로 증권 사기 혐의 소송도 제기했다. 주주 측은 “애플은 2024년 6월 세계개발자회의(WWDC)에서 AI 기능을 홍보해 투자자들을 오도했다”며 “실제 작동하는 프로토타입(시제품)이 없는 상태로 기능을 홍보하고, 지키지 못할 출시 일정을 발표했다”고 지적했다.

국내 기업도 예외가 아니다. 삼성전자는 '비스포크 AI 냉장고'를 광고하며 "AI가 냉장고 내부를 자동 인식해 무엇이 있는지 항상 파악한다"고 홍보했다. 그러나 미국 광고 심의기구(NAD)의 조사 결과, 해당 기능은 카메라에 잘 보이는 위치의 33개 특정 음식만 식별할 수 있었다. NAD는 '스마트 기능'이라는 표현 역시 소비자가 AI 기능으로 오해할 수 있다고 지적했다. 삼성전자는 지적에 따라 광고 표현을 수정하겠다고 밝혔고, 사건은 별도 처분 없이 종결됐다.

단순 챗봇도 'AI 에이전트'로 둔갑

비슷한 장면은 다른 무대에서도 반복됐다. 미국 쇼핑 애플리케이션 네이트는 “딥러닝이 결제와 체크아웃을 대신한다”고 홍보했지만, 실제로는 필리핀 외주 인력이 주문을 수동 처리했다는 의혹이 불거졌다. 결국 뉴욕남부연방검찰청(SDNY)은 올해 봄 창업자를 투자자 사기 혐의로 기소했다. 샌프란시스코 스타트업 게임온은 AI 스포츠 챗봇을 내세웠으나 허위 재무자료와 가짜 감사보고서, 매출 부풀리기 의혹으로 기소됐다.

캐나다 스타트업 델피아는 AI가 개인별 맞춤형 투자 정보를 제공한다고 했으나 그런 시스템이 없었다. 미국 암호화폐 거래 플랫폼 PGI글로벌도 암호화폐 등에 투자해 수익을 극대화하는 AI 자동투자 시스템을 홍보했으나 실상은 이를 미끼로 투자자를 끌어들이는 다단계 회사였다. 이 업체들은 사기 및 과장광고 혐의로 미 법무부와 SEC의 조사를 받고 있다.

실제로는 단순한 챗봇이나 업무 자동화에 불과한 것을 ‘AI 에이전트’라고 포장하는 기업 늘어나고 있다. 시장조사기관 가트너의 아누슈리 바르마 분석가는 “현재의 에이전트형 AI 프로젝트 대부분은 과장된 광고에 이끌려 잘못 적용되는 초기 실험이나 개념 증명에 불과하다”며 “이 때문에 조직은 AI 에이전트를 대규모로 배포하는 데 필요한 진정한 비용과 복잡성을 간과하게 되고, 프로젝트의 본격적인 운영 단계로의 전환이 지체될 수 있다”고 지적했다. 일부 기업은 실제로는 ‘에이전트 능력’이 없는 단순 AI 어시스턴트나 챗봇을 에이전트로 둔갑시켜 브랜드를 재포장함으로써 문제를 악화시키고 있는 것으로 알려졌다.

기업들이 AI 워싱의 유혹에 빠지는 이유는 명확하다. AI라는 이름표가 붙는 순간 투자 유치 규모가 달라지기 때문이다. 글로벌 시장조사 업체 피치북에 따르면, 지난해 미국 스타트업엔 556억 달러（약 77조5,000억원)의 자금이 몰렸는데, 이 중 48.7%에 해당하는 271억 달러가 AI 스타트업으로 들어갔다. 포브스는 “AI를 언급한 스타트업은 그러지 않은 스타트업보다 적게는 15%에서 많게는 50%까지 투자를 더 유치했다”고 말했다. 이렇다 보니 투자금을 유치할 때 AI를 언급하는 스타트업들도 점차 늘어나고 있다. 유럽 벤처캐피털 오픈오션에 의하면 2022년 사업을 소개할 때 AI를 언급한 스타트업은 10%였으나 이는 2023년과 2024년 각각 25%, 35%로 늘어났다.