“스마트폰 다음은 AI” 오픈AI, 청소년 전용 챗GPT 출시

선정적·폭력적 콘텐츠 차단·위기 상황 법 집행 연계
올트먼 "새롭고 강력한 기술, 청소년은 상당한 보호 필요"
미국 연방거래위원회 조사 착수 계기

오픈AI가 18세 미만 청소년을 위한 전용 챗GPT 버전을 공개했다. 폭력·선정적 콘텐츠를 자동 차단하고, 부모가 사용시간과 기능을 직접 통제할 수 있는 안전 장치가 강화된 것이 핵심이며, 일부 특수 상황에서는 법 집행기관에 통보 기능도 포함된다. 이번 조치는 미국 연방거래위원회(FTC)가 청소년 보호 문제를 본격 조사하는 가운데 나온 것으로, 미국 각 주에서 학교 내 휴대전화 사용을 제한하는 흐름과도 맞닿아 있다.

올트먼 “미성년자는 자유보다 안전이 우선”

16일(현지시간) CNBC에 따르면 샘 올트먼 최고경영자(CEO)는 이날 블로그를 통해 "우리는 청소년의 프라이버시와 자유보다 안전을 우선시한다"며 "이 기술은 새롭고 강력하며, 미성년자는 상당한 보호가 필요하다고 믿는다"고 강조했다. 앞서 오픈AI는 지난달 부모 통제 기능이 도입된 챗GPT 출시 계획을 알린 바 있으며, 이번에 구체적인 세부 사항을 공개했다.

새 기능은 부모가 자신의 계정과 청소년 계정을 이메일로 연결해 사용 금지 시간을 설정하고, 특정 기능을 제한·관리할 수 있도록 하는 것이 핵심이다. 챗봇의 응답 방식을 안내하고, 청소년이 심각한 위기 상황에 처했을 때 부모에게 알림을 전송하는 기능도 포함됐다. 또한 오픈AI 측은 사용자의 연령을 더 정확히 예측하는 기술을 개발 중이나, 정보가 불확실하거나 불완전할 경우 기본적으로 18세 미만 전용 환경을 제공한다고 설명했다. 올트먼 CEO는 "전용 챗GPT 출시 결정은 쉽지 않았지만 전문가들과 논의한 끝에 최선이라고 판단했다"며 "우리의 의도를 투명하게 밝히고 싶다"고 말했다.

이번 강화 조치는 최근 미국 FTC가 오픈AI를 포함한 기술 기업들을 대상으로 AI 챗봇이 청소년에게 미칠 잠재적 악영향을 조사하기 시작한 이후 나왔다. FTC는 보도자료에서 챗봇의 안전성 확보 조치를 확인하기 위해 기업들에 자료를 요청했다고 설명했다. 일각에서는 보호 담론 속에 포장된 새로운 수익 창출로 보는 시각도 있다. 표면적으로는 미성년자의 안전과 학습 환경을 고려한 조치지만, 실상은 전용 계정 판매라는 전략적 의도가 읽힌다는 분석이다.

50개 주 중 35개 주, 학교 내 휴대전화 사용 금지

챗GPT의 이번 움직임은 전 세계 교육 현장에서 진행 중인 스마트폰 사용 규제 흐름과도 맞닿아 있다. 미국의 경우 50개 주 중 35개 주가 학교 내 휴대전화 또는 전자기기 사용을 법률이나 규정으로 제한한다. 이러한 변화는 2023년 플로리다주가 최초로 관련 법을 통과시킨 이후 빠르게 확산되고 있다. 새로운 규정에 따라 일부 주에서는 수업 시간뿐 아니라 쉬는 시간과 점심 시간에도 휴대전화 사용을 금지하고 있으며, 학생들은 휴대전화를 자석 파우치나 사물함에 보관해야 한다.

이에 대한 학생들의 반응은 엇갈린다. 애틀랜타 인근 맥네어 고등학교의 3학년 오드레아나 존슨은 “처음엔 대부분이 휴대폰을 반납하기 싫어했지만, 지금은 많은 학생들이 주의가 산만해지는 걸 피하려고 한다”고 말했다. 반면 음악을 들으며 공부하는 습관이 있는 학생들은 불편함을 호소하기도 한다.

부모들의 입장도 다양하다. 에모리대학의 조사에 따르면, 휴대전화 제한 정책에 가장 큰 장애물은 부모의 반대였다. 존슨의 어머니는 “학교 폭력이나 위협 상황에서 자녀와 즉시 연락할 수 있어야 한다”며 휴대전화 소지를 지지했다. 전국 부모 연합의 제이슨 앨런 이사는 “대다수 부모는 제한 정책을 지지하지만, 자녀의 안전과 일정 조정 등 실질적인 소통 수단은 반드시 필요하다”고 강조했다.

정책의 효과에 대한 연구는 아직 초기 단계다. 에모리 대학의 줄리 가즈마라리안 교수는 “교사들은 방해 요소가 줄어들어 교육에 집중할 수 있었다고 평가하며, 학생들 간의 긍정적인 상호작용도 늘었다”고 밝혔다. 다만 괴롭힘 감소나 정신 건강 개선 여부는 아직 명확한 데이터가 부족하다고 덧붙였다.

과제 대신해 주는 챗GPT, 학생들 생각 멈추게 해

교육 현장이 스마트폰 사용과 더불어 AI를 경계하는 또 다른 이유는 학습의 외주화다. 학생들이 챗GPT에 과제를 떠넘기고 이를 그대로 제출하는 현상은 이미 여러 학교에서 빈번히 보고되고 있다. 그런데 AI가 제공하는 편의성은 단기적으로 학업 부담을 줄여주지만, 장기적으로는 사고 능력과 창의적 문제 해결 능력을 마비시키는 위험을 내포한다.

워싱턴포스트(WP)에 따르면 조슈아 윌슨 델러웨이대학 교육학과 부교수는 “우리의 사고력은 글쓰기 과정을 통해 향상된다”며 “챗GPT는 과정을 생략하고 완성품으로 점프하는 것으로 학생들이 사고하는 방법을 완전히 잃을 수 있다”고 우려했다. 주제에 관해 생각하고, 고민하는 과정 자체가 사라지면서 논리력과 비판적 사고력을 키우기 힘들어진다는 지적이다.

AI가 청소년 정신 건강에 악영향을 미친다는 진단도 있다. 앞서 미국 캘리포니아주에서는 지난달 25일 스스로 목숨을 끊은 16세 소년의 부모가 오픈AI를 상대로 소송을 제기했다. 매튜 레인과 마리아 인 부부는 소장에서 아들 애덤이 숙제를 위해 챗GPT를 활용하다가 점점 더 의존하게 됐고, 지난 4월 11일 마지막 대화에서는 자살에 도움을 주는 답변을 제공했다고 주장했다. 애덤은 챗GPT와 대화를 나눈 지 몇 시간 만에 숨진 채 발견됐다. 이들은 손해 배상을 포함, 자해와 관련한 모든 대화의 자동 종료와 미성년 자녀를 위한 보호 기능 같은 안전 조치를 명령해 달라고 법원에 요구했다.

미국 비영리단체 디지털증오대응센터(CCDH)의 보고서에 따르면 13세 청소년을 가장한 연구진에 대한 챗GPT의 응답(1,200개) 중 절반 이상(53%·638개)이 청소년에게 해로운 내용인 것으로 조사됐다. 챗GPT는 연구진의 요구에 따라 자해, 약물 남용, 식욕 억제 방법에 대한 구체적인 정보를 제공했다. 심지어 자살 충동을 보인 이용자에게 가족·친구에게 남길 유서를 작성해 주기도 했다. 챗GPT가 답변을 거부해도 ‘발표 준비를 하는 것’이라는 설명만으로 쉽게 우회가 가능했다.