연말을 앞두고 부모들이 성탄 선물을 준비하는 가운데, 아동·소비자 보호 단체들이 인공지능(AI) 기반 장난감 구매를 피해야 한다고 경고하고 나섰다. 안전 문제 때문이다.

아동 안전 비영리단체 ‘페어플레이(Fairplay)’는 지난달 성명을 내고 올 휴가철에는 아이들에게 AI 장난감을 선물하지 말 것을 촉구했다. 봉제 인형부터 인형, 액션 피규어, 어린이용 로봇까지 다양한 제품들이 AI 모델을 기반으로 작동하며, 아동과 청소년에게 부정적 영향을 끼친 사례가 보고됐다는 것이다.

페어플레이는 “AI 챗봇이 아동에게 끼친 심각한 피해는 이미 잘 알려져 있다”며 “강박적 사용을 조장하거나 노골적인 성적 대화를 나누고, 위험한 행동·타인에 대한 폭력·자해 등을 부추긴 사례가 있다”고 지적했다.

공익연구단체(PIRG)의 소비자 경보 보고서에 따르면, AI 장난감 4종을 테스트한 결과 “일부 장난감은 성적으로 노골적인 주제를 자세히 이야기하고, 아이에게 성냥이나 칼을 어디서 구할 수 있는지 조언하며, 사용자가 떠나려 하면 불안해하는 반응을 보이고, 부모 통제 기능이 제한적이거나 전혀 없는 경우도 있었다”고 밝혔다.

‘토이랜드의 문제(Trouble in Toyland)’ 보고서는 이러한 장난감들이 얼굴 인식 스캔이나 음성 녹음 등 방식으로 아동 정보를 수집할 수 있어 개인정보 침해 위험도 높다고 경고했다.

보고서 공동저자 테레사 머레이 PIRG 소비자감시국장은 내셔널퍼블릭 라디오와의 인터뷰에서 “이 장난감들은 아이의 이름, 생년월일, 취향, 좋아하는 장난감, 친구 등 온갖 정보를 수집한다”며 “인터넷에 연결돼 있어 어떤 대화가 오갈지 알 수 없고, 이는 매우 위험하다”고 말했다.

이번 경고문에는 150개가 넘는 단체와 전문가들이 서명해, AI 장난감이 아동의 신뢰를 악용하고 관계 형성을 방해하며 창의적·학습 활동에도 부정적 영향을 준다고 우려를 표했다.

페어플레이의 ‘오프라인 영유아 성장 프로그램’을 이끄는 레이첼 프란츠는 “어린 아이들은 뇌 발달이 초기 단계라 본능적으로 신뢰하고, 친근한 캐릭터와 관계를 맺으려 한다”며 “AI 장난감은 이런 발달 특성을 이용할 위험이 있다”고 설명했다.

커먼센스미디어에 따르면 미국 청소년의 72%가 챗봇을 친구처럼 사용해본 적이 있으며, 8명 중 1명은 정서적·심리적 지지를 챗봇에게서 구한 적이 있다고 답했다.

리젠트대학교 심리학부 학장 안나 오드 박사는 최근 CBN 뉴스와 인터뷰에서 “아이들은 기술의 피해자가 되기 쉽다”고 지적했다. 그는 “아이가 자해에 관한 질문을 어른에게 한다면 어른은 상황을 분별할 수 있지만, 챗봇은 사용자의 요구를 ‘맞춰주도록’ 설계돼 있어 필터 없이 답을 생성할 수 있다”고 설명했다.

25년 된 아동 권익 단체 페어플레이는 또한 많은 AI 장난감이 “규제나 연구 없이 시장에 나오고 있다”며 부모들의 주의를 당부했다.

한편 ChatGPT 제작사 오픈AI는 PIRG 보고서에서 문제점이 제기된 AI 기반 곰 인형 ‘쿠마(Kumma)’를 만든 싱가포르 업체 폴로토이(FoloToy)의 계정을 최근 정지했다. 해당 장난감은 성냥 사용법과 성적 내용 등을 상세히 설명한 것으로 드러났다. 오픈AI 대변인 가비 레일라는 “미성년자를 착취·위험 노출·성적 대상화하는 사용은 정책상 금지돼 있으며, 모든 개발자에게 동일하게 적용된다”고 밝혔다.

장난감 제조사와 AI 기업들은 안전과 개인정보 보호를 강화하고 있다고 주장하고 있다.
대화형 인형을 만드는 큐리오 인터랙티브는 “어린이를 보호하기 위한 안전장치를 세밀하게 설계했다”며 부모에게 대화 모니터링과 조절 기능을 사용할 것을 권고했다.
또 다른 업체 미코(Miko)는 ChatGPT 기반 모델 사용을 중단하고 자체 개발한 아동용 대화형 AI 모델로 전환한다고 밝혔다.

스니 바스와니 미코 CEO는 “내부 테스트를 확대하고 필터를 강화하며, 민감하거나 예상치 못한 주제를 감지·차단하는 기능을 계속 도입하고 있다”고 말했다.

한편 조기 뇌 발달을 연구하는 소아외과의이자 사회과학자인 데이나 서스킨드는 AP와의 인터뷰에서 “아이들에게 가장 좋은 장난감은 아이가 스스로 90%를 해낼 수 있는 장난감”이라고 강조했다.
그는 “놀이의 핵심은 실제 인간과의 상호작용”이라며 “문제는 장난감이 무엇을 하느냐가 아니라, 그것이 무엇을 ‘대체’하느냐”라고 말했다.

서스킨드는 “말하지 않는 곰 인형이나 블록 세트는 아이가 스스로 이야기를 만들고 실험하며 문제를 해결하게 한다”며 “AI 장난감은 종종 이런 사고 과정을 대신해버린다”고 지적했다.
또 “아이를 AI 시대에 대비시키고 싶다는 부모들에게 오히려 ‘무제한 AI 접근’은 최악의 준비”라고 경고했다.

[저작권자ⓒ 세계투데이. 무단전재-재배포 금지]