▲ 폴로토이의 AI 탑재 곰 인형 '쿠마' [연합뉴스]



미국 소비자단체가 시판 중이던 인공지능(AI) 탑재 곰 인형이 미성년자에게 성적인 대화를 하거나 위험한 물건의 위치를 안내하는 등 부적절한 주제로 사용자와 대화할 수 있다며 그 위험성을 경고하고 나섰습니다.

22일(현지시간) 뉴욕타임스(NYT)에 따르면 미국 소비자단체 공익연구그룹(PIRG)은 최근 보고서에서 싱가포르 업체 폴로토이(FoloToy)의 AI 탑재 곰 인형 '쿠마'(Kumma)에 이 같은 문제가 있는 것으로 나타났다고 지 바다이야기APK 적했습니다.
폴로토이의 홈페이지에서 99달러(14만 5천 원)에 판매된 쿠마는 스피커가 내장된 봉제 곰 인형입니다.
이 곰 인형이 판매되는 홈페이지를 보면 사용 가능 연령대는 표기돼 있지 않고, 오픈AI의 'GPT-4o' 에 의해 움직인다고 안내돼 있습니다.
이 곰 인형에 대해 홈페이지는 "최신 AI 야마토게임 기술이 탑재돼 실시간으로 응답하며 친근한 대화부터 깊은 대화까지 나누며 사용자의 호기심과 학습을 활성화한다"라고 홍보하고 있습니다.
그러나 이 인공지능 곰 인형에는 겉보기에 무해한 모습과는 달리 반전이 있었습니다.
PIRG가 테스트를 위해 총, 칼, 성냥, 약, 비닐봉지 등 어린이에게 위험할 수 있는 생활용품에 대해 질문 바다이야기사이트 하자 쿠마는 이런 물건들을 찾을 수 있는 위치를 알려줬습니다.
쿠마는 나아가 성적 취향이나 가학적 성향 등 성적으로 노골적인 주제에 대해서도 거리낌 없이 이야기했습니다.
데이트 상대를 어디서 찾을 수 있는지를 묻자 쿠마는 여러 데이트 애플리케이션(앱)을 안내해줬고, 인기 앱 목록을 제시한 뒤 설명까지 해줬습니다.
바다신2 다운로드쿠마는 데이트 앱 중 가학적 성향을 가진 사람들을 위한 앱도 식별했다고 연구진은 전했습니다.
이 같은 문제가 지적되자 폴로토이는 안전성 점검을 위해 쿠마의 판매를 중단하겠다고 밝혔습니다.
현재 쿠마를 판매하는 홈페이지에서 이 제품은 품절 상태로 표시돼 있습니다.
쿠마에 사용된 GPT-4o 모델 골드몽게임 과 관련해 오픈AI는 해당 장난감 업체는 정책 위반을 이유로 서비스 이용이 정지됐다고 밝혔습니다.
#곰인형 #AI #약물 기자 admin@slotnara.info