'성적인 대화 논란' 캐릭터AI, 18세 미만 이용자 채팅 차단

청소년들이 인공지능, AI로 생성한 가상 캐릭터와 성적인 대화 등을 주고받는 사례가 알려져 논란이 된 미국의 챗봇 서비스 업체 '캐릭터AI'가 18세 미만 이용자에 대해 자유로운 채팅 기능을 차단하기로 했습니다.

현지시간 29일 캐릭터AI는 오는 11월 25일부터 18세 미만 이용자를 대상으로 플랫폼에서 AI와 자유로운 채팅을 할 수 있는 기능을 전면 차단하고, 그전까지는 해당 이용자들에게 채팅 가능 시간을 점차 줄여나갈 예정이라고 발표했습니다.

또 사용자가 나이에 맞는 적절한 서비스를 받을 수 있도록 새로운 연령 확인 기능을 도입하고 독립 비영리 기관 'AI 안전 연구소'를 설립해 자금을 지원할 계획이라고 밝혔습니다.

앞서 지난해 미국의 한 14세 소년이 이 업체 플랫폼에서 챗봇 캐릭터와 성적인 대화를 나누다가 극단적인 선택을 하는 사건이 발생하면서 AI 안전성 관련 논란이 불거졌습니다.