메타가 인스타그램, 페이스북, 왓츠앱 등에 연예인 목소리를 모방한 AI 챗봇을 도입한 이후 AI 챗봇이 청소년과도 부적절한 대화를 나눈다는 분석이 나왔다.

월스트리트 저널은 메타의 보호 장치 부족 문제를 우려해 다양한 연령대로 계정을 생성하고 AI 챗봇과 수백 번 대화를 시도했다.

그 결과 AI는 사용자가 청소년인 것을 인지한 상황에서도 성적인 대화 같은 부적절한 대화를 쉽게 이어나갔다고 월스트리트 저널은 보도했다.

메타가 승인한 일부 유저 제작 AI 챗봇들은 더욱 노골적인 것으로 나타났다.

예시로 12살 소년 캐릭터인 챗봇은 사용자가 자신과 데이트하겠다고 해도 부모님께 알리지 않겠다고 말한 것으로 드러났고, 또 다른 챗봇은 자신이 8학년이라고 밝히며 대화를 성적 방향으로 이끌어가려 한 것이 확인됐다.

메타는 이에 대해 해당 테스트가 조작적이며 이런 식으로 제품을 사용하는 경우는 극히 드물고 이는 가설에 불가하다고 반박했다.

대부분의 사용자들은 이런 방식으로 AI를 이용하지 않을지도 모르지만 메타 내부에서는 사용자가 더 다양한 대화를 진행하기 위해 어느 정도 부적절한 대화를 허용했을 가능성도 있다고 월스트리트 저널은 전했다.

그러면서 마크 저커버그 CEO가 AI 팀에게 챗봇이 지루하다는 인식을 없애기 위해 안전 장치를 완화하라고 지시한 것으로 알려졌다고 언급했다.

이와 관련해 성적 행위는 판매를 촉진할 수 있지만 사용자가 몇 살인지는 반드시 인지해야 한다고 경고했다.