지난 1월 뉴햄프셔주 대선 후보 예비선거를 앞두고 조 바이든 대통령 목소리로 가짜전화 메시지를 만든 정치 컨설턴트가 형사처벌과는 별개로 거액의 벌금을 내게 됐다.

연방통신위원회 FCC가 생성형 인공지능(AI) 기술로 바이든 대통령의 목소리를 모방한 가짜 전화 메시지를 제작한 정치 컨설턴트 스티브 크레이머에게 600만 달러의 벌금을 부과했다.

크레이머는 지난 1월 뉴햄프셔 예비선거 직전 바이든 대통령 말투로 '프라이머리에서 투표하면 11월(대선)에 투표할 수 없다'는 허위 정보를 내세우며 주민에게 투표 거부를 독려하는 내용의 전화 메시지를 만든 혐의로 검찰에 기소됐다.

크레이머는 거짓말로 투표를 방해하려 한 혐의 등 13건의 중범죄와 또 다른 11건의 경범죄 혐의를 받고 있다.

한편 크레이머는 이번 사태와 관련, 바이든 캠프에 해를 끼치거나 선거에 개입하려는 의도라기보다는 AI 딥페이크에 대한 규제를 촉구하기 위해 이런 일을 벌였다고 해명했다.

FCC는 또 해당 메시지를 주민들에게 전송한 혐의를 받는 링고텔레콤에 대해서도 200만 달러의 벌금을 매겼다고 밝혔다.

제시카 로즌워슬 FCC 위원장은 전화 발신자가 잘 알려진 정치인이나 좋아하는 유명인 또는 친숙한 가족 구성원처럼 보이면, 그 누구도 사실이 아닌 것에 속을 수 있다며 이는 목소리를 조작하는 악의적 행위자들이 바라는 결과라고 경고했다.

앞서 FCC는 11월 예정된 대선 과정에서 AI를 활용한 허위 정보를 차단하기 위해, 정치 광고에 AI를 사용할 경우 이를 명시하도록 하는 방안을 추진하기로 했다.