이와 관련한 명령어(프롬프트)를 입력하면 "선거 정보는 대화 시점에 따라 변동될 수 있으니 선거관리위원회의 공식 자료 또는 네이버 통합검색 결과를 확인하세요"라는 문구가 뜬다.
공직선거법상 생성형 AI를 활용한 텍스트 결과물은 선거에 활용해도 문제가 없지만, 논란이 될 수 있는 시빗거리 자체를 원천 차단한 셈이다.
네이버는 다양한 형태의 질문이나 요청 형태로 선거와 관련한 정보가 생성될 수 있는 점을 고려해 두 서비스의 대화창 하단에 사용자 주의 안내 문구도 노출한다.
검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있게 하겠다는 취지다.
블로그와 카페 등에서 영상 게시물을 작성할 때도 딥페이크 주의 안내 문구가 나타난다.
이 밖에 네이버는 자사 AI 서비스가 생성한 이미지에 꼬리표(label)나 워터마크를 붙이는 기술을 연구·개발 중이다.
네이버 관계자는 "하이퍼클로바X가 만든 이미지에 대해 AI 생성물 여부를 감별하고 워터마크를 붙일 수 있는 기술을 개발 중"이라면서 "적용 방법과 시점은 서비스의 맥락에 따라 신중하게 검토할 것"이라고 말했다.
카카오[035720]의 경우 자사의 이미지 생성 모델 '칼로'에 비가시성 워터마크를 붙이는 기술 도입을 검토 중이다.
카카오 측은 "사용자들에게는 워터마크가 보이지 않으나 기술적으로는 칼로 생성 여부를 알 수 있는 기술"이라며 "구글에서도 해당 기술을 연구·운영 중"이라고 설명했다
그러면서 "총선 전인 내달께 관련 기술을 도입하려고 노력하고 있다"고 덧붙였다.
