검색어 입력폼

네이버 AI 서비스, 총선까지 선거 관련 생성물 금지한다

연합뉴스 입력 02.28.2024 09:36 AM 수정 02.28.2024 09:37 AM 조회 136
카카오 AI 이미지 생성 모델은 워터마크 기술 도입 준비
네이버에 따르면 이날부터 대화형 AI 서비스 '클로바X'와 생성형 AI 검색 특화 서비스 '큐:'(CUE:)를 선거와 관련한 정보 요청이나 예측 등을 위해 사용하지 못한다.

이와 관련한 명령어(프롬프트)를 입력하면 "선거 정보는 대화 시점에 따라 변동될 수 있으니 선거관리위원회의 공식 자료 또는 네이버 통합검색 결과를 확인하세요"라는 문구가 뜬다.

공직선거법상 생성형 AI를 활용한 텍스트 결과물은 선거에 활용해도 문제가 없지만, 논란이 될 수 있는 시빗거리 자체를 원천 차단한 셈이다.

네이버는 다양한 형태의 질문이나 요청 형태로 선거와 관련한 정보가 생성될 수 있는 점을 고려해 두 서비스의 대화창 하단에 사용자 주의 안내 문구도 노출한다. 
 

네이버 검색 서비스에 적용된 딥페이크 관련 주의 문구 안내[네이버 제공]

아울러 네이버는 최근 선거와 관련한 딥페이크(AI로 만든 영상·이미지 합성 조작물)가 활개를 치는 현실을 고려해 이날부터 포털에서 관련 검색어를 입력하는 경우 주의 안내 문구를 띄운다.

검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있게 하겠다는 취지다.

블로그와 카페 등에서 영상 게시물을 작성할 때도 딥페이크 주의 안내 문구가 나타난다.

이 밖에 네이버는 자사 AI 서비스가 생성한 이미지에 꼬리표(label)나 워터마크를 붙이는 기술을 연구·개발 중이다.

네이버 관계자는 "하이퍼클로바X가 만든 이미지에 대해 AI 생성물 여부를 감별하고 워터마크를 붙일 수 있는 기술을 개발 중"이라면서 "적용 방법과 시점은 서비스의 맥락에 따라 신중하게 검토할 것"이라고 말했다.

카카오[035720]의 경우 자사의 이미지 생성 모델 '칼로'에 비가시성 워터마크를 붙이는 기술 도입을 검토 중이다.

카카오 측은 "사용자들에게는 워터마크가 보이지 않으나 기술적으로는 칼로 생성 여부를 알 수 있는 기술"이라며 "구글에서도 해당 기술을 연구·운영 중"이라고 설명했다

그러면서 "총선 전인 내달께 관련 기술을 도입하려고 노력하고 있다"고 덧붙였다. 
 

카카오 칼로 AI 프로필 서비스 [카카오 제공]



댓글 0
0/300
※ 이 댓글에 대한 법적 책임은 작성자에게 귀속됩니다.
  • 댓글이 없습니다