메타 “AI 생성 이미지에 라벨… 선거 악용 막을것”｜동아일보

美 빅테크 기업들 조치 잇달아

오픈AI “선거정보에 출처 표시”

구글 “검색엔진, 선거질문 제한”

미국 빅테크 기업들이 인공지능(AI) 생성 콘텐츠가 선거에 악용될 가능성을 염두에 두고 관련 조치를 잇달아 내놓고 있다.

6일(현지 시간) 메타(페이스북 모회사)가 자사 뉴스 블로그를 통해 밝힌 새로운 정책에 따르면 메타는 페이스북, 인스타그램, 스레드에서 AI 생성 이미지에 ‘라벨(Label)’을 붙일 예정이다. 이용자들이 AI로 생성된 이미지를 식별할 수 있도록 만들기 위해서다. 메타는 “앞으로 몇 달 안에 각 앱에서 지원하는 모든 언어로 라벨을 적용하기 시작할 것”이라며 “전 세계에서 여러 가지 중요한 선거가 열리는 내년까지 이러한 접근 방식을 취할 예정”이라고 밝혔다.

메타는 그동안 자체 AI 도구인 ‘메타 AI’로 만든 이미지에 ‘이매진드 위드 AI(Imagined with AI)’라는 라벨을 붙여왔다. 새로운 정책이 시행되면 이 같은 라벨을 외부 AI 도구로 만든 콘텐츠에도 적용할 것으로 보인다. 메타는 그동안 AI가 생성한 콘텐츠를 식별하기 위한 공통 표준을 개발하기 위해 업계의 다른 회사들과도 협력해 왔다. 다만 메타는 아직 AI가 생성한 모든 콘텐츠를 식별할 수 있는 것은 아니라고 밝혔다. 또 AI 이미지 생성 과정에서 보이지 않는 워터마크(AI가 만들었다는 인식표)나 표식을 지울 수 있는 방법도 존재하기 때문에 해결 방안을 모색하고 있다고 설명했다.

오픈AI는 자사의 AI 도구가 제공하는 최신 선거 관련 정보에 출처를 표시할 것이라고 지난달 밝힌 바 있다. 챗GPT가 제공하는 뉴스 및 정보의 출처를 알려주는 한편 어떤 이미지가 생성형 AI에 의해 만들어졌는지 확인할 수 있도록 새로운 도구도 만든다.

구글도 지난해 말 자사 AI 챗봇 바드 및 바드를 결합한 검색 엔진인 ‘검색 생성 경험(SGE)’이 응답할 수 있는 선거 관련 질문의 종류를 제한한다고 발표했다. 또 선거 광고가 AI를 사용한 경우 광고주가 해당 사실을 눈에 띄게 표시하도록 했다.

국내에서는 올 4월 총선을 앞두고 중앙선거관리위원회가 선거운동에 AI 기술로 만든 음향과 이미지, 영상 등을 활용하는 것을 금지하고 AI 전문가와 모니터링 전담 요원 등으로 구성된 감별반 운영에 나선 상태다. 하지만 현실적으로 단속이 쉽지 않다는 지적도 나온다.

김정호 KAIST 전기전자공학부 교수는 “생성형 AI로 만든 이미지에 워터마크가 있으면 탐지할 수 있는데, 워터마크나 표식이 없으면 현재 기술로는 탐지가 어려운 상태”라며 “사람이 AI를 활용해 만든 이미지나 영상, 글을 넘어 AI가 자발적으로 이미지나 글을 생성할 경우 민주주의에 더 큰 위협이 될 수 있다”고 말했다.

김하경 기자 whatsup@donga.com