유럽은 플랫폼이 AI에 라벨을 붙이기를 원합니다

유럽연합(EU)은 딥페이크 및 기타 AI 생성 콘텐츠에 라벨을 붙이기 위해 온라인 허위 정보에 관한 실천 강령의 서명국에 기대고 있습니다.

EU의 가치 및 투명성 위원인 Vera Jourova는 규정에 서명한 40개 이상의 회원국과의 회의 후 어제 발언에서 허위 정보와 싸우기 위해 서명한 사람들은 AI 콘텐츠를 인식하고 사용자에게 명확하게 라벨을 붙일 수 있는 기술을 마련해야 한다고 말했습니다.

"새로운 AI 기술은 선을 위한 힘이 될 수 있으며 효율성 향상과 창의적인 표현을 위한 새로운 길을 제공할 수 있습니다. 그러나 항상 그렇듯이 우리는 이 문제의 어두운 측면을 언급해야 하며 이는 또한 새로운 위험과 부정적인 결과를 초래할 가능성도 있습니다. 사회"라고 경고했다. "또한 허위 정보의 생성과 유포에 관해서도 마찬가지입니다.

"ChatGPT와 같은 고급 챗봇은 복잡하고 겉으로 보기에는 잘 입증된 콘텐츠와 시각적 자료를 몇 초 만에 생성할 수 있습니다. 이미지 생성기는 결코 발생하지 않은 이벤트에 대한 실제처럼 보이는 그림을 생성할 수 있습니다. 음성 생성 소프트웨어는 샘플을 기반으로 사람의 목소리를 모방할 수 있습니다. 몇 초 정도 걸립니다. 새로운 기술은 허위 정보와의 싸움에 있어서도 새로운 과제를 제기합니다. 그래서 오늘 저는 서명자들에게 코드 내에 이에 대해 논의할 수 있는 별도의 전용 트랙을 만들 것을 요청했습니다."

“AI 생산에 있어서 기계가 언론의 자유를 가질 권리가 없다고 생각합니다.

허위 정보 방지를 위한 EU 실천 강령 서명자는 AI 콘텐츠를 인식하고 이를 사용자에게 명확하게 표시하는 기술을 마련해야 합니다."

— 부회장 @VeraJourova pic.twitter.com/yLVp79bqEH

— 유럽연합 집행위원회(@EU_Commission) 2023년 6월 5일

지난 여름 EU가 강화한 현재 버전의 코드는 자발적인 문서가 (법적 구속력이 있는) 디지털 서비스법(DSA)을 준수하는 데 필요한 완화 조치가 되도록 의도했음을 확인하면서 현재는 다음과 같은 사항을 약속하지 않습니다. 딥페이크를 식별하고 라벨을 붙이는 것입니다. 그러나 위원회는 이를 바꾸기를 희망하고 있습니다.

EU 집행위원은 AI 생성 콘텐츠에 대한 완화 조치를 강령에 포함하는 방법에 대해 두 가지 주요 논의 각도를 보고 있다고 말했습니다. 하나는 Microsoft의 New Bing 또는 Google의 Bard AI 증강 검색 서비스와 같은 생성 AI를 통합하는 서비스에 초점을 맞출 것입니다. "악의적인 행위자가 허위 정보를 생성하는 데 이러한 서비스를 사용할 수 없도록 필요한 안전 장치"를 구축하는 데 전념해야 합니다.

두 번째는 AI가 생성한 허위 정보를 유포할 가능성이 있는 서비스를 보유한 서명자가 "그러한 콘텐츠를 인식하고 이를 사용자에게 명확하게 표시하는 기술"을 마련하도록 약속하는 것입니다.

Jourova는 Google의 Sundar Pichai와 이야기를 나눴으며 Google이 AI로 생성된 텍스트 콘텐츠를 감지할 수 있는 기술을 보유하고 있으며 기능을 향상시키기 위해 기술을 계속 개발하고 있다는 말을 들었습니다.

언론 Q&A 중 추가 발언에서 그녀는 EU가 딥페이크 및 기타 AI 생성 콘텐츠에 대한 라벨이 명확하고 빠르기를 원한다고 말했습니다. 사람이 아닌 기계가 만들어낸 것이다.

그녀는 또한 위원회가 지금 "즉시" 라벨링을 구현하는 플랫폼을 보고 싶어한다고 명시했습니다.

DSA에는 조작된 오디오 및 이미지에 라벨을 지정하기 위해 초대형 온라인 플랫폼(VLOP)을 요구하는 일부 조항이 포함되어 있지만 Jourova는 허위 정보 코드에 라벨을 추가하려는 아이디어는 DSA에 따른 VLOP에 대한 규정 준수 기한인 8월 25일보다 훨씬 빨리 발생할 수 있다는 점이라고 말했습니다. .

"저는 표현의 자유를 보호하는 것이 우리의 주요 임무라고 여러 번 말했습니다. 하지만 AI 제작에 있어서는 기계가 표현의 자유를 가질 권리가 없다고 생각합니다. 그래서 이것도 다시 돌아옵니다. 우리 법률의 오래된 좋은 기둥입니다. 이것이 바로 우리가 이 매우 근본적인 아이디어를 바탕으로 실천 강령에 따라 이에 대해 더 많은 작업을 수행하고 싶은 이유입니다."라고 덧붙였습니다.