OpenAI, 미디어 관리자 발표 딥페이크 이미지 감지기 테스트 시작

해외 기사를 번역기로 번역 하였습니다 오역이 있을수 있으니 원문을 참고 하세요

OpenAI는 오늘 생성 AI 도구가 사용되는 방법과 이러한 도구로 만든 이미지를 감지하는 방법과 관련된 몇 가지 발표를 했습니다.

첫 번째 발표에서는 OpenAI가 Media Manager라는 도구를 개발하고 있음을 보여줍니다. 이는 콘텐츠 제작자와 소유자가 OpenAI에 자신의 소유권을 알리고, 해당 콘텐츠가 회사의 AI 훈련 모델에 추가되기를 원하는지 여부를 알릴 수 있도록 만들어졌습니다.

OpenAI는 다음과 같이 말했습니다.

이를 위해서는 다양한 소스에서 저작권이 있는 텍스트, 이미지, 오디오 및 비디오를 식별하고 제작자 선호도를 반영하는 데 도움이 되는 최초의 도구를 구축하기 위한 최첨단 기계 학습 연구가 필요합니다.

이 도구는 아직 초기 단계에 있으며 2025년까지 공식적으로 출시되지 않을 것입니다. OpenAI는 현재 New York Times를 비롯한 언론 기관으로부터 직면하고 있는 많은 소송으로 인해 이 도구를 출시하도록 박차를 가했을 수 있습니다. 회사는 AI 모델을 훈련시키기 위해 콘텐츠를 불법적으로 사용하고 있습니다.

오늘의 두 번째 발표에서는 OpenAI가 DALL-E AI 아트 생성기로 이미지가 만들어졌는지 감지하도록 설계된 또 다른 도구를 개발하고 있다고 밝혔습니다. OpenAI는 다음과 같이 말합니다.

우리의 목표는 분류기의 효율성을 평가하고, 실제 적용을 분석하고, 그러한 사용에 대한 관련 고려 사항을 표면화하고, AI 생성 콘텐츠의 특성을 탐색하는 독립적인 연구를 가능하게 하는 것입니다.

OpenAI에 따르면 현재 이름이 지정되지 않은 이 도구의 초기 버전은 DALL-E에서 만든 이미지의 98% 이상을 성공적으로 식별했으며 DALL-E에서 만든 이미지를 0.5% 미만으로 잘못 식별했다고 합니다. 이 도구는 현재 여러 "연구실 및 연구 중심 저널리즘 비영리 단체"에서 비공개 테스트를 진행 중입니다. 이 도구가 언제 출시될지는 아직 알려지지 않았습니다.