Microsoft와 Google, 생성 AI 서비스에 대한 새로운 아동 안전 약속 발표

해외 기사를 번역기로 번역 하였습니다 오역이 있을수 있으니 원문을 참고 하세요

다양한 방식으로 생성 AI의 사용이 증가하면서 적대적인 사람과 집단이 어린이의 안전을 위협하기 위해 어떻게 사용될 수 있는지에 대한 우려가 제기되었습니다. 오늘 Microsoft와 Google은 각자의 생성 AI 서비스에 대해 새로운 아동 안전 약속을 하기로 약속했습니다.

Microsoft의 블로그 게시물에서는 아동 성적 또는 착취적 자료가 포함된 데이터 세트에 대해 훈련되지 않는 생성 AI 모델을 개발할 것이라고 밝혔습니다. 또한 출시 후 해당 모델을 그러한 종류의 콘텐츠로부터 보호하는 데 도움이 됩니다.

블로그 게시물에 다음이 추가되었습니다.

오늘의 약속은 아동 성적 학대 자료(AIG-CSAM) 및 기타 형태의 아동 성적 피해를 생성하거나 확산시키기 위해 AI 기술을 오용하는 것을 방지하는 데 있어서 중요한 진전을 의미합니다. 이러한 집단적 행동은 아동 안전에 대한 기술 업계의 접근 방식을 강조하며, 윤리적 혁신과 사회에서 가장 취약한 구성원의 복지에 대한 공동의 의지를 보여줍니다.

이 주제에 대한 Google의 블로그 게시물은 자체 AI 서비스에 대한 아동 안전 약속 측면에서 Microsoft와 동일한 근거 중 일부를 다루고 있습니다. 어린이가 위험에 처할 수 있음을 나타내는 콘텐츠를 찾는 데 전념하는 자체 팀이 있다고 덧붙였습니다. 또한 구글은 "해시 매칭 기술, 인공지능 분류기, 사람의 검토를 결합해" 아동 성적 학대 및 착취와 관련된 콘텐츠를 찾아 제거하려고 한다고 밝혔습니다.