Microsoft 내부 고발자는 Designer AI 이미지 생성기에 계속해서 경보를 울립니다

해외 기사를 번역기로 번역 하였습니다 오역이 있을수 있으니 원문을 참고 하세요

지난 1월, Shane Jones라는 Microsoft 직원은 워싱턴 주 법무장관 Bob Ferguson 과 다수의 미국 상원의원 및 하원의원들에게 편지를 보냈습니다. Jones는 Microsoft의 AI 기반 아트 메이커 Designer(이전의 Bing Image Creator)의 가드레일에서 문제를 발견했다고 주장합니다. 현재 Jones는 Microsoft에서 허용하지 않는 몇 가지 텍스트 프롬프트를 사용하여 Designer를 사용하여 폭력적이고 성적인 이미지를 만들 수 있다는 새로운 주장을 하고 있습니다.

CNBC 에 따르면 존스는 오늘 미국 연방거래위원회(FTC) 의장인 리나 칸(Lina Khan)에게 새로운 서한을 보냈고 마이크로소프트 이사회에도 또 다른 서한을 보냈다. Khan에게 보낸 편지에서 Jones는 새롭고 더 나은 가드레일이 설치될 때까지 몇 달 동안 Designer의 공개 사용을 중단하라고 Microsoft에 촉구했다고 주장합니다.

Jones는 Microsoft가 Designer 제거를 거부했기 때문에 이제 회사에 Designer가 무엇을 만들 수 있는지에 대한 새로운 공개를 요청하고 Android 앱의 등급을 변경하여 E(모든 사람용) 등급이 되지 않도록 요청했다고 주장합니다.

Jones는 또한 Designer를 사용하여 Disney의 저작권 기반 캐릭터 이미지를 만들 수 있다고 주장합니다. 기사에서는 "스타워즈 브랜드의 버드라이트 캔과 백설공주의 모습이 베이프에 있는 모습"과 같은 이미지를 보았다고 합니다.

Microsoft 대변인은 CNBC에 보낸 성명에서 기술과 서비스를 보다 안전하게 사용할 수 있도록 테스트하는 회사 직원의 노력에 감사한다고 밝혔습니다. 대변인은 다음과 같이 덧붙였습니다.

당사 서비스나 파트너에게 잠재적인 영향을 미칠 수 있는 안전 우회 또는 우려 사항이 있는 경우 당사는 모든 문제를 적절하게 조사하고 해결하기 위해 강력한 내부 보고 채널을 구축했습니다. 우려.

지난 2월, 구글은 Gemini AI 챗봇에 사용된 AI 이미지 생성기가 인종차별적인 이미지를 생성하는 데 사용될 수 있다는 사실이 발견된 후 종료했습니다 . 회사는 기능이 다시 돌아올 때 동일한 이미지를 만들지 않도록 새로운 가드레일을 제자리에 배치하고 있다고 말합니다.