Google은 편견 우려로 Gemini에서 인물 이미지 생성을 일시적으로 중단합니다

해외 기사를 번역기로 번역 하였습니다 오역이 있을수 있으니 원문을 참고 하세요

지난주 구글의 대화형 AI인 제미니(Gemini)는 사람의 이미지를 생성하는 능력에 편견이 있다는 이유로 조사를 받았다. 사용자들은 Gemini에게 역사적 맥락이나 허구의 시나리오에서 사람들을 묘사해 달라고 요청했을 때 AI가 더 어두운 피부색을 가진 인물을 묘사할 가능성이 더 높다고 보고했습니다 . 이로 인해 시스템의 잠재적 편견에 대한 정당한 우려가 제기되었습니다.

성명서에서 구글은 Gemini가 다양한 인종과 배경을 가진 사람들을 균형있고 포용적인 방식으로 대표하는 데 있어 좋은 성과를 내지 못했다는 점을 인정했습니다 . 회사는 사람들을 위한 이미지를 생성하는 AI 챗봇의 기능을 일시적으로 비활성화하기로 결정했습니다.

Google은 포용성과 다양성이 매우 중요한 원칙이라고 밝혔습니다. 회사는 자사의 기술이 어떤 식으로든 전파되거나 현실 세계의 편견에 취약해지는 것을 원하지 않았습니다.

이제 사용자가 Gemini에게 이미지 생성을 요청하면 해당 기능은 현재 사용할 수 없지만 편견 문제가 적절하게 해결되면 다시 돌아올 것임을 설명하는 메시지를 받게 됩니다.

전문가들은 ( AP News를 통해 ) AI 이미지 생성기가 교육 데이터의 편견으로 인해 다양성에 어려움을 겪고 있으며, 이는 종종 모든 배경의 사람들을 표현하지 못한다고 말했습니다. Google은 이 기능을 다시 활성화하기 전에 Gemini에서 이러한 제한 사항을 해결하기로 결정한 것으로 보입니다. 시스템이 모든 유형의 사람들을 객관적이고 균형 잡힌 방식으로 대표할 수 있기를 원합니다.