Google은 이번 주 Gemini AI 이미지 생성기 문제를 일으킨 두 가지 일이 발생했다고 말합니다

해외 기사를 번역기로 번역 하였습니다 오역이 있을수 있으니 원문을 참고 하세요

이번 주 초, 사람들은 Google의 Gemini(이전 Bard) 챗봇의 이미지 생성 기능이 부적절한 예술 작품을 만들고 있다고 보고하기 시작했습니다. 더 구체적으로 말하면, 시스템은 해당 캐릭터에 적합하지 않은 역사적 또는 허구적 역할에서 어두운 피부색을 가진 사람들을 묘사하고 있었습니다.

예술 작품이 보고된 후 Google은 이미지 생성기를 사용하여 사람의 예술 작품을 만드는 Gemini의 기능을 일시적으로 중단 할 것이라고 발표했습니다 . 금요일 늦게 회사는 블로그 게시물을 통해 Gemini에서 일어난 일에 대한 설명을 제공했습니다 .

Google 수석 부사장 Prabhakar Raghavan이 작성한 이 게시물은 Google이 폭력적이거나 성적인 행위를 묘사하는 작품을 만드는 것을 방지하는 데 도움이 될 것이라고 생각하는 Gemini 이미지 생성 텍스트 프롬프트에 대한 규칙을 만들었다는 사실을 처음으로 밝혔습니다. 또한 챗봇이 실제 사람의 이미지를 만드는 것을 원하지 않았습니다.

동시에 Google은 사용자가 챗봇에게 축구 팀의 사람들을 보여주는 것과 같은 보다 일반적인 이미지를 요청하면 Gemini가 다양한 인종을 묘사할 수 있도록 허용하고 싶었습니다. 백인 의사나 흑인 교사와 같은 특정 유형의 사람을 묘사하기를 원하는 경우 Gemini도 해당 작품을 만들 수 있어야 합니다.

그런 다음 Raghavan은 Gemini의 텍스트 프롬프트 가드레일에 있는 두 가지 특정 항목으로 인해 이번 주의 부적절한 이미지가 생성될 수 있다고 썼습니다.

첫째, Gemini가 범위를 명확하게 표시해서는 안 되는 사례를 설명하지 못한 사람들의 범위를 표시하도록 조정했습니다. 둘째, 시간이 지남에 따라 모델은 우리가 의도한 것보다 훨씬 더 조심스러워졌고 특정 프롬프트에 완전히 응답하기를 거부했습니다. 즉, 일부 매우 진통적인 프롬프트를 민감한 것으로 잘못 해석했습니다.

이 두 가지로 인해 모델이 어떤 경우에는 과잉 보상을 하고 다른 경우에는 지나치게 보수적이 되어 당황스럽고 잘못된 이미지가 생성되었습니다.