Google은 AI 개요가 피자에 치즈를 붙이기를 원하는 이유를 설명합니다

해외 기사를 번역기로 번역 하였습니다 오역이 있을수 있으니 원문을 참고 하세요

Google은 이번 달 초 I/O 2024 개발자 컨퍼런스에서 검색용 AI 개요를 발표했습니다. 사용자가 Google 검색에 복잡한 검색어를 입력하면 이 기능은 여러 온라인 소스에서 정보를 가져와 검색결과 상단에 요약을 표시합니다.

그러나 AI 개요는 사람들이 이 기능이 문제가 있다고 보고하기 시작하면서 기괴하고 때로는 해로운 답변을 제시하면서 비판을 촉발했습니다. 놀랍게도 AI 개요에서는 사용자가 피자에 치즈를 붙이기 위해 접착제를 추가하고 신장 결석을 배출하기 위해 소변을 마셔야 한다고 제안했습니다.

블로그 게시물 에서 Google은 AI 기반 기능의 작동 방식과 사용자 보고서가 접수되기 시작한 후 취한 조치를 설명했습니다. 회사는 AI 개요가 "단순히 훈련 데이터를 기반으로 출력을 생성하지 않으며" AI와 다르게 작동한다고 말했습니다. - 기반의 챗봇 및 기타 LLM 제품.

작동 방식 때문에 AI 개요는 자체적으로 상황을 구성하거나 "환각"하지 않습니다. 그러나 AI 개요는 "쿼리를 잘못 해석하거나, 웹에서 언어의 뉘앙스를 잘못 해석하거나, 사용할 수 있는 훌륭한 정보가 많지 않아" 상황을 망칠 수 있다고 구글은 말했습니다.

AI 개요는 맞춤형 언어 모델로 구동되지만, 이 모델은 핵심 웹 순위 시스템과 통합되어 있으며 색인에서 관련성 있는 고품질 결과를 식별하는 것과 같은 전통적인 "검색" 작업을 수행하도록 설계되었습니다.

그렇기 때문에 AI 개요는 텍스트 출력만 제공하는 것이 아니라 사람들이 더 자세히 탐색할 수 있도록 관련 링크를 포함합니다. 검색에서는 정확성이 가장 중요하므로 AI 개요는 상위 웹 결과에 의해 뒷받침되는 정보만 표시하도록 구축되었습니다.

Google은 다른 검색 기능에도 이러한 문제가 있다고 지적합니다. 회사는 AI 개요의 정확도가 AI로 구동되는 추천 스니펫과 "동등"하다고 주장합니다.

웹에 보고된 이상한 결과에 대해 Google은 그 결과가 모두 사실은 아니며 "대량의 가짜 스크린샷이 널리 공유되었습니다"라고 주장합니다.

다른 사람들은 개를 차에 남겨두는 것, 임신 중 흡연, 우울증과 같은 주제에 대해 위험한 결과를 반환했다고 암시했습니다. 해당 AI 개요는 나타나지 않았습니다. 따라서 이러한 스크린샷을 접하는 사람은 누구나 직접 검색하여 확인하는 것이 좋습니다.

그러나 AI 개요는 토론 포럼에서 정보를 가져와 "비꼬는 내용이나 유료 콘텐츠를 포함"했다는 점을 인정했습니다. 구글은 "포럼은 실제적이고 직접적인 정보를 얻을 수 있는 훌륭한 소스인 경우가 많지만 어떤 경우에는 피자에 치즈를 붙이기 위해 접착제를 사용하는 것과 같은 도움이 되지 않는 조언으로 이어질 수도 있다"고 말했다.

회사는 시스템에 12개 이상의 기술적인 개선을 했으며 올바르지 않은 패턴을 확인했다고 밝혔습니다. 다양한 변경 사항 중에서 Google은 오해의 소지가 있는 조언을 제공할 수 있는 응답에서 사용자 생성 콘텐츠의 사용을 제한하도록 시스템을 업데이트했습니다.

답변에 풍자 및 유머 콘텐츠가 포함되는 것을 제한하고 "AI 개요를 표시해서는 안 되는 무의미한 쿼리"를 식별하는 메커니즘을 구축했습니다. AI 개요가 도움이 되지 않는 쿼리에 대한 트리거 제한이 추가되었습니다.