OpenAI, 구글과의 가격 전쟁 중 GPT-4o 가격 인하, 구조화된 출력 출시

GPT-4o는 OpenAI의 가장 진보된 멀티모달 모델입니다. GPT-4 Turbo보다 빠르고 저렴하며, 비전 기능이 더 강력합니다. OpenAI는 오늘 새로운 gpt-4o-2024-08-06 모델을 100만 개의 입력 토큰당 2.50달러, 100만 개의 출력 토큰당 10.00달러에 판매한다고 발표했습니다. 이 새로운 가격은 gpt-4o-2024-05-13에 비해 입력 토큰은 50%, 출력 토큰은 33% 저렴합니다. 비교를 위해 Gemini 1.5 Pro 모델은 100만 개의 입력 토큰당 3.50달러, 100만 개의 출력 토큰당 10.50달러입니다.

DevDay 2023 에서 OpenAI는 처음으로 JSON 모드를 발표했습니다. 이 모드는 모델에서 유효한 JSON 출력을 생성하지만 응답은 특정 스키마에 맞지 않습니다. 어제 OpenAI는 API에서 구조화된 출력을 발표했는데, 이는 모델에서 생성된 출력이 개발자가 제공한 JSON 스키마와 정확히 일치하도록 보장합니다. 이 구조화된 출력 기능은 이제 API에서 일반적으로 사용할 수 있습니다.

OpenAI는 구조화된 출력에 대한 기본 지원으로 Python 및 Node SDK를 업데이트했습니다. 함수 호출이 포함된 구조화된 출력은 이제 API에서 함수 호출을 지원하는 모든 OpenAI 모델에서 사용할 수 있습니다. 여기에는 gpt-4o, gpt-4o-mini, gpt-4-0613 및 gpt-3.5-turbo-0613과 함수 호출을 지원하는 모든 미세 조정 모델이 포함됩니다. 이 기능은 비전 입력을 포함하여 Chat Completions API, Assistants API 및 Batch API에서 사용할 수 있습니다.

응답 형식이 있는 구조화된 출력은 gpt-4o-mini 및 gpt-4o-2024-08-06과 이러한 모델을 기반으로 하는 모든 미세 조정 모델에서 사용할 수 있습니다. 이 기능은 Chat Completions API, Assistants API, Batch API에서 사용할 수 있으며 비전 입력과 함께 사용할 수 있습니다.

구조화된 출력과 함께 제공되는 JSON 스키마는 Zero Data Retention에 적합하지 않다는 점에 유의하는 것이 중요합니다. 또한 구조화된 출력을 사용할 때 몇 가지 제한 사항이 있습니다. 아래 소스 링크에서 이에 대해 자세히 알아볼 수 있습니다.