NVIDIA , Hugging Face 및 ServiceNow가 StarCoder2 코딩 LLM 출시

해외 기사를 번역기로 번역 하였습니다 오역이 있을수 있으니 원문을 참고 하세요

Nvidia, Hugging Face 및 ServiceNow는 "성능, 투명성 및 비용 효율성에 대한 새로운 표준"을 제공하는 코드 생성을 목표로 하는 StarCoder2라는 LLM 제품군을 출시했습니다. 모델 제품군에는 ServiceNow에서 훈련한 30억 개의 매개변수 모델, Hugging Face에서 훈련한 70억 개의 매개변수 모델, NVIDIA에서 훈련한 150억 개의 매개변수 모델이 포함됩니다.

StarCoder2는 619 프로그래밍에 대한 교육을 받았으며 소스 코드 생성, 워크플로 생성, 텍스트 요약 등과 같은 특수 작업을 수행할 수 있습니다. 엔비디아는 개발자들이 코드 완성, 고급 코드 요약, 코드 조각 검색 등을 위해 이를 사용해 생산성을 높일 수 있다고 말했습니다.

원래 StarCoder LLM에 대한 개선 측면에서 Nvidia는 새로운 30억 매개변수 모델이 원래 StarCoder 150억 매개변수 모델의 성능과 일치한다고 밝혔습니다. 이는 Stack v1보다 7배 더 큰 Stack v2라는 새로운 코드 데이터 세트를 사용하여 달성되었습니다. 새로운 훈련 기술은 또한 모델이 COBOL, 수학, 프로그램 소스 코드 토론과 같은 저자원 프로그래밍 언어를 더 잘 이해할 수 있음을 의미합니다.

이 뉴스에 대해 Hugging Face의 기계 학습 엔지니어인 Leandro von Werra는 다음과 같이 말했습니다.

“Hugging Face, ServiceNow 및 NVIDIA가 주도한 공동 노력을 통해 커뮤니티가 완전한 데이터 및 교육 투명성을 통해 광범위한 애플리케이션을 보다 효율적으로 구축할 수 있도록 지원하는 강력한 기본 모델의 출시가 가능해졌습니다. StarCoder2는 책임 있는 AI를 민주화하기 위해 노력하는 오픈 소스와 오픈 사이언스의 잠재력을 보여주는 증거입니다.”

StarCoder2는 로열티 없는 액세스 및 사용을 허용하는 BigCode Open RAIL-M 라이센스에 따라 제공됩니다. 소스 코드는 BigCode 프로젝트의 GitHub 페이지에서 사용할 수 있으며, 모델은 Hugging Face에서 다운로드할 수 있습니다.