May 23, 2024

2 minute read

C4AI, 8B 및 35B 파라미터 오픈 웨이트 모델인 Aya 23 출시

Cohere For AI가 23개 언어를 지원하는 최첨단 다국어 생성형 LLM 패밀리인 Aya 23을 새롭게 발표합니다. 80억 및 350억 파라미터의 Aya 23 모델은 다국어 연구에 대한 당사의 의지를 반영합니다.

C4AI Launches Aya 23, 8B and 35B Parameter Open Weights Release

오늘, Cohere For AI는 23개 언어를 지원하는 최첨단 다국어 생성형 대형 언어 모델(LLM) 연구 모델 패밀리인 Aya 23을 발표하게 되어 기쁘게 생각합니다. 당사는 다국어 연구에 대한 지속적인 헌신의 일환으로 80억 및 350억 파라미터의 Aya 23 모델을 오픈 웨이트(Open Weights) 형태로 모두 공개합니다.

Aya 23 모델 패밀리는 Aya를 기반으로 합니다. Aya는 전 세계 3,000명의 협력자가 모여 현재까지 최대 규모의 다국어 인스트럭션 파인튜닝 데이터셋과 최첨단 대규모 다국어 모델을 구축한 오픈 사이언스 운동입니다. 101개 언어를 지원한 Aya 101이 범위에 집중했다면, Aya 23은 고성능 사전 학습 모델과 최근 출시된 Aya 데이터셋 컬렉션을 결합하여 깊이에 집중합니다. 그 결과 23개 언어를 지원하는 강력한 다국어 대형 언어 연구 모델이 탄생했으며, 최첨단 언어 모델링 역량을 전 세계 인구의 거의 절반까지 확장하게 되었습니다.

Aya 23과 더 넓은 Aya 모델 및 데이터셋 패밀리는 ML 커뮤니티가 다국어 AI 연구를 접근하는 방식의 패러다임 전환에 기여합니다. LLM과 AI 전반이 글로벌 기술 지형을 변화시키면서, 기존 모델의 언어적 한계로 인해 전 세계 많은 커뮤니티가 지원받지 못하는 상황에 놓였습니다. 대부분의 고성능 언어 모델은 소수의 언어만 지원합니다. Aya 23은 더 많은 언어를 동등하게 다룰 수 있음을 입증하는 최첨단 연구에 기여하고, 이러한 미션에 동참하는 연구자들을 지원하기 위한 모델을 공개하겠다는 당사의 약속의 일환입니다. Aya 23과 더 넓은 Aya 모델 및 데이터셋 패밀리는 ML 커뮤니티가 다국어 AI 연구를 접근하는 방식의 패러다임 전환에 기여합니다.

당사는 Aya-101과 같은 대규모 다국어 오픈 소스 모델 및 널리 사용되는 오픈 웨이트 인스트럭션 튜닝 모델과 비교하여 Aya 23의 성능을 벤치마킹했습니다. 350억 파라미터의 Aya 23은 지원 언어 전반에 걸쳐 모든 벤치마크에서 최고 수준의 결과를 달성했으며, 80억 파라미터의 Aya 23은 동급 최고의 다국어 성능을 보여줍니다. 이번 출시를 통해 당사는 자연어 이해, 요약, 번역과 같은 복잡한 작업에서 광범위한 언어 스펙트럼에 걸쳐 뛰어난 역량을 입증합니다.

80억 파라미터 버전의 Aya 23은 일반 개발자들을 위해 매우 효율적이고 접근성이 높은 다국어 연구 모델을 개발하겠다는 당사의 의지를 보여줍니다. 모델 크기가 작기 때문에 컴퓨팅 리소스 요구 사항이 감소합니다. 이는 최첨단 기술에 대한 접근성을 민주화함으로써 전 세계 AI 연구자들의 격차를 줄이는 데 도움이 되는 중요한 요소들입니다. 이는 연구소로서 대규모 효율성 구현을 위한 당사의 지속적인 연구의 일환이며, 당사의 작업에 대해 더 자세히 알아보시려면 여기를 확인하십시오.

Aya 23은 기초 연구 및 안전 감사를 위한 실험, 탐색 및 개발에 활용할 수 있도록 출시되었습니다. 다음 링크에서 모델을 직접 체험해 보세요: https://huggingface.co/spaces/CohereForAI/aya-23.

이 모델과 더 넓은 Aya 프로젝트에 대해 더 자세히 알아보려면 다음 페이지를 방문하세요: https://cohere.com/research/aya.

또한 여러 다국어 NLP 벤치마크에 대한 전체 평가 결과와 생성 품질 평가가 포함된 Aya 23의 기술 보고서를 공개합니다.