입력 : 2024-07-24 10:33:01
메타가 자체 실시한 벤치마크 테스트에서 오픈 AI GPT-4o와 앤트로픽 클로드 3.5 소네트(Claude 3.5 Sonnet)보다 성능이 향상됐다고 밝힌 역대 최대 규모 ‘오픈 소스’ AI 모델 라마(Lama) 3.1을 출시했다고 더버지가 23일(현지시간) 보도했다.
;)
라마 3.1 최상급 모델은 4050억(405B) 파라미터를 갖고 있으며, 엔비디아 H100 1만6000개 이상이 탑재된 시스템에서 훈련됐다. 메타는 또한 라마 3 70B 모델과 8B 모델도 업그레이드해서 선보였다.
라마 3.1은 지난 4월 출시한 라마 3와 마찬가지로 거의 모든 주요 클라우드 서비스(AWS, 데이터브릭스, 구글 클라우드, 허깅 페이스, IBM 왓슨X, 마이크로소프트 애져, 엔비디아 NIM, 스노우플레이크)에서 이용이 가능하다.
라마 3.1 405B 모델은 장문 텍스트 요약, 다국어 회화 에이전트, 코딩 어시스턴트, 미래의 AI 언어 모델 훈련에 사용할 합성 데이터 작성 등에 사용 가능하다. 또한 라마 3.1 출력을 사용해 다른 AI 모델의 성능을 개선할 수 있다.
메타는 라마 3.1을 15조 토큰이 넘는 트레이닝 데이터로 훈련했다고 밝혔지만, 데이터의 출처는 밝히지 않았다. 메타의 AI 어시스턴트 ‘메타AI’도 라마 3.1의 베이스가 되며, 지원 언어는 22개 국어로 증가했다. 인물 사진에서 이미지를 생성하는 기능 등이 추가된다.
마크 저커버그 CEO는 라마 3.1을 무료로 제공하는 이유에 대해서 “오픈 소스인 리눅스가 현재 스마트폰과 서버 기반 OS가 된 것처럼 오픈소스 AI 모델은 향후 폐쇄형 AI 모델을 제치고 더욱 발전해 나갈 것”이라고 말했다. 이어서 “라마 3.1 출시를 계기로 대부분의 개발자가 오픈소스 AI 모델을 사용하기 시작하게 될 것"이라고 강조했다.
라마 3.1을 AWS 등의 환경에서 실행하는데 소요되는 비용은 GPT-4o의 절반 수준이라고 한다.
라마 3.1은 메타 웹사이트나 허깅 페이스에서 다운로드받을 수 있다. 다운로드 시 개인정보 제공과 라이선스 및 이용 규정에 동의해야 한다.
목록
위로