Aya-Expanse: 다국어를 잘 지원하는 오픈 소스 LLM

로컬 AI를 활용한 번역은 구글 젬마, Qwen 정도...인데, llama.cpp나 LM Studio 등으로 사용할 수 있는데, 이번에 알게된 모델. 다만 VRAM 32GB정도 필요한 모델들도 있어서 개인용도로 돌리기에 조금 부담은 된다. 코히어에서 오픈 소스로 제공중이고, 더 작은 Tiny 모델도 있었다. 

 

한국어로된 지문이나, 자장면 테스트 같은 거 해봐도 그럭저럭 잘 답변함. 번역 등으로 도움 받는 용도로 쓰기에 젬마보다 나은 것 같다(내 경우 한글, 일본어 위주).