[해외 DS] 오픈소스 LLM, 접근성과 비용 사이의 갈림길
메타의 오픈소스 LLM인 라마 2는 접근성이 높지만, 운영 비용이 비싸다는 지적이 있다. 라마 2는 OpenAI의 GPT-4 터보에 비해 50~100% 더 비싼 운영 비용이 발생할 수 있으며, 이는 스타트업과 같은 소규모 기업에게는 큰 부담이 될 수 있다. 비용 절감을 위해서는 업무의 규모와 모델의 크기의 균형을 잘 맞춰야 한다는 게 전문가들의 중론이다. 또한, 인공지능 컴퓨팅 자원의 수급이 안정화되고, 특정 사용 사례에 적합한 비용 효율적인 모델이 개발된다면, 비용에 대한 부담이 줄어들 것으로 기대된다.