[인더스트리뉴스 조창현 기자] DX 구현을 위한 AI 및 RPA 전문기업 코세나(대표 이승훈)가 LLM(Large Language Model) 서비스 ‘Kor-Merino Beta’ 버전을 발표한다고 5일 밝혔다. LLM은 최근 전 세계적으로 관심을 받은 챗GPT 같은 ‘대규모 언어 모델’을 말한다.
현재 엔터프라이즈 기업과 공공·금융기관, 서비스 업계는 클라우드 기반 서비스에 대한 활용도가 일반인에 비해 낮은 수준이다.
이에 대규모 언어모델을 ‘온프레미스 방식’으로 고객 내부에 구축하는 방안이 대안으로 제시되고 있다. 기업 내부에 직접 구축하겠다는 것이다. 이미 해외에서는 오픈AI 및 구글 같은 대기업부터 중소·벤처기업까지 고객 로컬에 LLM을 구축할 수 있는 역량을 갖춰 서비스를 제공하고 있다.
코세나가 새롭게 발표한 ‘Kor-Merino Beta’는 오픈소스 기반 LLM을 로컬에 구축하는 서비스다. 고객 보유 데이터에 따라 오픈소스인 ‘LLaMA’ 또는 ‘GPT-J’를 활용, 내·외부 서비스를 구축하도록 하는 패키지 솔루션으로 GPU 서버와 함께 제공된다.
코세나 이승훈 대표는 “현실적으로 고객 내부에 대규모언어모델을 구축해 내·외부 서비스를 제공하기 위해서는 내부 데이터 정리 및 전처리가 우선돼야 하며, 보유 중인 데이터셋만을 대상으로 LLM을 구축하는 경우에는 시간 및 비용 효율적이면서도 보안성이 우수한 솔루션을 선택해야 한다”며, “코세나는 고객 데이터셋에 따라 알고리즘을 선택적으로 활용하도록 지원하고 있다”고 전했다.
