일반모드와 추론모드를 하나의 엔진에 통합
인공지능(AI) 소프트웨어 기업 코난테크놀로지가 추론모드가 통합된 신규 LLM(거대 언어모델) 모델을 선보인다. 자체 벤치마크 결과 코딩성능에선 딥시크 R1 모델에 앞섰다는 설명이다.
코난테크놀로지는 추론모드가 통합된 코난 LLM 신규모델 ‘ENT(엔터프라이즈)-11’을 내놓는다고 26일 밝혔다. 일반 모드와 추론 모드를 하나의 엔진에 통합한 점이 가장 큰 특징이다.
이와 관련 회사 측은 “일반용 모델과 추론용 모델을 별도로 제공하는 타사 모델에 비해 더 낮은 GPU 비용으로도 고성능 AI 서비스가 가능하다는 점에서 차별화된다”고 전했다. 한국어 최적화 구조를 갖춘 것도 장점이다.
코난테크놀로지는 출시 전 진행된 자체 벤치마크 결과도 설명했다.
회사 측에 따르면 ‘ENT-11’모델의 매개변수는 32B 규모로 671B인 대형 모델 딥시크 R1 대비 약 5% 수준에 해당하는데 멀티턴 대화 및 지시를 따르는 능력을 측정하는 ‘MT-Bench’ 평가의 △작문 △역할극 △추론 △수학 △코딩 △정보 추출 △STEM(과학·기술·공학·수학) △인문학 8개 항목에서 딥시크 R1과 대등한 점수를 기록했다고 한다.
아울러 ‘ENT-11’모델과 매개변수가 32B로 동일한 딥시크 R1모델에 비해서는 평균 4.75%p 성능이 높았다고 밝혔다.
이와 함께 MT-Bench를 직접 번역 및 검수, 교정해 평정 결과의 정확성을 증대하고 오차를 감소시킨 ‘Konan MT-Bench’를 자체 구축해 신규 모델의 성능을 거듭 평가한 결과 ‘ENT-11’ 모델은 동일 크기의 딥시크 R1 대비 평균 5.38%p 높은 성능을 기록했다고 밝혔다.
한편, 이번 신규 모델은 이달 말 공식 출시될 예정이다.