‘오정보 생성’ 현상 70% 줄여

KT가 자사 초거대 인공지능(AI) ‘믿음’을 공개하고 이를 기반으로 기업이 맞춤형으로 AI를 구축할 수 있는 서비스를 31일 출시했다. 이날 서울 서초구 KT 연구개발센터에서 기자설명회를 연 KT는 국내 최초로 1조 토큰 이상 데이터를 학습한 대규모언어모델(LLM) 믿음을 정식으로 공개했다. 토큰은 LLM이 언어로 인식할 수 있도록 말을 데이터 형식으로 쪼개 놓은 단위다.

KT가 출시한 서비스는 믿음을 기반으로 고객 기업이 규모와 사용 목적에 맞게 완전 맞춤형으로 AI를 구축할 수 있도록 설계됐다. 출시 모델은 매개변수 70억개 수준의 ‘경량’(베이직)부터 오픈AI의 LLM GPT-3(1750억개)보다 매개변수가 250억개 이상 많은 ‘초대형’(엑스퍼트)까지 4종으로 나뉜다.

연구기관이나 개발자, 기업이 KT와 AI 협력사의 인프라와 함께 믿음 기반 모델을 사용할 수 있는 ‘KT 믿음 스튜디오’도 올해 안으로 출시한다. 고객은 데이터 비용을 25% 절감할 수 있는 KT클라우드와 추론 비용을 기존 대비 50% 절감한 리벨리온의 AI 전용 반도체인 신경망처리장치(NPU)를 믿음 기반 모델과 함께 사용할 수 있다.

KT는 생성 AI의 난제인 ‘할루시네이션’(오정보 생성) 현상도 70% 해결했다고 밝혔다. ‘다큐먼트 AI’로 복잡한 문서를 정확히 이해하도록 하며 목표에 최적화된 정보를 찾는 ‘서치 AI’, 원문에 근거한 응답만 생성하도록 하는 ‘팩트가드 AI’도 적용했다. 이들 기술은 국내 최고 기술을 보유한 업스테이지와 협업했다.