- 출연연, 중소기업, 공공기관의 LLM 수요에 대응
한국과학기술정보연구원(이하 KISTI)은 12월 20일 과학기술데이터에 특화되고, 출연연, 공공기관에서 활용이 쉬운 생성형 거대 언어 모델(이하 LLM; Large Language Model) KONI(KISTI Open Natural Intelligence, 한글명 고니) 13b를 개발했다고 밝혔다.
ChatGPT와 같은 LLM 기술은 다양한 사용자의 질의에 대하여 풍부한 답변을 할 수 있다는 장점으로 작년 11월 출시부터 많은 관심을 받아 왔고, 국내에서도 네이버, KT, LG AI 연구원 같은 대기업들을 중심으로 여러 LLM들이 개발됐다.
하지만, 민감 정보나 보안 등의 문제를 중요시하는 출연연 및 공공기관이나 비용 문제로 도입을 망설이던 중소기업은 이들을 활용하는데 문제점을 보여왔다. 이러한 문제점을 해결하기 위해 KISTI는 보안이나 정보 유출에 안전하면서도, 기존의 LLM이 갖는 환각 현상을 최소화하고, 다양한 과학기술·산업 분야에 특화된 모델 개발이 쉬운 KONI를 개발했다.
KONI는 LLM에서 일반적으로 발생하는 환각 현상을 최소화하기 위해 기존 정보 서비스 시스템이 보유한 데이터를 답변 제공에 활용하는 검색 증강 생성 기술(RAG; Retrieval-Augmented Generation)의 적용이 쉽도록 개발되었다. 또한, PEFT(Parameteric Efficient Fine Tuning) 기법을 도입하여, 파인 튜닝 시 요구되는 전산 비용을 줄이면서도, 다양한 분야의 LLM 수요에 빠르게 대응할 수 있도록 적용 분야별 어댑터 형식의 파인튜닝을 적용, 효율적인 데이터 타입의 활용을 통해 LLM 모델을 개발했다.
이러한 장점들을 바탕으로 KISTI는 KONI 모델의 보급을 통해 보안 및 정보 유출이 염려되거나, 비용이나 전산 자원 부족의 문제로 LLM 도입·활용을 주저하였던 수요에 대응할 수 있다. 특히 출연연, 국회나 육군 군수사와 같이 LLM 도입을 고려하고 있으나, 전산 비용, 보안, 정보 유출 등을 이유로 LLM 도입이 어려웠던 출연연, 공공기관, 중소기업에 대한 LLM 지원을 할 예정이다. 또한, 모델 성능도 현재 130억 개 파라미터 수준의 모델 크기를 늘리고, 학습 데이터 또한 추가로 확보함으로써 지속적으로 향상시킬 계획이다.
KISTI 김재수 원장은“이번 KONI 13b의 개발을 통해 KISTI는 출연연, 공공기관, 중소기업을 포함하여 다양한 과학기술·산업 분야의 LLM 수요에 대응하고, 외부 기관들과의 협력 체계 구축을 통해 지속적인 학습 데이터 확보 및 모델의 보급을 꾀하고, 사용자 피드백을 반영하여 KONI 모델의 성능을 지속적으로 개선할 예정”이라고 밝혔다. 또 한, “KISTI의 국가과학기술데이터 서비스 분야에서도 KONI-13b를 통해 기존 과학기술정보 유통, 분석 체계를 획기적으로 개선함으로써 일반 대중과 전문과학자 모두가 활용할 수 있는 공학박사 수준의 AI 정보 서비스 체계를 구축해 나갈 것이며, 향후 AI를 통해 가설을 세우고 과학적 발견까지 지원함으로써 실제 연구에서도 활용할 수 있도록 확대할 예정”이라고 밝혔다.
한편, KISTI는 데이터 전문연구기관으로서 D.N.A 핵심 역량을 기반으로 과학기술·산업 분야의 초거대 AI를 구축·활용할 수 있도록 산·학·연·관·군 생태계를 구축하고 지속적으로 확산 노력을 강화할 예정이다.
