AI · 엔터프라이즈6개월

Enterprise AI 검색 시스템

대규모 기업 내부 문서(사내 규정, 기술 매뉴얼, 보고서 등)를 자연어로 검색할 수 있는 AI 기반 검색 시스템입니다. 자체 개발한 sLLM(Kelron)을 활용하여 온프레미스 환경에서도 안정적으로 운영되며, 기존 키워드 검색 대비 검색 정확도와 속도를 획기적으로 개선했습니다.

sLLM자연어처리벡터 검색RAG

도전 과제

수십만 건의 비정형 문서에서 정확한 정보를 빠르게 찾는 것이 핵심 과제였습니다. 기존 키워드 기반 검색은 동의어, 맥락 파악이 불가능하여 직원들의 검색 만족도가 낮았고, 외부 AI API 사용은 보안 정책상 불가능했습니다.

솔루션

자체 sLLM(Kelron)을 온프레미스에 배포하고, RAG(Retrieval-Augmented Generation) 아키텍처를 적용하여 문서를 벡터화하고 자연어 질의에 대한 정확한 답변을 생성하도록 구현했습니다. 문서 업데이트 시 자동으로 인덱싱되는 파이프라인도 구축했습니다.