데이터는 조직 안에 두고,
AI는 “근거 기반(RAG)”으로만 답하게
KostLab은 포털/업무/LMS 같은 기존 시스템 위에 AI를 덧대는 방식으로, 데이터 수집 → RAG 구성 → 서비스 배포 → 운영/비용 통제까지 하나의 흐름으로 연결합니다.
가능합니다. 온프렘/하이브리드에서 자체 LLM 또는 사내망 추론 엔진을 연결할 수 있습니다.
문제 정의
시스템과 데이터는 쌓이는데, 현장 성과는 정체되는 이유는 “연결”과 “운영”이 분리되어 있기 때문입니다. AI를 붙여도 PoC에서 멈추는 경우가 많습니다.
왜 기존 방식이 막히는가
- 시스템은 많아졌는데 포털/LMS/업무/행정이 분절되어 UX가 끊김
- 데이터는 쌓이지만 분석·활용이 “보고용”에 머무름
- AI를 붙여도 보안·권한·감사·운영 설계가 없어 확산이 어려움
그래서 “AI 모델”만이 아니라, 데이터 레이어 + RAG + 운영관리까지 포함된 플랫폼 구조가 필요합니다.
제품 개요
“포털/업무/LMS”를 그대로 유지하면서, 데이터·RAG·서비스·운영을 하나의 플랫폼으로 연결합니다.
핵심 메시지(브로셔용)
원문 데이터는 내부에 두고, AI는 RAG로 근거를 찾아 답하도록 하며, 운영자는 권한/비용/감사를 중앙에서 통제합니다.
DB/문서/게시판/콘텐츠 수집·정제·표준화
벡터 인덱스 + 메타데이터 + 권한 기반 검색
사용량·토큰·정책·로그 대시보드
핵심 모듈
AI 서비스가 “돌아가는 것”에서 끝나지 않도록, 데이터·RAG·서비스 빌더·운영관리를 모듈화했습니다.
모듈 구성(브로셔용 요약)
- AXCMS: 문서/DB/콘텐츠 수집·정제·태깅·권한·마스킹
- RAG Manager: 인덱스 생성/갱신, 검색 품질, 근거 정책
- AI Service Builder: 챗봇/검색/요약/업무보조 템플릿
- AI Ops: 사용자/조직/정책, 사용량·토큰·비용, 감사로그
도입이 쉬우면서도, 확산 단계에서 필요한 거버넌스가 기본 내장된 구조입니다.
RAG 흐름
RAG는 “AI가 그냥 답하는 것”이 아니라, 질문 → 검색 → 문맥(근거) → 추론 → 결과로 답변의 근거를 만들고, 데이터 반출을 최소화하는 방식입니다.
웹사이트에서 가장 쉬운 설명(추천 문장)
“AI가 조직의 문서를 암기하는 게 아니라, 질문이 들어오면 관련 근거를 찾아 그 근거로만 답하도록 만드는 구조입니다.”
- 벡터 데이터: 문서를 “의미 기반 검색”이 되도록 숫자 벡터로 변환한 인덱스
- 추론(GPU): LLM이 컨텍스트(근거)를 읽고 답변을 생성하는 계산 과정
- 통제: 권한/마스킹/로그로 “누가 무엇을 봤는지” 추적
보안/증명: “데이터를 안 보내고 추론만”을 어떻게 보장하나?
웹사이트에서 설득하려면, 약속 문장이 아니라 구조 + 정책 UI + 감사 로그로 “증명처럼” 보여줘야 합니다.
기술적으로 보장하는 4가지(핵심)
- 데이터 경로 분리: 원문 저장소는 내부, 외부로는 “근거(발췌/요약)”만
- 권한 기반 검색: 사용자 Role/부서에 따라 검색 가능한 근거 자체가 달라짐
- 마스킹/비식별화: 개인정보/민감정보는 문맥 생성 단계에서 제거
- 감사로그: 검색·근거·응답 이력을 남겨 사후 검증 가능
접근권한·차단 키워드·외부송신 금지
주민번호/연락처/PII 자동 제거
근거 문서 ID, 요청자, 시간, 결과
배포 옵션: On-Prem · Gov Cloud · Hybrid
클라우드를 쓰더라도 “데이터 유출 우려”가 있으면 내부 통제가 필요합니다. KostLab은 환경에 맞춰 3가지 배포 시나리오를 제공합니다.
On-Premise 성능은 ChatGPT보다 떨어지나?
모델 규모와 GPU 자원, 최적화에 따라 달라집니다. 같은 급의 모델을 충분한 GPU로 운용하면 체감 성능이 유사할 수 있습니다. 다만 초대형 상용 모델 대비로는 일반적으로 격차가 있을 수 있습니다.
현실적인 권장 조합
- 민감 데이터 중심이면: On-Prem 또는 Hybrid
- 확장/운영 편의가 중요하면: Gov/Private Cloud
- 빠른 시작 + 통제가 필요하면: Hybrid (가장 많이 선택)
활용 사례
“대학 LMS”에 국한되지 않게, 기업/기관 공통 업무에서 바로 효과가 나는 시나리오를 중심으로 구성합니다.
대표 시나리오
정책/규정집을 근거로 답변 + 출처 표시
회의록/보고서 요약 + 핵심 이슈 추출
전자결재/구매/인사 프로세스 단계 안내
장애 대응 매뉴얼 기반 빠른 가이드
로그 기반 “누가/언제/무엇을” 추적
권한과 데이터 영역이 분리된 업무 에이전트
각 시나리오는 “서비스 템플릿”으로 제공하고, 운영 정책(권한/비용/로그)을 함께 묶어 배포할 수 있습니다.
문의
현재 환경(온프렘/클라우드/혼합), 연동 대상(포털/SSO/LMS/업무), 데이터 유형(문서/DB)을 알려주시면 가장 현실적인 구성으로 제안드립니다.
연락처
이메일: admin@kostlab.co.kr
웹사이트: kostlab.co.kr
- 요청 목적(지식검색/업무보조/챗봇/요약/분석)
- 배포 형태(On-Prem / Gov·Private Cloud / Hybrid)
- 보안 요구(망분리/반출 제한/로그/마스킹)
협업 요청 시 포함하면 좋은 내용
- 연동 시스템: SSO, 포털, LMS, 그룹웨어, 문서관리
- 데이터: 규정/지침/업무 매뉴얼/DB/게시판
- 사용자: 임직원/부서/권한 체계
- 운영: 예상 사용자 수, 일일 질의량, 비용 한도