RAG 기술
검색증강생성(RAG) 기술을 사용한 맞춤형 AI입니다.
- 1질문사용자가 질문을 합니다.
(Prompt) - 2검색자체 학습 DB에서 데이터를 검색합니다.
(Retrieval) - 3증강질문 내용을 길고 자세히 증강시킵니다.
(Augmented Context) - 4증강질문증강된 질문을 거대언어모델(LLM)에 보냅니다.
(Augmented Prompt) - 5답변생성LLM이 생성한 답변을 받아옵니다.
(Generation) - 6답변사용자에게 답변을 전달하고 사용기록에 남깁니다.
(Response)
RAG(Retrieval-Augmented Generation)란?
RAG는 검색(Retrieval)과 생성(Generation)을 결합한 AI 기술입니다.
사용자의 질문과 관련된 문서를 먼저 검색한 후, 검색된 정보를 바탕으로 생성형 AI가 답변을 생성하는 방식입니다.
1RAG의 장점
-
1. 내부 문서를 활용할 수 있습니다.
사내 문서, 규정, 매뉴얼, FAQ 등 외부에 공개되지 않은 정보를 활용할 수 있습니다.
-
2. 최신 정보를 반영할 수 있습니다.
모델을 재학습하지 않고도 최신 문서와 공지사항을 활용할 수 있습니다.
-
3. 환각(Hallucination)을 줄일 수 있습니다.
검색된 근거를 기반으로 답변을 생성하여 허위 정보를 생성할 가능성을 낮춥니다.
-
4. 답변의 신뢰성을 높일 수 있습니다.
출처 및 근거 문서를 함께 제공하여 답변의 신뢰도를 높일 수 있습니다.
-
5. 모델 재학습 비용을 절감할 수 있습니다.
문서만 추가하거나 수정하면 최신 정보가 반영되어 별도의 모델의 재학습이 필요하지 않습니다.
RAG와 일반 생성형 AI의 차이?
일반 생성형 AI는 학습된 지식을 기반으로 답변하지만,
RAG는 최신 정보와 내부 문서를 함께 활용하여 더욱 정확하고 신뢰성 있는 답변을 제공합니다.
2RAG와 일반 생성형 AI의 차이점
| 구분 | RAG | 일반 생성형 AI |
|---|---|---|
| 내부 문서 활용 | 사내 문서, 규정, FAQ, 매뉴얼 등 활용 가능 | 내부 문서 활용이 제한적 |
| 최신 정보 | 최신 문서와 데이터를 즉시 반영 | 최신 정보 반영이 어려움 |
| 답변 방식 | 관련 문서를 검색한 후 근거를 기반으로 답변 생성 | 학습된 지식을 기반으로 답변 생성 |
| 답변 신뢰성 | 검색된 근거를 기반으로 정확한 답변 제공 | 환각(Hallucination) 발생 가능 |
| 유지관리 | 문서 추가 · 수정만으로 최신 정보 반영 | 최신 정보 반영을 위해 재학습 필요 |
RAG를 도입한다면?
RAG는 최신 정보를 활용하여 다양한 업무에 적용할 수 있으며,
업무 효율성과 서비스 품질을 향상시킵니다.
3RAG 도입 시 활용 가능한 업무
-
민원안내
민원 신청 절차, 필요 서류,
접수 방법 등을 안내합니다. -
문서검색
내부 문서, 공지사항, 보고서 등
다양한 문서를 검색합니다. -
규정·지침 검색
사규, 규정, 업무 지침, 매뉴얼 등
필요한 정보를 검색합니다. -
업무 지원
업무 프로세스, 시스템 사용법,
업무 양식 등을 안내합니다. -
고객 상담
고객 문의에 대한 답변을 제공하고
상담 업무를 지원합니다. -
FAQ 서비스
자주 묻는 질문에 대한 답변을
자동으로 제공하여 편의성을
높입니다. -
정책 안내
정책, 공지사항, 제도 변경 등
최신 정보를 안내합니다. -
지식 관리
조직의 지식 자산을 체계적으로
관리 및 필요한 지식을
쉽게 활용합니다.
AI 프로는 자체 검색 최적화 기술을 통해 RAG의 한계를 보완하여,
더욱 빠르고 정확한 검색과 신뢰성 있는 답변을 제공합니다.
