RAG (Retrieval Augmented Generation)

• LLM의 문제점
  • 최근 지식, 구체적인 분야의 전문 지식이 없다.
  • 없는 말을 지어낸다. (Hallucination)

⇒ 이런 문제들을 해결한 RAG

Retrireval(검색) → 외부 데이터 소스를 검색하여

Augmented(증강) → 나의 질문을 보강해서

Generation(생성) → 더 좋은 답변을 생성

확실한 출처를 가지고 답변한다.

• PEFT(Fine-tuning) vs RAG
  • 학습은 너무 많은 리소스가 필요해

• Wtih RAG vs Without RAG

<일반적인 AI챗봇 (without RAG) >

RAG 활용 AI챗봇 (with RAG) >

예시)

질문 : 오타니가 지금 어디 소속이야?

검색 결과 :