LLM 기반 챗봇의 두 가지 접근법
LLM(Large Language Model, 대규모 언어 모델)은 기본적으로 Text-to-Text 방식으로 작동하며, 광범위한 지식을 바탕으로 질문에 답한다. 특정 제품이나 서비스에 대한 FAQ(자주 묻는 질문) 응대 챗봇을 만들기 위해서는 LLM Alignment Tuning(정렬 튜닝)이 필요하다.
일반적으로 두 가지 주요 기술이 사용된다:
- Fine-tuning(미세조정): 특정 데이터셋을 이용해 모델 자체를 재학습시키는 방식이다. LoRA나 QLoRA 같은 기술이 여기에 해당한다. 강력하지만 많은 데이터와 컴퓨팅 자원, 전문 지식이 필요하다.
- RAG(Retrieval-Augmented Generation, 검색 증강 생성): AI가 답변을 생성할 때 지정된 데이터베이스나 문서에서 관련 정보를 실시간으로 검색하여 그 내용을 바탕으로 답변하게 만드는 기술이다. LangChain 같은 프레임워크로 구현할 수 있지만 개발 환경 설정 등 진입 장벽이 존재한다.
Google의 NotebookLM 서비스를 이용하면 코딩 없이 누구나 RAG 기반의 강력한 FAQ 응대 챗봇을 만들 수 있다. 이 글에서는 Samsung Galaxy Buds 3에 대한 FAQ 챗봇을 NotebookLM으로 제작하는 과정을 알아본다.
제작 과정
1단계: 정보 출처 준비하기
챗봇이 답변의 근거로 삼을 자료를 준비한다. 답변의 정확도를 높이려면 공식적이고 상세한 자료를 사용한다.
- 제품 설명서: Samsung 공식 홈페이지에서 Galaxy Buds 3 제품 설명서 PDF 파일 다운로드
- 제품 소개 페이지: 공식 홈페이지의 제품 소개 웹사이트 주소 복사
- 기타 자료: 제품 관련 뉴스 기사, 리뷰, 스펙 시트 등
2단계: NotebookLM에 출처 업로드하기
준비한 자료를 NotebookLM에 업로드하여 AI의 지식 기반으로 만든다.
PDF 파일 업로드
- NotebookLM의 '출처' 섹션에서 'PDF' 선택
- 다운로드한 제품 설명서 파일 업로드
웹사이트 내용 붙여넣기
- Galaxy Buds 3 제품 소개 웹페이지에서 마우스 오른쪽 버튼 클릭 → '페이지 소스 보기' 선택
- Ctrl+A로 전체 소스 코드(DOM, Document Object Model) 선택 → Ctrl+C로 복사
- NotebookLM의 '출처'에서 '텍스트' 선택 → 복사한 내용 붙여넣기
- 다른 자료들도 동일한 방식으로 '텍스트'나 'PDF' 형식으로 추가
3단계: 챗봇 테스트 및 활용하기
NotebookLM의 채팅창에 Galaxy Buds 3에 대해 질문한다.
- "갤럭시 버즈 3 배터리 사용 시간은 얼마나 돼?"
- "액티브 노이즈 캔슬링 기능 설정 방법 알려줘."
- "방수 등급이 어떻게 되지?"
NotebookLM은 업로드한 자료만을 근거로 정확한 답변을 생성한다. 답변 아래에는 어떤 문서의 몇 번째 페이지나 구절을 참고했는지 출처 번호가 표시되어 정보의 신뢰성을 즉시 확인할 수 있다.
4단계: 챗봇 공유하기 (유료 플랜 필요)
완성된 FAQ 챗봇은 다른 사람들도 사용할 수 있도록 공유할 수 있다. 사내 직원이나 고객이 제품에 대해 쉽게 문의하고 답변을 얻는 채널로 활용한다.
NotebookLM으로 만든 결과물을 공유(Share)하는 기능은 Google AI Pro 요금제와 같은 유료 플랜 구독자에게만 제공된다.
화면 우측 상단의 '공유' 버튼을 눌러 링크를 생성하고, 이 링크를 전달하면 누구나 FAQ 챗봇과 대화할 수 있다.