AI Talk - LLM 기반 챗봇 시스템

프로젝트 소개

AI Talk은 삼육대학교 SW중심대학사업단 주관 산학연계 프로젝트로, LLM(대형 언어 모델)을 활용한 챗봇 시스템을 개발하여 사용자의 질의 응답, 문서 요약, OCR 기능을 제공하는 AI 서비스입니다.

Streamlit을 활용하여 웹 인터페이스를 구축하였으며, LangChain 기반의 RAG(검색 증강 생성) 기술을 적용하여 챗봇의 응답 정확도를 향상시켰습니다.

담당 역할 및 기술 스택

• OCR 기능 개발: Google Cloud Document AI를 활용하여 PDF 및 이미지에서 텍스트 추출
• LLM 기반 응답 생성: Gemini API를 활용한 문서 요약 및 사용자 질의 응답
• 백엔드 개발: Streamlit을 활용한 챗봇 시스템 구현 및 데이터 처리
• API 연동: Google Cloud API, LangChain, OpenAI API 활용

주요 기능

• SYU-GPT: 삼육대학교 관련 질문을 처리하는 맞춤형 GPT 챗봇
• OCR 기능: PDF 및 이미지 파일 내 텍스트 추출 및 요약
• 음식 추천 챗봇: 사용자의 선호도 기반 음식 추천 기능 구현

프로젝트 성과

• 문서 및 이미지에서 텍스트를 추출 후 LLM을 활용한 자동 요약 기능 구현
• 사용자의 질의에 대한 AI 기반 응답을 제공하는 챗봇 개발
• 프롬프트 엔지니어링 및 RAG 기술을 활용하여 답변 정확도 향상

협업 및 관리

• GitHub를 활용한 협업 및 버전 관리
• Streamlit 클라우드 배포를 통해 프로젝트 공유 및 테스트 진행
• 팀원들과 역할 분담하여 효율적인 개발 진행