sang-woo.com
postsaboutguestbookplayground
🎄
troubleshooting

크리스마스 기념 Bot 만들기(aka.호진이)

2024.12.27

AI 사내 봇 제작기 1일차.

업무에 AI 기능을 도입하기 이전부터 학습하는 봇에 대한 궁금점과 효율에 관심이 많았다. 그거슨 자동화는 최적화의 다른 말이니까…

사내 봇 제작에 앞서 간단한 요구사항 명세서를 작성 해 보겠다. 극ENTP 인 성향 상 계획을 좋아하진 않지만, 경험에 의해서 이런 걸 계획없이 진행하면 꼭 산으로 … 가더라ㄱ…

    **요구사항**
  • 질의응답 중심
  • 답변에 대한 데터이 기반 답변
  • 자연어 처리 가능
  • 문서나 FAQ에 대한 짧고 정확한 답변 제공
  • 문맥 파악 및 문서 검색 능력 좋아야 함
  • 극히 주관적인 UX
이 정도 될 것 같다. 사내 봇의 경우 **"질의응답"** 이 중점이기 때문에 **"인코더 방식의"** BERT가 적합할 것 같다는 생각 그리고 효율적인 벡터검색과 스토리지 관리 아래와 같은 장점들 때문에 **"pinecone**" 을 사용하기로 했다. - 확장성과 리얼타임 검색 - 유연한 아키텍처 - 유사도 검색 기반으로 명확한 답변 제공 가능성

조금 걱정되는게 데이터 스토리지 용량이다.

스토리지 및 용량

- 총 2GB의 저장 공간 제공(약 300,000개의 1536차원 벡터 저장 가능)
- 월간 2백만 쓰기 유닛(Write Units) 제공
- 월간 1백만 읽기 유닛(Read Units) 제공

대안으로는 FAISS (Facebook AI Similarity Search) 를 생각했다.

사내 봇의 경우 내부 데이터를 다루기 때문에 SEO는 상관이 없고, 단순히 페이지 하나에서 질의응답만 받기 때문에 “SPA에 특화되어있고”, SSR보단 “단순 클라이언트 랜더링”이 요구되고, “타임라인을 2주” 로 잡았기 때문에 빠른개발을 위해서 React를 가용하기로 했다.

👇 도움이 되셨다면 👇

© Powered by moowoo