개발 사례 · AI·챗봇 개발

LLM 대화 이력 관리·프롬프트 제어 백엔드

대화가 이어지도록 맥락을 저장하고, 답변이 엉뚱한 곳으로 새지 않게 프롬프트를 서버에서 통제하는 백엔드입니다.

LLM 대화 이력 관리·프롬프트 제어 백엔드 화면
운영 화면입니다. 민감한 정보는 모자이크했습니다.
고객사
케어유
기간
2026.02 ~ 2026.06
역할
백엔드 개발
기술
Spring Boot, PostgreSQL, OpenAI API

해결한 문제

프롬프트가 앱 안에 있으면 고칠 때마다 스토어 심사를 다시 받아야 합니다. 맥락을 무한정 쌓으면 비용도 커집니다.

만든 기능

  • 사용자별 대화 이력 저장과 맥락 길이 조절
  • 시스템 프롬프트 서버 관리
  • 프롬프트 버전 관리와 교체 시 즉시 반영
  • 토큰 사용량 기록과 비용 추적

설계 기준

  • 프롬프트를 서버로 빼서 스토어 심사 없이 바로 고칠 수 있게 했습니다.

AI 챗봇·ChatGPT 연동 개발 안내

비슷한 프로젝트 상담

바꾸고 싶은 업무를 알려 주세요. 연동할 시스템이나 장비가 있다면 함께 적어 주세요. 기획서 없이 무료로 상담할 수 있습니다.

카톡 상담