산업 데이터 파이프라인
처리 구조 요약
- 수집·보존Webhook · raw hex
- 정규화Converter · InfluxDB
- 배치·출력Celery · Avro/GCS
01 / ON-PREMISE CHATBOT
첨부 문서 기반 추론과 웹 서치, 사내 전용 챗봇
문서·이미지 분석과 웹 리서치를 하나의 대화 화면에 연결합니다. 제한된 GPU 자원에서는 요청 대기열과 실행 제어로 추론을 관리합니다.
사용자에게 보이는 것
모의 응답
- ①입력질문 · 첨부 선택
- ②응답스트리밍 표시 · 피드백
- ③이력대화별 기록 · 다시 열기
서버에서 처리하는 것
- 질문·첨부React
- 인증·컨텍스트FastAPI
- 요청 대기열PostgreSQL FIFO
- 모델 추론SGLang · GLM-5.3 Flash
- 스트리밍 응답SSE → React
API ↔ PostgreSQL: 계정 · 대화 · 첨부 · 피드백
운영 소스의 요약 흐름입니다. 공개 데모는 이 서버 경로를 실행하지 않습니다.
02 / PERMISSION-AWARE RAG
중앙 자산화된 사내 기준 DB를 답변 출처로, RAG
설계 기준
승인된 조직 문서를 검색 가능한 지식으로 정리합니다. 사용자의 권한 안에서 근거를 찾고, 답변을 원문 출처에 연결하는 설계입니다.
A. 문서를 지식으로
- 승인된 문서반입 승인
- 파싱·분할버전 · ACL 연결
- 검색 인덱스Qdrant · PostgreSQL
색인된 지식 → 아래의 권한 검색에 사용
B. 질문을 근거 있는 답변으로
- 질문·사용자신뢰된 사용자 · 그룹
- 권한 내 검색ACL 선필터
- 근거 기반 답변부족하면 부족 안내
- 원문 출처문서 · 버전 · 기준일
가상 형식 예시
RAG 구성도 보기 ↗- 질문
- 출장비 정산에 필요한 서류는?
- 답변
- 신청서와 증빙 서류가 필요합니다. [1]
- 출처
- [1] 예시 규정 · v1.0 · p.3
03 / OPERATING EXPERIENCE
운영 경험 기반 설계
untamedai.me
제품 운영 루프
- 설계·개발Next.js · FastAPI
- 배포Cloudflare
- 운영·개선세션 · 비용 · 안전