room13/2026 대출상담 PoC/대출상담 도우미
Model 설정
답변을 만드는 모델과 한도를 정합니다 · 적용 중 Internal · Qwen 70B · temp 0.2 · 09-14 저장
외부 LLM 허용
끄면 사내 GPU 에서 도는 Internal 모델만 고를 수 있습니다
Provider
Model
Fallback
Temperature
Max Tokens
등록된 Provider
키 등록과 해지는 플랫폼 Models 메뉴에서 합니다
Internal (사내 vLLM)
GPU 서버 2대 · 사내망 · 질문과 문서가 회사 밖으로 나가지 않습니다
모델 3개
Fallback사용 중OpenAI
키 등록 09-12 · sk-••••3f7a · 질문 본문이 외부로 전송됩니다
모델 2개
외부 차단Anthropic
키가 등록되지 않았습니다 — Models 메뉴에서 등록합니다
모델 0개
키 없음Models 메뉴로 이동
Provider 추가 · API 키 교체 · 사내 모델 엔드포인트 등록