커스텀 LLM
커스텀 LLM: 보유한 AI 모델과 API 키를 그대로 사용하세요.
OpenAI, Anthropic, Google, Azure, AWS, OpenRouter, xAI, DeepSeek, Groq, Cohere, Ollama 또는 자체 모델 API를 연결하세요. 비용, 지연 시간, 성능에 따라 요청을 라우팅하며 폴백, 모니터링, 거버넌스가 기본 제공됩니다.
-
OpenAI -
Anthropic -
Google Gemini -
Azure OpenAI -
AWS Bedrock -
OpenRouter -
xAI -
DeepSeek -
Groq -
Cohere -
Ollama
유연한 모델 연동
제공업체, 라우팅, 거버넌스까지 사용 환경에 맞는 방식을 선택하세요.
-
외부 API 연결
자격 증명으로 기존 모델 제공업체를 MonoChat에 연결하고 연결 상태를 검증하세요.
- API 키 관리
- 안전한 자격 증명 저장
- 연결 검증
- 사용량 모니터링
-
모델 레지스트리
워크스페이스별로 여러 모델을 관리하고 채널, 에이전트, 범위에 할당하세요.
- 제공업체 + 모델 카탈로그
- 워크스페이스별 분리
- 환경 분리
- 버전 관리되는 구성
-
라우팅 및 폴백
비용, 지연 시간, 성능, 언어에 따라 라우팅하고 안전한 폴백과 A/B 테스트를 적용하세요.
- 지능형 라우팅 규칙
- 폴백 체인
- A/B 테스트
- 성능 비교
지원하는 API 제공업체
특정 업체에 종속되지 않고 원하는 제공업체를 연결하세요.
-
OpenAI
어시스턴트, 검색, 콘텐츠 생성을 위한 범용 언어, 비전, 오디오 모델 제품군입니다.
- 채팅 및 어시스턴트 모델
- 멀티모달 추론 모델
- 임베딩 및 도구
-
Anthropic
엔터프라이즈급 대화를 위한 안전성 중심의 어시스턴트 및 추론 모델 제품군입니다.
- 어시스턴트형 모델
- 긴 컨텍스트 추론 모델
- 엔터프라이즈 안전 도구
-
Google
검색, 대화, 멀티모달 경험을 위한 Google AI 모델 제품군입니다.
- 검색 및 대화 모델
- 멀티모달 모델
- 엔터프라이즈 ML 서비스
-
Azure OpenAI
Azure 규정 준수, 관측 가능성, 거버넌스를 갖춘 엔터프라이즈 OpenAI 서비스입니다.
- 관리형 파운데이션 모델
- 엔터프라이즈 보안 및 규정 준수
- 모니터링 및 관측 가능성
-
AWS Bedrock
고객님의 클라우드 계정과 리전 안에서 실행되는 AWS의 완전 관리형 파운데이션 모델입니다.
- 다양한 모델 제품군
- 고객님의 AWS 계정에서 실행
- IAM 및 VPC 연동
-
OpenRouter
여러 제공업체의 수백 개 모델을 API 키 하나로 사용하며, 통합 청구와 자동 제공업체 폴백을 지원합니다.
- 하나의 API로 수백 개 모델
- 오픈소스 및 독점 모델
- 제공업체 폴백 및 가격 기반 라우팅
-
xAI
빠르고 실시간 정보를 반영하는 대화와 추론을 위한 Grok 모델 제품군입니다.
- Grok 채팅 모델
- 추론 모델
- 비전 지원
-
DeepSeek
코딩과 수학 성능이 뛰어난 비용 효율적인 채팅 및 추론 모델입니다.
- 채팅 모델
- 추론 모델
- 토큰당 낮은 비용
-
Groq
인기 오픈 모델을 위한 초저지연 추론으로, 실시간 채팅에 적합합니다.
- 매우 빠른 추론
- 오픈소스 모델
- 실시간 대화
-
Cohere
검색, 조회, 다국어 비즈니스 용도로 만들어진 엔터프라이즈 언어 모델입니다.
- Command 채팅 모델
- 임베딩 및 리랭크
- 다국어 지원
-
Ollama
오픈소스 모델을 자체 서버에서 실행하고 모든 대화를 자사 인프라에 보관하세요.
- 자체 호스팅 모델
- 데이터는 온프레미스에 유지
- 토큰당 요금 없음
-
커스텀 API
팀이 완전히 통제하는 자체 사내 모델 또는 도메인 특화 모델 API입니다.
- 내부 모델 게이트웨이
- 도메인 특화 모델
- 프라이빗 추론 엔드포인트
간편한 연동 과정
깔끔하고 반복 가능한 설정으로 커스텀 모델을 바로 가동하세요.
-
API 자격 증명 추가
제공업체 키를 안전하게 추가하고 역할별로 접근을 제한하세요.
-
라우팅 설정
채널, 에이전트, 워크플로별로 모델 우선순위, 폴백, 규칙을 설정하세요.
-
테스트 및 배포
테스트를 실행하고 성능을 모니터링하며 운영 환경에 안전하게 배포하세요.
엔터프라이즈급 보안
모든 모델과 워크스페이스의 자격 증명을 보호하고 거버넌스를 적용하세요.
-
자격 증명 암호화
모든 제공업체 자격 증명은 저장 시와 전송 시 암호화됩니다.
-
접근 제어
역할 기반 접근 제어(RBAC)로 세분화된 권한을 설정합니다.
-
감사 로그
모델 구성 변경 및 사용 내역에 대한 전체 감사 기록을 제공합니다.
-
워크스페이스 분리
데이터와 모델 구성은 워크스페이스별로 분리됩니다.
산업별 모델
팀이 MonoChat에 연결하는 특정 분야 중심 모델 구성 예시입니다.
-
이커머스
- 상품 추천 엔진
- 고객 감정 분석
- 가격 최적화 모델
- 재고 예측
-
헬스케어
- 의료 접수 어시스턴트
- 환자 분류(트리아지) 시스템
- 약물 상호작용 확인기
- 증상 분석
-
금융
- 사기 탐지 시스템
- 신용 평가 모델
- 위험 평가 도구
- 규정 준수 요약
-
교육
- 개인 맞춤형 학습 경로
- 학생 성취도 예측기
- 콘텐츠 추천
- 자동 채점
FAQ
커스텀 LLM 관련 질문
가장 많이 묻는 질문에 대한 빠른 답변.
MonoChat에서 "자체 LLM 사용(bring your own LLM)"은 무슨 뜻인가요?
이미 사용 중인 모델 제공업체의 API 자격 증명을 직접 연결합니다. MonoChat은 고객님의 계정을 통해 모델을 호출하므로 기존 요금과 데이터 계약이 그대로 유지되며, AI 추가 요금(마크업)이 없습니다.
어떤 LLM 제공업체를 연결할 수 있나요?
OpenAI, Anthropic, Google, Azure OpenAI, AWS Bedrock, OpenRouter, xAI, DeepSeek, Groq, Cohere, Ollama를 지원하며, 자체 커스텀 모델 API도 연결할 수 있습니다.
어시스턴트나 채널마다 다른 모델을 사용할 수 있나요?
네. 모델 레지스트리에서 워크스페이스별로 여러 모델을 관리하고 채널, 에이전트, 범위에 할당할 수 있습니다. 라우팅 규칙으로 비용, 지연 시간, 성능, 언어에 따라 모델을 선택할 수 있으며, 제공업체에 장애가 생기면 폴백 체인이 작동합니다.
자체 호스팅 모델이나 프라이빗 모델을 사용할 수 있나요?
네. Ollama로 오픈소스 모델을 자체 서버에서 실행하거나, 커스텀 API 엔드포인트로 사내 모델을 연결할 수 있습니다.
제공업체 API 키는 어떻게 보호되나요?
제공업체 자격 증명은 저장 시와 전송 시 모두 암호화됩니다. 역할 기반 접근 제어로 사용 가능한 사용자를 제한하고, 변경 사항은 감사 로그에 기록되며, 모델 구성은 워크스페이스별로 분리됩니다.
Growth 첫 달 무료
모델을 연결할 준비가 되셨나요?
자격 증명을 추가하고, 라우팅을 설정하고, MonoChat에서 멀티 모델 어시스턴트를 운영하세요. 거버넌스와 모니터링이 함께 제공됩니다.
비즈니스당 코드 1개 • 30일 이내 사용 • 카드 등록 불필요