কাস্টম LLM: নিয়ে আসুন আপনার নিজস্ব AI মডেল ও API কী।

আপনি যেসব মডেল প্রোভাইডার ইতিমধ্যে ব্যবহার করেন, তাদের জন্য নিজের API ক্রেডেনশিয়াল সংযুক্ত করেন। MonoChat আপনার অ্যাকাউন্টের মাধ্যমে মডেলগুলো কল করে, ফলে আপনার মূল্য ও ডেটা চুক্তি অপরিবর্তিত থাকে এবং AI-তে কোনো মার্কআপ নেই।

OpenAI, Anthropic, Google, Azure OpenAI, AWS Bedrock, OpenRouter, xAI, DeepSeek, Groq, Cohere ও Ollama, এছাড়া আপনার নিজস্ব কাস্টম মডেল API।

জি। মডেল রেজিস্ট্রি আপনাকে প্রতিটি ওয়ার্কস্পেসে একাধিক মডেল পরিচালনা করতে এবং সেগুলো চ্যানেল, এজেন্ট ও স্কোপে অ্যাসাইন করতে দেয়। রুটিং নিয়ম খরচ, ল্যাটেন্সি, সক্ষমতা বা ভাষা অনুযায়ী মডেল বেছে নিতে পারে, আর কোনো প্রোভাইডার ব্যর্থ হলে ফলব্যাক চেইন কাজ করে।

জি। আপনি Ollama দিয়ে নিজের সার্ভারে ওপেন-সোর্স মডেল চালাতে পারেন, অথবা কাস্টম API এন্ডপয়েন্টের মাধ্যমে নিজস্ব ইন-হাউস মডেল সংযুক্ত করতে পারেন।

প্রোভাইডার ক্রেডেনশিয়াল সংরক্ষণ ও স্থানান্তর উভয় অবস্থায় এনক্রিপ্টেড থাকে। রোল-ভিত্তিক অ্যাক্সেস কন্ট্রোল কে এগুলো ব্যবহার করতে পারবে তা সীমিত করে, পরিবর্তনগুলো অডিট লগে রেকর্ড হয় এবং মডেল কনফিগারেশন প্রতিটি ওয়ার্কস্পেসে আলাদা থাকে।