আপনার গ্রাহকমুখী AI এজেন্টের কেন ফলব্যাক মডেল দরকার

একটি গ্রাহকমুখী AI এজেন্টের ফলব্যাক মডেল দরকার, কারণ প্রতিটি মডেল শেষ পর্যন্ত সবচেয়ে খারাপ মুহূর্তে ব্যর্থ হয়: প্রোভাইডারের আউটেজ হয়, আপনার অ্যাকাউন্ট রেট লিমিটে পৌঁছায়, একটি অনুরোধ টাইমআউট হয়, অথবা একটি অস্বাভাবিক কথোপকথন পরিকল্পনার চেয়ে বেশি টোকেন খরচ করে ফেলে। ফলব্যাক না থাকলে এজেন্ট চুপ হয়ে যায় এবং গ্রাহক অপেক্ষা করেন। থাকলে একটি দ্বিতীয় মডেল দায়িত্ব নেয় এবং কথোপকথন চলতে থাকে। MonoChat-এর Agent Harness-এ প্রতিটি AI এজেন্ট নোডে একটি মেইন মডেল, একটি ফলব্যাক মডেল ও একটি ফাস্ট মডেল থাকে, সঙ্গে প্রতিটি রানের জন্য একটি বাজেট সীমা।

এই লেখায় ব্যাখ্যা করা হয়েছে কাস্টমার মেসেজিংয়ে মডেলের ব্যর্থতা কেন অন্য যেকোনো জায়গার চেয়ে বেশি গুরুত্বপূর্ণ, ফলব্যাক কীভাবে কাজ করে, কীভাবে ফলব্যাক মডেল বেছে নেবেন এবং এটি ফাস্ট মডেল, বাজেট ও মানব হস্তান্তরের সঙ্গে কীভাবে মেলে।

গ্রাহকের কথোপকথনে মডেলের ব্যর্থতা কেন বেশি আঘাত করে

কোনো অভ্যন্তরীণ টুলে ব্যর্থ AI অনুরোধ একটি বিরক্তি মাত্র: আপনি আবার চেষ্টা করেন। WhatsApp-এ গ্রাহকের কথোপকথনে এটি একটি ভাঙা প্রতিশ্রুতি। গ্রাহক কিছু জিজ্ঞাসা করেছেন, ব্লু টিক দেখেছেন এবং উত্তরের অপেক্ষায় আছেন।

কয়েকটি বিষয় কাস্টমার মেসেজিংকে বিশেষভাবে সংবেদনশীল করে:

• গ্রাহকেরা আবার চেষ্টা করেন না। তাঁরা আরও বিরক্ত হয়ে আবার লেখেন, নয়তো চলে যান।
• ট্রাফিক হঠাৎ বেড়ে যায়। একটি ক্যাম্পেইন, ডেলিভারিতে দেরি বা একটি সেল কয়েক মিনিটে কথোপকথন বহুগুণ করে দিতে পারে, আর ঠিক তখনই রেট লিমিট কামড় দেয়।
• এজেন্ট অনেক কল করে। এজেন্ট হার্নেস মডেলটিকে লুপে চালায়, প্রায়ই প্রতিটি গ্রাহক মেসেজে কয়েকবার। একটি ব্যর্থ কল পুরো রান আটকে দিতে পারে।
• WhatsApp-এ সময় গুরুত্বপূর্ণ। গ্রাহকের শেষ মেসেজের 24 ঘণ্টার মধ্যেই কেবল ফ্রি-ফর্ম উত্তর দেওয়ার অনুমতি আছে। দীর্ঘ আটকে থাকা উত্তরকে সেই উইন্ডোর বাইরে ঠেলে দিতে পারে, যেখানে আপনার একটি অনুমোদিত টেমপ্লেট লাগবে।

এর কোনোটিই কোনো নির্দিষ্ট প্রোভাইডার অনির্ভরযোগ্য বলে নয়। প্রতিটি প্রোভাইডারেরই ঘটনা, রক্ষণাবেক্ষণ ও ক্যাপাসিটির সীমা আছে। প্রশ্ন শুধু এটাই, আপনার এজেন্টের এগুলোর জন্য কোনো পরিকল্পনা আছে কি না।

কী কী ভুল হতে পারে

প্রোভাইডারের আউটেজ। আংশিক বা সম্পূর্ণ, ছোট বা দীর্ঘ। মাসিক 99.9% এভেইলেবিলিটিতেও 40 মিনিটের বেশি ডাউনটাইমের সুযোগ থাকে।

রেট লিমিট। আপনার অ্যাকাউন্টে প্রতি মিনিটে নির্দিষ্ট সংখ্যক অনুরোধ বা টোকেনের অনুমতি থাকতে পারে। প্রোভাইডার নিজে ঠিক থাকলেও একটি ব্যস্ত ঘণ্টায় সেই সীমায় পৌঁছানো যায়।

টাইমআউট ও ধীর উত্তর। যে মডেল সাধারণত দুই সেকেন্ডে উত্তর দেয়, লোডের সময় সেটির কুড়ি সেকেন্ড লাগতে পারে। ফোনে থাকা একজন গ্রাহকের কাছে মনে হয় কিছুই ঘটছে না।

বেপরোয়া রান। কোনো বিভ্রান্তিকর অনুরোধে লুপে আটকে যাওয়া এজেন্ট বা ক্রমাগত বড় হতে থাকা কথোপকথন একটি স্বাভাবিক রানের চেয়ে অনেক বেশি খরচ করতে পারে।

মডেলের পরিবর্তন। প্রোভাইডাররা মডেল আপডেট করে ও বন্ধ করে দেয়। যে আচরণের ওপর আপনি নির্ভর করেছিলেন, তা সামান্য আগাম নোটিসে বদলে যেতে পারে।

এজেন্টে ফলব্যাক কীভাবে কাজ করে

ধারণাটি সরল: মেইন মডেল কাজ শেষ করতে না পারলে একটি দ্বিতীয় মডেল দায়িত্ব নেয়। MonoChat-এ ফলব্যাক মডেল একটি সফট লিমিটের পর বা মেইন মডেল ব্যর্থ হলে দায়িত্ব নেয়। কথোপকথন, টুল ও নির্দেশনা একই থাকে; শুধু কাজ করা মডেলটি বদলায়।

প্রতিটি AI এজেন্ট নোডে তিনটি ভূমিকা একসঙ্গে কাজ করে:

ভূমিকা	কী করে
মেইন মডেল	যুক্তি করে, সিদ্ধান্ত নেয় ও উত্তর লেখে
ফলব্যাক মডেল	সফট লিমিট বা ব্যর্থতার পর দায়িত্ব নেয়
ফাস্ট মডেল	ব্যাকগ্রাউন্ডের কাজ সামলায়

ভূমিকাগুলোর ওপর প্রতিটি রানের জন্য বাজেট সীমা একটি কথোপকথন কত খরচ করতে পারবে তা সীমিত করে।

কীভাবে ফলব্যাক মডেল বেছে নেবেন

ভিন্ন প্রোভাইডার পছন্দ করুন

একই প্রোভাইডারের ফলব্যাক একটি মডেলের অস্বাভাবিক আচরণ থেকে আপনাকে রক্ষা করে, কিন্তু প্রোভাইডার-জুড়ে কোনো ঘটনা বা সেই প্রোভাইডারে আপনার অ্যাকাউন্টের রেট লিমিট থেকে নয়। দ্বিতীয় প্রোভাইডারের একটি মডেল দুটোই সামলায়। MonoChat আপনাকে কাস্টম LLM-এর মাধ্যমে কয়েকটি প্রোভাইডার সংযুক্ত করতে দেয়, তাই এটি একটি কনফিগারেশনের সিদ্ধান্ত, কোনো প্রকল্প নয়।

যথেষ্ট ভালো করুন, হুবহু এক নয়

ফলব্যাকের সবচেয়ে ভালো মডেল হওয়ার দরকার নেই। তাকে আপনার নির্দেশনা মানতে, আপনার টুল সঠিকভাবে কল করতে এবং একটি ভদ্রস্থ উত্তর লিখতে হবে। এর ওপর নির্ভর করার আগে এটিকে মেইন মডেলের মতো করে আলাদাভাবে আপনার আসল কথোপকথনের বিপরীতে পরীক্ষা করুন।

নিশ্চিত করুন এটি আপনার টুল সামলাতে পারে

এজেন্ট টুল কলের ওপর নির্ভর করে: অর্ডার খুঁজে দেখা, স্লট যাচাই, টিকিট তৈরি। কিছু মডেল কাঠামোবদ্ধ টুল কলে অন্যদের চেয়ে অনেক ভালো। যে ফলব্যাক সুন্দর লেখা লেখে কিন্তু টুল ভুলভাবে কল করে, তা ফলব্যাক না থাকার চেয়েও খারাপ।

আপনি যেসব ভাষায় সেবা দেন তার দিকে খেয়াল রাখুন

আপনার গ্রাহকেরা তুর্কি, আরবি বা স্প্যানিশে লিখলে নিশ্চিত করুন ফলব্যাক সেসব ভাষা মেইন মডেলের মতোই ভালো লেখে। মান বা টোনে হঠাৎ পরিবর্তন চোখে পড়ে।

দুই দিক থেকেই খরচ বিবেচনা করুন

সস্তা ফলব্যাক সফট লিমিট পেরিয়ে যাওয়া দীর্ঘ বা অস্বাভাবিক রানের খরচ কমায়। ফলব্যাক শুধু বিরল ব্যর্থতা সামলালে বেশি দামিটিও চলতে পারে। ফলব্যাকের কোন কাজটি করা দরকার তা ঠিক করুন।

ফাস্ট মডেল: নির্ভরযোগ্যতার অপর অর্ধেক

প্রতিটি ধাপে আপনার সেরা মডেল লাগে না। ব্যাকগ্রাউন্ডের কাজ, অর্থাৎ উত্তর নিজে নয়, কথোপকথনের চারপাশের কাজ, একটি ছোট ও দ্রুত মডেলে চলতে পারে। এতে গ্রাহক যা দেখেন তার জন্য মেইন মডেলের ক্যাপাসিটি ও বাজেট বাঁচে এবং ব্যস্ত সময়ে মেইন মডেলে রেট লিমিটে পৌঁছানোর সম্ভাবনা কমে।

বাস্তবে: মেইন হিসেবে আপনার সবচেয়ে শক্তিশালী যুক্তির মডেল, ফলব্যাক হিসেবে দ্বিতীয় প্রোভাইডারের একটি নির্ভরযোগ্য মডেল এবং ব্যাকগ্রাউন্ডের কাজের জন্য একটি দ্রুত ও সস্তা মডেল রাখুন।

বাজেট: নিরাপত্তা জালের নিচে নিরাপত্তা জাল

ফলব্যাক এজেন্টকে কাজ চালিয়ে যেতে দেয়। বাজেট তাকে সাশ্রয়ী রাখে। প্রতিটি রানের জন্য বাজেট সীমা মানে, যত অদ্ভুতই হোক, কোনো একটি কথোপকথন আপনার পরিকল্পনার বেশি খরচ করতে পারে না। যে সফট লিমিটের পর ফলব্যাক দায়িত্ব নেয় তার সঙ্গে মিলিয়ে আপনি একটি অনুমানযোগ্য ধরন পান: স্বাভাবিক কথোপকথন মেইন মডেলে চলে, দীর্ঘগুলো ফলব্যাকে চলতে থাকে এবং কিছুই বেপরোয়া হয়ে যায় না।

নিজের প্রোভাইডার কী ব্যবহার করলে MonoChat AI-তে কোনো মার্কআপ যোগ করে না, তাই আপনি যা বাজেট করেন, আপনার প্রোভাইডাররা ঠিক তা-ই চার্জ করে।

ফলব্যাক মানে হস্তান্তর নয়

ফলব্যাক মডেলকে প্রতিটি সমস্যার সমাধান ভাবতে প্রলুব্ধ হওয়া যায়। এটি তা নয়। ফলব্যাক প্রযুক্তিগত ব্যর্থতার সমাধান: মডেল বন্ধ, ধীর বা বাজেট শেষ। হস্তান্তর বিচারবুদ্ধির সমস্যার সমাধান: একটি অভিযোগ, একটি আইনি প্রশ্ন, আপনার সীমার ওপরের রিফান্ড বা এমন গ্রাহক, যিনি সোজাসুজি একজন মানুষ চান।

MonoChat-এ এজেন্ট একটি ফ্লোর ভেতরে চলে, তাই পূর্ণ ইতিহাসসহ আপনার শেয়ার্ড টিম ইনবক্সে হস্তান্তর সবসময় সম্ভব। WhatsApp আরও আশা করে যে স্বয়ংক্রিয় উত্তরে একজন মানুষের কাছে যাওয়ার স্পষ্ট পথ থাকবে। দুটো পথই নকশা করুন:

1. মেইন মডেল ব্যর্থ হলে বা সফট লিমিটে পৌঁছালে → ফলব্যাক মডেল চালিয়ে যায়।
2. কেসে একজন মানুষ দরকার হলে → কথোপকথনের ইতিহাসসহ সঠিক টিমের কাছে হস্তান্তর।
3. দুটোই ব্যর্থ হলে → ফ্লো গ্রাহককে জানায় যে একজন মানুষ উত্তর দেবেন এবং কথোপকথন ইনবক্সে পাঠায়।

একটি সহজ চেকলিস্ট

• আপনার আসল কথোপকথনে মানের জন্য বেছে নেওয়া মেইন মডেল।
• দ্বিতীয় প্রোভাইডারের ফলব্যাক মডেল, আপনার টুল ও ভাষা দিয়ে আলাদাভাবে পরীক্ষিত।
• ব্যাকগ্রাউন্ডের কাজের জন্য ফাস্ট মডেল।
• আপনার স্বাভাবিক কথোপকথনের খরচের সঙ্গে কিছুটা বাড়তি জায়গা রেখে মেলানো প্রতিটি রানের বাজেট সীমা।
• এজেন্টের নির্দেশনায় ও ফ্লোতে স্পষ্ট হস্তান্তরের নিয়ম।
• প্রথম সপ্তাহের পর কিছু কথোপকথনের রিভিউ, ফলব্যাকে চলা কথোপকথনসহ।

একবার সেট করুন, প্রতিটি চ্যানেলের জন্য

AI এজেন্ট নোড MonoChat ফ্লোতে থাকে বলে একই মেইন, ফলব্যাক ও ফাস্ট মডেল WhatsApp, Instagram, Messenger, TikTok, Telegram, ওয়েব চ্যাট, SMS ও ভয়েসে আপনার এজেন্টকে সুরক্ষা দেয়। আর Agent Harness আপনাকে ফ্রেমওয়ার্ক বেছে নিতে দেয় বলে আপনার এজেন্ট MonoChat-এর বিল্ট-ইন হার্নেস, Claude Agent SDK, OpenAI Agents SDK, Pi বা আপনার নিজের ফ্রেমওয়ার্ক-এ চললেও একই পদ্ধতি কাজ করে।

মডেলের ভূমিকাগুলো কীভাবে একসঙ্গে মেলে তা দেখুন Agent Harness পেজে।