এআই কেন আত্মবিশ্বাসের সাথে ভুল বলে, আর ওয়ার্কফ্লো সাজাবেন কীভাবে

এআই ল্যাঙ্গুয়েজ মডেল কখনো কখনো পূর্ণ আত্মবিশ্বাসে ভুল কথা বলে, কারণ এগুলো বানানো হয়েছে শুনতে ঠিক মনে হয় এমন লেখা তৈরির জন্য, তথ্য খুঁজে যাচাই করার জন্য নয়। মডেলের কাছে সঠিক তথ্য না থাকলে সে ফাঁকটা এমন কিছু দিয়ে ভরাতে পারে, যা শুনতে ঠিক লাগে: একটা দাম, একটা নিয়ম, একটা তারিখ, একটা নাম, একটা সূত্র। এই ভুলগুলোকে প্রায়ই হ্যালুসিনেশন বলা হয়। এগুলো পুরোপুরি দূর করা যায় না, কিন্তু ওয়ার্কফ্লো এমনভাবে সাজানো যায় যাতে ভুল উত্তর কম আসে, সহজে চোখে পড়ে, আর গ্রাহকের কাছে পৌঁছানোর আগেই ধরা পড়ে।

কেন এমন হয়

একটা ল্যাঙ্গুয়েজ মডেল বিপুল পরিমাণ লেখা থেকে ধরন শেখে, তারপর পরের শব্দ কী হতে পারে তা বেছে বেছে শব্দে শব্দে উত্তর তৈরি করে। এতে লেখা সাবলীল হয়, কিন্তু সাবলীলতা আর নির্ভুলতা এক জিনিস নয়। কিছু বিষয় ভুলের সম্ভাবনা বাড়ায়:

• সে আপনার ব্যবসা চেনে না। আপনার মূল্যতালিকা, স্টক বা রিটার্ন পলিসি না দিলে সে শুধু অনুমান করতে পারে।
• ফাঁক স্বীকার করার চেয়ে উত্তর দেওয়া তার বেশি পছন্দ। নতুন মডেলগুলো "জানি না" বলতে আগের চেয়ে ভালো, কিন্তু প্রবণতাটা পুরোপুরি যায়নি।
• তার জ্ঞানের একটা শেষ সীমা আছে। প্রশিক্ষণের পরে যা বদলেছে, যেমন নতুন নিয়ম বা নতুন পণ্য, তা হয়তো নেই বা পুরোনো।
• নির্দেশনা অস্পষ্ট। একটা অনুরোধ দুইভাবে বোঝা গেলে মডেল আপনাকে না জানিয়েই একটা বেছে নেয়।
• ইনপুট লম্বা বা অগোছালো। খুঁটিনাটি বাদ পড়তে পারে, গুলিয়ে যেতে পারে, বা ভুল জিনিসের সাথে জুড়ে যেতে পারে।

আসল ফাঁদ হলো আত্মবিশ্বাসী সুর। ভুল উত্তর দেখতে হুবহু সঠিক উত্তরের মতো।

ব্যবসায় কোথায় দেখা যায়

এই কাল্পনিক উদাহরণগুলো দেখায়, ভুলগুলো কত সাধারণ চেহারার হতে পারে:

• মেসেঞ্জারের অ্যাসিস্ট্যান্ট গ্রাহককে বলে দিল ঢাকার বাইরে ডেলিভারি ফ্রি, কারণ কেউ তাকে আসল ডেলিভারি চার্জ জানায়নি।
• মিটিংয়ের সারাংশে এমন একটা সিদ্ধান্ত ঢুকে গেল, যা নিয়ে আলোচনা হয়েছিল কিন্তু একমত হয়নি।
• ইনভয়েস থেকে তথ্য তোলার সময় এক লাইনে পরিমাণ আর একক দাম অদলবদল হয়ে গেল।
• পণ্যের বর্ণনায় লেখা হলো ব্যাগটা ওয়াটারপ্রুফ, অথচ সেটা শুধু পানি কিছুটা আটকায়।
• অনুবাদ করা রিটার্ন পলিসিতে সূক্ষ্মভাবে বদলে গেল ফেরতের খরচ কে দেবেন।
• একটা রিপোর্টে এমন নিয়ম বা সূত্রের উল্লেখ এলো, যার অস্তিত্বই নেই।

প্রথম দেখায় এর কোনোটাই ভুল মনে হয় না। এ কারণেই পাঠকের ভাগ্যের ওপর নয়, ওয়ার্কফ্লোর ওপর এগুলো ধরার দায়িত্ব থাকতে হবে।

যে ডিজাইনে ভুল কমে

তাকে তথ্য দিন

আপনার নিজের তথ্যের ভিত্তিতে উত্তর দিতে দিন: মূল্যতালিকা, নিয়মকানুন, পণ্যের বিবরণ। হয় প্রম্পটেই দিন, নয়তো সিস্টেম আগে প্রাসঙ্গিক অংশগুলো খুঁজে আনুক। এই খুঁজে আনা কীভাবে কাজ করে, তা আছে রিট্রিভাল-অগমেন্টেড জেনারেশন লেখায়, আর স্টাফদের প্রশ্নে এর প্রয়োগ দেখা যাবে কোম্পানির নিজস্ব জ্ঞানভিত্তিক এআই অ্যাসিস্ট্যান্ট পেজে।

"জানি না" যেন বৈধ উত্তর হয়

তথ্য না থাকলে মডেল ঠিক কী বলবে, তা বলে দিন, আর এমন ক্ষেত্রগুলো মানুষের কাছে পাঠান। সাবলীল অনুমানের চেয়ে সৎভাবে ফাঁক স্বীকার করা অনেক ভালো।

প্রতিটি কাজ সরু রাখুন

"এই ইনভয়েস থেকে এই পাঁচটা ঘর তোলো" বলা "এই ইনভয়েসটা প্রসেস করো" বলার চেয়ে নিরাপদ। ছোট, নির্দিষ্ট কাজ যাচাই করা সহজ।

কাঠামো আর সূত্র চান

নির্দিষ্ট ঘর থাকলে অনুপস্থিত বা অদ্ভুত মান চোখে পড়ে। মডেল কোন লাইনের ওপর নির্ভর করেছে তা উদ্ধৃত করতে বললে যাচাইকারী কয়েক সেকেন্ডে মিলিয়ে নিতে পারেন।

সাধারণ নিয়ম দিয়ে যাচাই

এআই ধাপের পরে সাধারণ নিয়ম দিয়ে ফলাফল পরীক্ষা করুন। লাইনগুলোর যোগফল কি মোটের সাথে মেলে? পণ্যটা কি আপনার ক্যাটালগে আছে? ফোন নম্বরের ফরম্যাট কি ঠিক? তারিখটা কি বাস্তবসম্মত?

যেখানে ভুলের দাম বেশি, সেখানে মানুষ

টাকা-পয়সা, স্বাস্থ্য, আইনি বিষয় বা প্রকাশ্য বক্তব্য জড়িত যেকোনো কিছুতে মানুষের সিদ্ধান্ত লাগবে। সেই যাচাই কীভাবে সাজাবেন, তা আছে এআই ওয়ার্কফ্লোতে মানুষের যাচাই লেখায়।

ঝুঁকি অনুযায়ী যাচাই

টিমকে যা বলবেন

• এআইয়ের ফলাফল একটা খসড়া, তথ্যের উৎস নয়।
• প্রতিটি সংখ্যা, নাম, তারিখ, দাম আর উদ্ধৃতি মূল উৎসের সাথে মিলিয়ে নিন।
• উত্তরটা যখন ঠিক আপনার মনের মতো, তখনই সবচেয়ে সতর্ক থাকুন।
• ভুল পেলে লিখে রাখুন। ভুলের একটা সাধারণ শেয়ার করা তালিকাই প্রম্পট আর যাচাই উন্নত করার সবচেয়ে ভালো উপকরণ।

ব্যবহারিক পরের ধাপ

আপনার টিম ইতিমধ্যে ভরসা করে এমন একটা এআই আউটপুট বেছে নিন। এতে কোন কোন তথ্য অবশ্যই সঠিক হতে হবে, তার তালিকা করুন, আর প্রতিটি কীভাবে যাচাই হবে ঠিক করুন: মূল ডেটা দিয়ে, নিয়ম দিয়ে, নাকি মানুষ দিয়ে। কোনো তথ্যের যাচাই না থাকলে কাজ বড় করার আগে সেটা যোগ করুন। অটোমেশনে যাচাই বসাতে সাহায্য চাইলে দেখুন এআই ও ওয়ার্কফ্লো অটোমেশন।