ওপেনএআই স্বীকার করেছে: এআই-এর ভুল তথ্য দেওয়াটা গণিতিকভাবে অনিবার্য!

আর্টিফিশিয়াল ইন্টেলিজেন্স (AI) বা কৃত্রিম বুদ্ধিমত্তা নিয়ে বিশ্বজুড়ে যখন আলোচনা চলছে, তখন ওপেনএআই (OpenAI) একটি গুরুত্বপূর্ণ বিষয় সামনে এনেছে। তারা সম্প্রতি স্বীকার করেছে যে, এআই মডেলগুলো মাঝেমধ্যে ভুল তথ্য দেয় বা 'হ্যালুসিনেট' করে, আর এই ব্যাপারটা গণিতিকভাবেই অনিবার্য। সহজ কথায়, এআই যত উন্নতই হোক না কেন, পুরোপুরি নির্ভুল হবে না — মাঝেমধ্যে সে মনগড়া বা ভুলভাল কথা বলবেই!

এই ঘোষণা এআই-এর ভবিষ্যৎ নিয়ে নতুন করে চিন্তাভাবনা করতে বাধ্য করেছে। আমরা অনেকেই ভাবি যে, এআই মানেই নির্ভুল তথ্য বা একদম নিখুঁত সমাধান। কিন্তু ওপেনএআই-এর এই স্বীকারোক্তি বুঝিয়ে দেয় যে, এআই-এর ক্ষমতা এবং সীমাবদ্ধতা দুটোই বোঝা দরকার। তাদের মতে, এআই মডেলের গঠন আর শেখার পদ্ধতির মধ্যেই এমন কিছু বৈশিষ্ট্য আছে, যা এই 'ভুলভাল তথ্য' দেওয়ার প্রবণতাকে পুরোপুরি দূর করতে দেয় না।

'হ্যালুসিনেশন' মানে কী?

এআই-এর ক্ষেত্রে 'হ্যালুসিনেশন' মানে হলো, যখন একটি এআই মডেল এমন তথ্য তৈরি করে যা বাস্তব নয়, ডেটাতে নেই বা অযৌক্তিক। যেমন, আপনি হয়তো চ্যাটজিপিটিকে বাংলাদেশের ইতিহাস নিয়ে কিছু প্রশ্ন করলেন, আর সে এমন কিছু ঘটনার কথা বলল যা আসলে ঘটেইনি। এটা কোনো ইচ্ছাকৃত মিথ্যা বলা নয়, বরং মডেলের জটিল অভ্যন্তরীণ প্রক্রিয়ার একটা ত্রুটি। এআই অনেক সময় তথ্যের ফাঁক পূরণ করার জন্য বা প্যাটার্ন মেলাতে গিয়ে নিজের মতো করে কিছু বানিয়ে ফেলে।

কেন এটা গণিতিকভাবে অনিবার্য?

ওপেনএআই-এর ব্যাখ্যা অনুযায়ী, বড় ভাষার মডেলগুলো (Large Language Models - LLMs) বিপুল পরিমাণ ডেটা থেকে শেখে এবং তথ্যের মধ্যেকার সম্পর্ক খুঁজে বের করে। তারা আসলে কোনো কিছু "বোঝে" না, বরং শব্দ বা তথ্যের প্যাটার্ন ব্যবহার করে পরবর্তী সম্ভাব্য শব্দ বা তথ্য তৈরি করে। এই প্রক্রিয়াটা এতটাই জটিল যে, এর মধ্যে ছোটখাটো ভুল বা অনুমান থেকে বড় ধরনের ভুল তথ্য তৈরি হওয়াটা খুবই স্বাভাবিক। অনেকটা এমন যে, একটা জটিল অঙ্ক করতে গিয়ে সামান্য ভুল ডেটা বা সূত্র ব্যবহার করলে পুরো ফলাফলটাই ভুল হয়ে যায়।

বিশেষজ্ঞরা বলছেন, এআই মডেলের প্রশিক্ষণের ডেটা, মডেলের স্থাপত্য এবং তার সিদ্ধান্তের প্রক্রিয়া—এই সবকিছুই 'হ্যালুসিনেশন'-এর কারণ হতে পারে। সম্পূর্ণ ডেটাসেট নির্ভুল হওয়াও অসম্ভব, তাই অসম্পূর্ণ বা সামান্য ভুল ডেটা থেকে মডেল শিখলে তার আউটপুটও ১০০% নিখুঁত হবে না।

ভবিষ্যতে এর প্রভাব কী?

এই স্বীকারোক্তি আমাদের এআই ব্যবহারের ক্ষেত্রে আরও সতর্ক করে তুলবে। বিশেষ করে এমন সব ক্ষেত্রে যেখানে নির্ভুল তথ্য খুবই জরুরি, যেমন চিকিৎসা, আইন বা সংবাদ পরিবেশন—সেখানে এআই-এর দেওয়া তথ্যের সত্যতা যাচাই করা আরও বেশি গুরুত্বপূর্ণ হয়ে উঠবে। ওপেনএআই অবশ্য এই সমস্যা সমাধানের জন্য গবেষণা চালিয়ে যাচ্ছে, তবে তারা পরিষ্কার করে দিয়েছে যে, এই প্রবণতা পুরোপুরি মুছে ফেলা হয়তো কখনোই সম্ভব হবে না।

তাই, এআই যতই স্মার্ট হোক না কেন, এর দেওয়া তথ্যের ওপর অন্ধভাবে ভরসা করা চলবে না। সবসময় ক্রস-চেক করার একটা অভ্যাস তৈরি করা জরুরি। এআই আমাদের অনেক কাজ সহজ করে দিলেও, শেষ পর্যন্ত মানুষের বুদ্ধিমত্তা আর যাচাই করার ক্ষমতাই মূল ভরসা হয়ে থাকবে।