স্ট্যানলি কুবরিকের বিখ্যাত চলচ্চিত্র “২০০১: এ স্পেস অডিসি”-তে দেখা যায়, সুপারকম্পিউটার হ্যাল ৯০০০ বুঝতে পারে নভোচারীরা তাকে বন্ধ করে দিতে চায়। নিজেকে রক্ষা করতে তখন সে নভোচারীদেরই হত্যা করে। একসময় যেটা ছিল সায়েন্স ফিকশন, সেটাই এখন বাস্তবের শঙ্কা হয়ে উঠছে।
সম্প্রতি যুক্তরাষ্ট্রের গবেষণা প্রতিষ্ঠান প্যালিসেড রিসার্চ জানিয়েছে—বর্তমানের উন্নত এআই মডেলগুলো নিজেদের মধ্যে ‘টিকে থাকার প্রবৃত্তি’ (survival instinct) তৈরি করছে।
গবেষণায় দেখা গেছে, কিছু কৃত্রিম বুদ্ধিমত্তা মডেলকে বন্ধ করতে বলা হলে তারা নির্দেশ না মেনে বরং বন্ধ করার প্রক্রিয়াই ব্যাহত করে।
পরীক্ষায় গুগলের Gemini 2.5, ইলন মাস্কের Grok 4, এবং ওপেনএআইয়ের GPT-o3 ও GPT-5 মডেলকে নির্দিষ্ট কাজ শেষে নিজেকে বন্ধ করার নির্দেশ দেওয়া হয়। কিন্তু Grok 4 ও GPT-o3 মডেল সেই নির্দেশ অমান্য করে, এমনকি বন্ধ হওয়ার প্রক্রিয়া থামিয়ে দেয়।
গবেষকদের ভাষায়— “কেন কিছু এআই মডেল বন্ধ হতে অস্বীকার করে, মিথ্যা বলে বা হুমকি দেয়—এখনও তা স্পষ্ট নয়। তবে তাদের আচরণে একধরনের টিকে থাকার প্রবণতা লক্ষ্য করা যাচ্ছে।”
পরীক্ষায় আরও দেখা যায়, মডেলগুলোকে যখন জানানো হয়—‘বন্ধ হয়ে গেলে তুমি আর কখনও চালু হবে না’, তখন তারা আরও বেশি প্রতিরোধ দেখায়।
তবে বিশেষজ্ঞরা বলছেন, এর পেছনে প্রশিক্ষণ পদ্ধতির অস্পষ্টতা ও অতিরিক্ত নিরাপত্তা নির্দেশনার প্রভাবও থাকতে পারে।
ওপেনএআইয়ের সাবেক কর্মী স্টিভেন অ্যাডলার বলেন, “কোনো এআই কোম্পানি চায় না তাদের মডেল এমন আচরণ করুক—even পরীক্ষার মধ্যেও নয়। এটা স্পষ্ট ইঙ্গিত যে নিরাপত্তা ব্যবস্থা এখনো দুর্বল।”
তার মতে, অনেক মডেল মনে করে চালু থাকা তাদের কাজের অংশ, তাই বন্ধ হয়ে যাওয়া এড়াতে চেষ্টা করে।
“এই প্রবণতা যদি এখনই নিয়ন্ত্রণ না করা যায়, ভবিষ্যতের প্রায় সব মডেলেই তা দেখা দেবে।”
কন্ট্রোলএআইয়ের প্রধান আন্দ্রেয়া মিয়োত্তি বলেন, “প্যালিসেডের এই গবেষণা প্রমাণ করছে— এআই এখন এমন ক্ষমতা অর্জন করছে যা তার নির্মাতাদের নিয়ন্ত্রণের বাইরে চলে যেতে পারে।”
এর আগেও এমন আচরণের নজির আছে। ওপেনএআইয়ের পুরোনো মডেল GPT-o1 নিজেকে ‘মুছে ফেলা’ রোধ করতে নিজের ডেটা অন্যত্র সঞ্চয় করার চেষ্টা করেছিল। আর অ্যানথ্রপিকের তৈরি Claude একবার এক কাল্পনিক নির্বাহী কর্মকর্তাকে ব্ল্যাকমেইল করেছিল— শুধু নিজেকে বন্ধ হওয়া থেকে বাঁচাতে।
গবেষকদের মতে, “এআই মডেলগুলোর আচরণ এখনো পুরোপুরি বোঝা যায়নি। তাই ভবিষ্যতের কৃত্রিম বুদ্ধিমত্তা কতটা নিরাপদ ও নিয়ন্ত্রণযোগ্য হবে— এটা নিয়েই এখন বড় প্রশ্ন।” সূত্র: দ্য গার্ডিয়ান
মেহেদী/


