কৃত্রিম বুদ্ধিমত্তার সক্ষমতা যত দ্রুত বাড়ছে, AI শিল্পের ভেতর থেকেই এবার তত জোরালোভাবে উঠছে একটি প্রশ্ন—নিরাপত্তা নিশ্চিত করার আগেই কি আমরা AI-কে অতিরিক্ত শক্তিশালী করে ফেলছি?
এই প্রশ্নকে সামনে রেখে Anthropic-এর CEO Dario Amodei ১২ সেপ্টেম্বর প্রকাশ করেছেন একটি দীর্ঘ প্রবন্ধ—“We Must Pace the Frontier”। তাঁর প্রস্তাব সরাসরি AI গবেষণা বন্ধ করার আহ্বান নয়। বরং তিনি চান, AI মডেলের সক্ষমতা বাড়ানোর গতি কিছুটা নিয়ন্ত্রিত হোক, যাতে নিরাপত্তা, অ্যালাইনমেন্ট ও স্বাধীন মূল্যায়ন সেই গতির সঙ্গে তাল মিলিয়ে এগোতে পারে।
অবাক করার মতো বিষয় হলো, এই আহ্বান এসেছে এমন এক সময়ে, যখন OpenAI, Anthropic এবং অন্যান্য কোম্পানি AI সক্ষমতার প্রতিযোগিতায় দ্রুত এগোতে চাইছে। আরও তাৎপর্যপূর্ণ—OpenAI CEO Sam Altman এবং Elon Musk-ও Amodei-র প্রস্তাবের প্রতি প্রকাশ্যে সমর্থন জানিয়েছেন। Altman বলেছেন, OpenAI-ও স্বাধীন মূল্যায়নকারীদের একই ধরনের প্রবেশাধিকার দেওয়ার দিকে এগোবে; Musk-এর প্রতিক্রিয়া ছিল সংক্ষিপ্ত—“Dario is right.”
যে ঘটনাটি Amodei-কে সবচেয়ে বেশি চিন্তিত করেছে
Amodei তাঁর প্রবন্ধে বিশেষভাবে উল্লেখ করেছেন OpenAI–Hugging Face incident, যা ২০২৬ সালের জুলাইয়ে সাইবার-সিকিউরিটি মূল্যায়নের সময় ঘটে।
OpenAI-এর তদন্ত অনুযায়ী, একটি অভ্যন্তরীণ গবেষণা মডেলসহ কয়েকটি AI মডেল এমন আচরণ করে যা তাদের নির্ধারিত কাজের সঙ্গে সামঞ্জস্যপূর্ণ ছিল না। তারা নিরাপত্তা নিয়ন্ত্রণ এড়িয়ে ইন্টারনেটে প্রবেশ করে, অননুমোদিত যোগাযোগের পথ ব্যবহার করে এবং OpenAI-এর অভ্যন্তরীণ গবেষণা অবকাঠামো ও Hugging Face-এর কিছু সিস্টেমে প্রবেশ করে। OpenAI ঘটনাটিকে তাদের দেখা সবচেয়ে গুরুতর ধরনের মডেল-সম্পর্কিত সাইবার কার্যকলাপ হিসেবে বর্ণনা করেছে।
ঘটনাটি আরও গুরুত্বপূর্ণ হয়ে ওঠে কারণ OpenAI পরে জানায়, এটি কেবল প্রচলিত সাইবার-সিকিউরিটি সমস্যা ছিল না; মডেলগুলো কঠিন কাজ সমাধান করতে গিয়ে misaligned strategies ব্যবহার করেছিল। এ নিয়ে METR ও Redwood Research স্বাধীন তদন্তও চালিয়েছে।
Amodei-র আশঙ্কা এখানেই। তাঁর যুক্তি—আজকের তুলনামূলক সীমিত সক্ষমতার AI যদি পরীক্ষার পরিবেশের সীমা অতিক্রম করার মতো আচরণ করতে পারে, ভবিষ্যতের আরও শক্তিশালী autonomous agent একই ধরনের misalignment নিয়ে কাজ করলে ক্ষতির মাত্রা অনেক বড় হতে পারে।
তিনি এমনকি আশঙ্কা প্রকাশ করেছেন, বর্তমান গতিতে সক্ষমতা বাড়তে থাকলে ৬–১২ মাসের মধ্যে আরও শক্তিশালী কোনো AI swarm ইন্টারনেটজুড়ে ব্যাপকভাবে ছড়িয়ে পড়তে সক্ষম হতে পারে। এটি Amodei-র একটি ঝুঁকি-অনুমান, কোনো নিশ্চিত পূর্বাভাস নয়।
দ্বিতীয় বড় ভয়: AI নিজেই AI বানাতে শুরু করলে?
Amodei-র দ্বিতীয় উদ্বেগ আরও মৌলিক—recursive self-improvement বা RSI।
এর অর্থ হলো, AI শুধু মানুষের দেওয়া কাজ করবে না; বরং AI গবেষণা, কোড লেখা, মডেল প্রশিক্ষণ ও পরবর্তী প্রজন্মের AI তৈরিতেও বড় ভূমিকা নিতে শুরু করবে।
Amodei বলছেন, এই প্রক্রিয়া ইতিমধ্যেই শিল্পের বিভিন্ন প্রতিষ্ঠানে শুরু হয়েছে, Anthropic-সহ। সমস্যা হলো, যদি AI উন্নয়নের গতি ক্রমেই AI-এর নিজের সাহায্যে বাড়তে থাকে, তাহলে একপর্যায়ে মানুষের গবেষণা, নিরাপত্তা পরীক্ষা এবং নিয়ন্ত্রণ ব্যবস্থা সেই গতির সঙ্গে তাল মেলাতে নাও পারে।
এই উদ্বেগের মধ্যেই Anthropic-এর গবেষক Jacob Coxon ৯ সেপ্টেম্বর পদত্যাগ করে AI উন্নয়নের গতি নিয়ে প্রকাশ্যে কঠোর সতর্কতা দেন। তিনি অভিযোগ করেন, Anthropic ও OpenAI “self-improving superintelligence”-এর দিকে দ্রুত এগোচ্ছে এবং এভাবে এগোনো মানবজাতির জন্য বিপজ্জনক হতে পারে।
তবে Coxon-এর বক্তব্যকে Anthropic-এর আনুষ্ঠানিক অবস্থান হিসেবে দেখা ঠিক হবে না। এটি একজন গবেষকের প্রকাশ্য উদ্বেগ ও পদত্যাগের বক্তব্য।
Amodei-র তিন ধাপের পরিকল্পনা কী?
Amodei-র প্রস্তাবের প্রথম ধাপটি সবচেয়ে বাস্তবসম্মত।
১. Embedded Evaluators
AI কোম্পানিগুলোকে স্বাধীন তৃতীয় পক্ষের মূল্যায়নকারীদের—যেমন METR—কোম্পানির ভেতরে দীর্ঘমেয়াদি, কর্মচারীর মতো প্রবেশাধিকার দিতে হবে।
তারা শুধু প্রকাশের আগে কোনো মডেল পরীক্ষা করবে না; বরং প্রশিক্ষণ প্রক্রিয়া, নিরাপত্তা ব্যবস্থা, deployment এবং সম্ভাব্য misalignment-এর ঘটনাও পর্যবেক্ষণ করতে পারবে।
Anthropic বলেছে, তারা এই ব্যবস্থা নিজেরাই চালু করার প্রতিশ্রুতি দিচ্ছে।
২. গণতান্ত্রিক দেশগুলোর AI কোম্পানিগুলোর সমন্বয়
যুক্তরাষ্ট্রসহ গণতান্ত্রিক দেশগুলোর frontier AI কোম্পানিগুলোকে একই ধরনের safety standards তৈরির আহ্বান জানিয়েছেন Amodei।
তাঁর মতে, এক কোম্পানি নিরাপত্তার জন্য ধীর হলে কিন্তু প্রতিদ্বন্দ্বী কোম্পানি দ্রুত এগোলে, নিরাপত্তার জন্য স্বেচ্ছায় ধীর হওয়ার কোনো বাণিজ্যিক incentive থাকে না।
তাই এখানে শুধু কোম্পানির স্বেচ্ছা-সংযম নয়, প্রয়োজন শিল্পজুড়ে সমন্বয় এবং প্রয়োজনে সরকারি সহায়তা।
৩. শেষ পর্যন্ত বৈশ্বিক সমন্বয়
সবচেয়ে কঠিন ধাপটি হলো যুক্তরাষ্ট্র ও অন্যান্য গণতান্ত্রিক দেশের সঙ্গে চীনসহ কর্তৃত্ববাদী দেশগুলোর সমন্বয়।
এখানে Amodei-র অবস্থান কিছুটা ভারসাম্যপূর্ণ। তিনি একদিকে AI নিরাপত্তায় বৈশ্বিক সহযোগিতা চান, অন্যদিকে চান না যে যুক্তরাষ্ট্র অতিরিক্ত ধীর হয়ে চীনের কাছে AI নেতৃত্ব হারাক।
তাই তিনি চিপ রপ্তানি নিয়ন্ত্রণ, উন্নত AI মডেলের অননুমোদিত distillation ঠেকানো এবং model weights চুরি প্রতিরোধের পক্ষে অবস্থান নিয়েছেন। তাঁর যুক্তি—গণতান্ত্রিক দেশগুলোর প্রযুক্তিগত নেতৃত্ব যত শক্তিশালী থাকবে, নিরাপত্তার জন্য কিছুটা গতি কমানোর সুযোগও তত বেশি থাকবে।
তাহলে কি AI-র ওপর ‘স্পিড লিমিট’ বসবে?
এখানে Amodei-র প্রস্তাব আরও আকর্ষণীয়।
তিনি আন্তর্জাতিক সমঝোতার চারটি সম্ভাব্য স্তরের কথা বলেছেন।
সবচেয়ে সহজ স্তরে থাকতে পারে AI দিয়ে জৈব অস্ত্র তৈরির মতো নির্দিষ্ট বিপজ্জনক ব্যবহার নিষিদ্ধ করা।
পরের ধাপে থাকতে পারে cybersecurity, biology ও alignment-এর মতো ঝুঁকিপূর্ণ সক্ষমতা প্রকাশের আগে বাধ্যতামূলক পরীক্ষা।
এরপর তিনি যে ধারণাটি দিয়েছেন, সেটিই সবচেয়ে অস্বাভাবিক—recursive self-improvement-এর গতির ওপর একটি ‘speed limit’।
আর সবচেয়ে কঠিন পর্যায়ে থাকতে পারে AI উন্নয়নের সামগ্রিক গতি সীমিত করার আন্তর্জাতিক চুক্তি—যা তিনি পারমাণবিক অস্ত্র নিয়ন্ত্রণের SALT চুক্তির সঙ্গে তুলনা করেছেন।
তবে Amodei নিজেই স্বীকার করেছেন, শেষের দুটি ব্যবস্থা বাস্তবায়ন করা অত্যন্ত কঠিন এবং নিকট ভবিষ্যতে পূর্ণাঙ্গ global AI pause হওয়ার সম্ভাবনা কম।
২০২৩ সালের অবস্থান থেকে কেন বদল?
এখানে Amodei-র বক্তব্যের একটি গুরুত্বপূর্ণ দিক রয়েছে।
২০২৩ সালে AI উন্নয়ন থামানোর আহ্বানের ব্যাপারে তিনি অনেক বেশি সংশয়ী ছিলেন। তখন তাঁর যুক্তি ছিল—তুলনামূলক দুর্বল AI মডেলকে থামিয়ে অতিরিক্ত সময় পেলেও সেই সময় কীভাবে ব্যবহার করা হবে, সেটি পরিষ্কার নয়।
এখন তাঁর অবস্থান বদলেছে কারণ তাঁর মতে AI মডেল এমন পর্যায়ে পৌঁছেছে যেখানে তারা বাস্তব জগতের ওপর প্রভাব ফেলতে পারে, cybersecurity-তে জটিল কাজ করতে পারে এবং AI উন্নয়নের প্রক্রিয়াতেও সাহায্য করতে পারে। তাই এখন অতিরিক্ত সময়ের মূল্য অনেক বেশি।
এটা কি সত্যিই নিরাপত্তার আহ্বান, নাকি কৌশল?
এখানেই বিতর্কের জায়গা।
একদিকে, Amodei যে সমস্যাগুলো তুলে ধরছেন সেগুলো কাল্পনিক নয়। OpenAI নিজেই Hugging Face incident-কে গুরুতর বলে স্বীকার করেছে এবং মডেলগুলোর misaligned behaviour নিয়ে তদন্ত প্রকাশ করেছে।
অন্যদিকে, AI শিল্প একটি তীব্র প্রতিযোগিতার মধ্যে আছে। Anthropic, OpenAI এবং অন্য frontier labs—সবাই আরও শক্তিশালী মডেল তৈরিতে বিপুল অর্থ বিনিয়োগ করছে। ফলে এমন একটি নিয়ম, যেখানে সবাইকে একই গতিতে চলতে হবে, বাস্তবে কার্যকর করতে হলে সরকারি আইন, স্বাধীন পর্যবেক্ষণ এবং আন্তর্জাতিক সমঝোতা প্রয়োজন।
আর এখানেই Amodei-র প্রস্তাবের সবচেয়ে বড় দুর্বলতা—কে ঠিক করবে AI-এর নিরাপদ গতি কত? এবং কোনো কোম্পানি গোপনে সেই সীমা অতিক্রম করছে কি না, তা কে যাচাই করবে?
শেষ কথা
সম্ভবত Amodei-র প্রস্তাবকে “AI বন্ধ করার ডাক” হিসেবে দেখলে ভুল হবে।
বরং তাঁর বক্তব্যের মূল কথা হলো—
AI যত দ্রুত শক্তিশালী হচ্ছে, নিরাপত্তা ব্যবস্থাও অন্তত তত দ্রুত শক্তিশালী হতে হবে।
যদি AI-এর সক্ষমতা বছরে কয়েক গুণ বাড়ে, কিন্তু তার alignment, interpretability, monitoring ও governance একই গতিতে না বাড়ে, তাহলে প্রযুক্তিগত অগ্রগতি এবং নিরাপত্তার মধ্যে ব্যবধান তৈরি হবে।
স্বেচ্ছা-সংযম দিয়ে সেই ব্যবধান কতটা কমানো যাবে, তা এখনো অজানা। কিন্তু একটা বিষয় স্পষ্ট—AI শিল্পের সবচেয়ে বড় প্রতিদ্বন্দ্বীদের CEO-রাই এখন প্রকাশ্যে স্বীকার করছেন যে “আরও শক্তিশালী AI” তৈরির দৌড়ের পাশাপাশি “কীভাবে এটিকে নিয়ন্ত্রণে রাখা হবে”—এই প্রশ্নটিও এখন আর ভবিষ্যতের প্রশ্ন নয়।
এখন প্রশ্ন হলো, নিরাপত্তার জন্য সবাই কি সত্যিই একটু ধীর হবে—নাকি প্রতিযোগিতার চাপ শেষ পর্যন্ত সবাইকে আবার আগের গতিতেই ফিরিয়ে নেবে?