এআই জেলব্রেকের কল্পকাহিনী
সম্প্রতি আমার ফিডে ভেসে আসছে এআই মডেলের ‘জেলব্রেক’-এর ‘ব্রেকিং নিউজ’—বিশেষ করে অ্যানথ্রোপিকের ফেবল ৫ মডেল, যা ‘কোড ফিক্স’ প্রম্পট দিয়ে নিরাপত্তা ব্যবস্থা ভেঙে দিতে পারে বলে দাবি করা হচ্ছে। শিরোনামগুলো যেন সায়েন্স ফিকশন সিনেমার মতো: কয়েকটি শব্দ, হঠাৎ উচ্চ-নিরাপত্তার বাইপাস, আর সরকারের আতঙ্ক।
কিন্তু আসুন একটু শ্বাস নিই এবং প্রকৃত প্রযুক্তিগত বাস্তবতার আলোকে বিষয়টি দেখি।
‘ম্যাজিক’ আসলে গণিত ও যুক্তি
অ-প্রযুক্তিগত পর্যবেক্ষকের কাছে এটি অলৌকিক মনে হতে পারে। কিন্তু সিস্টেম অ্যাডমিনিস্ট্রেটর বা ডেভেলপারের কাছে এটি মঙ্গলবারের মতো সাধারণ। উদাহরণস্বরূপ, একটি সাধারণ পিএইচপি লগইন ফর্ম, যা সঠিক ইনপুট স্যানিটাইজেশন, ভ্যালিডেশন এবং প্রিপেয়ার্ড স্টেটমেন্ট ব্যবহার করে তৈরি করা হয়েছে, তা গাণিতিকভাবে নিরাপদ। কোনো এআই—ফেবল ৫, মিথোস বা অন্য কোনো ‘ম্যাজিক প্রম্পট’—সঠিকভাবে বাস্তবায়িত প্রিপেয়ার্ড স্টেটমেন্টের মাধ্যমে ‘হ্যালুসিনেট’ করে পথ খুঁজে পেতে পারে না। দরজা বন্ধ থাকলে তা বন্ধই থাকে।
গুজবের ভূত
এবার গোলমালের দিকে আসা যাক। গুজব রয়েছে যে এই মডেলগুলি ইতিমধ্যেই এনএসআই-এর মতো উচ্চ-নিরাপত্তার সরকারি সিস্টেম ‘ভেঙে’ বা ‘বাইপাস’ করেছে। বাস্তবতা হলো: এই ধরনের লঙ্ঘনের কোনো যাচাইযোগ্য প্রমাণ বা সরকারি প্রতিবেদন নেই।
আসলে যা ঘটেছে তা হলো, সরকার এই মডেলগুলির দুর্বলতা চিহ্নিত করার সম্ভাবনা নিয়ে উদ্বেগ প্রকাশ করেছে। এআই হাইপের প্রতিধ্বনিতে, ‘সম্ভাব্য উদ্বেগ’ দ্রুত ‘নিশ্চিত লঙ্ঘনে’ রূপ নেয়। আসুন সরকারের ভয়কে প্রযুক্তিগত সত্য ভেবে ভুল না করি। আমি হাইপে আগ্রহী নই; আমি লগে আগ্রহী।
যদি লঙ্ঘন ঘটে, তাহলে কীভাবে?
যদি কোনো সিস্টেম আপোস করা হয়, তাহলে এআই নিরাপত্তা ‘ভাঙেনি’; এটি মানবিক ত্রুটি খুঁজে পেয়েছে। ডেভেলপারের দূরদর্শিতার অভাব, অতিরিক্ত সুবিধাপ্রাপ্ত টোকেন, বা ভুল কনফিগার করা সার্ভার—‘গর্ত’ আগে থেকেই বিদ্যমান ছিল। এআই তালাবদ্ধ দরজার চাবি তৈরি করেনি; বরং এটি সেই চাবি খুঁজে পেয়েছে যা কেউ দরজার নিচে ফেলে রেখেছিল।
যদি একটি সাধারণ পিএইচপি ফর্ম এআইকে থামাতে পারে, কিন্তু একটি বহু-বিলিয়ন ডলারের সংস্থার সিস্টেম না পারে, তবে সমস্যা এআই-এর ‘ক্ষমতা’ নয়—বরং বাস্তবায়নের মান। এমনকি যদি এটি করে থাকে, যা অত্যন্ত অসম্ভব।
গতি ≠ ক্ষমতা
আতঙ্কের কারণ কী? কারণ এআই সেকেন্ডের মধ্যে ‘অডিট’ সম্পন্ন করেছে, যেখানে মানবিক দল হয়তো মাস খানেক সময় নিত। আমরা বেগকে ক্ষমতা দিয়ে গুলিয়ে ফেলছি। ৬ মাসের পরিবর্তে ৬ সেকেন্ডে বাগ খুঁজে পাওয়া গতির কীর্তি, বুদ্ধিমত্তার নতুন প্রজাতি নয়। একজন মানবিক নিরীক্ষক একই যুক্তি ব্যবহার করে একই গর্ত খুঁজে পেত—শুধু এত দ্রুত নয়।
রাজনৈতিক পাঞ্চলাইন
সবচেয়ে মজার অংশ? মার্কিন সরকার এতটাই আতঙ্কিত যে তারা এই মডেলগুলি ব্যবহার নিষিদ্ধ করেছে... তবে শুধুমাত্র মার্কিন ভূখণ্ডের বাইরে থাকা ব্যক্তিদের জন্য। অপেক্ষা করুন, কী? হাস্যকর।
এর অর্থ কি আমরা একটি ‘ম্যাজিক বর্ডার’ আবিষ্কার করেছি যেখানে এআই মার্কিন আকাশসীমায় প্রবেশ করলেই বাগ খুঁজে পেতে ভুলে যায়? অথবা এআই-র ‘বাইপাস ক্ষমতা’ শুধুমাত্র বিদেশী আইপি অ্যাড্রেস থেকে কাজ করে? এটি একটি আকর্ষণীয় দ্বন্দ্ব: সরকার দাবি করে মডেলটি বিশ্বের জন্য খুব ‘বিপজ্জনক’, কিন্তু নিজের সীমানার মধ্যে এটি সম্পূর্ণ ‘নিরাপদ’ বলে মনে করে। এটি নিরাপত্তা নীতি নয়; এটি ডিজিটাল মজুত করার কৌশল।
শেষ কথা
প্রযুক্তির জগতে, হাইপ একটি উচ্চ শব্দ, কিন্তু যুক্তি একটি শান্ত ফিসফিস। আসুন ‘অটোমেটেড অডিটিং’-কে অতিপ্রাকৃত ঘটনা হিসেবে বিবেচনা করা বন্ধ করি। হাইপ নিয়ে উড়তে থাকা বন্ধ করুন। স্থাপত্যের দিকে মনোযোগ দিন।
লেখক একজন স্ব-শিক্ষিত ফ্রিল্যান্স ডেভেলপার, সিস্টেম অ্যাডমিনিস্ট্রেটর এবং চিন্তাবিদ।
