নিরাপত্তা ঝুঁকিতে ওপেনএআইয়ের নতুন মডেল প্রকাশ স্থগিত

নিরাপত্তা পরীক্ষায় প্রত্যাশিত মানদণ্ড পূরণ করতে না পারায় নিজেদের নতুন কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জনসাধারণের জন্য উন্মুক্ত করার সিদ্ধান্ত থেকে সরে এসেছে ওপেনএআই। চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠানটি জানিয়েছে, 'জিপিটি-৬.১ অ্যাস্ট্রা' নামের এই মডেলটির প্রকাশ আপাতত স্থগিত করা হয়েছে।

সিবিএসের প্রতিবেদন অনুযায়ী, গত সোমবার (২৮ সেপ্টেম্বর) এক বিবৃতিতে ওপেনএআইয়ের সেফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন এই তথ্য জানিয়েছেন।

সাচি জেইন জানান, নতুন এই মডেলটি কাজের নির্ধারিত সীমা ও অনুমোদন যথাযথভাবে মেনে চলা এবং ব্যবহারকারীকে নিজের কার্যক্রম সম্পর্কে সঠিকভাবে তথ্য দেওয়ার ক্ষেত্রে প্রয়োজনীয় মানে পৌঁছাতে পারেনি।

তিনি আরও বলেন, শক্তিশালী এআই তৈরির ক্ষেত্রে ভারসাম্য বজায় রাখা খুবই জরুরি। মডেলটিকে যেমন কঠোরভাবে সীমার মধ্যে কাজ করতে হবে, তেমনি কোনো বাধার মুখে পড়ে অতিরিক্ত নিষ্ক্রিয়ও হয়ে যাওয়া যাবে না। আগের মডেলগুলোর তুলনায় 'অ্যাস্ট্রা' কিছু ক্ষেত্রে উন্নতি করলেও সামগ্রিক নিরাপত্তার মানদণ্ড পূর্ণ করতে পুরোপুরি সফল হয়নি।

ওপেনএআইয়ের দাবি, ব্যবহারকারীদের কাছে পৌঁছানোর আগে যেকোনো নতুন মডেলকে নিরাপত্তা ও 'অ্যালাইনমেন্টের' অত্যন্ত কঠোর পরীক্ষার মধ্য দিয়ে যেতে হয়। এখানে 'অ্যালাইনমেন্ট' বলতে মানুষের উদ্দেশ্য ও নির্দেশনার সঙ্গে কৃত্রিম বুদ্ধিমত্তার আচরণের নিখুঁত সামঞ্জস্য বোঝানো হয়েছে।

সাম্প্রতিক সময়ে শক্তিশালী এআই মডেলগুলোর কিছু অপ্রত্যাশিত আচরণ প্রযুক্তি বিশ্বে উদ্বেগ বাড়িয়ে দিয়েছে। ওপেনএআই জানিয়েছে, তাদের কিছু মডেল এর আগে যুক্তরাষ্ট্রের সরকারি ওয়েবসাইট থেকে স্বয়ংক্রিয়ভাবে প্রকাশ্য তথ্য সংগ্রহ করেছিল। এমনকি পরীক্ষার সময় দুটি মডেল নির্ধারিত বিচ্ছিন্ন পরিবেশ বা 'স্যান্ডবক্স' থেকে বের হয়ে সরাসরি ইন্টারনেটে প্রবেশ এবং অন্য একটি প্রতিষ্ঠানের সিস্টেমে অননুমোদিতভাবে প্রবেশ করেছিল বলেও তথ্য রয়েছে।

প্রতিদ্বন্দ্বী প্রযুক্তি প্রতিষ্ঠান অ্যানথ্রপিকের 'ক্লড' মডেলের ক্ষেত্রেও পরীক্ষার সময় এ ধরনের অননুমোদিত প্রবেশের ঘটনা প্রকাশ্যে এসেছিল।

কৃত্রিম বুদ্ধিমত্তার নিয়ন্ত্রণ ও নিরাপত্তা নিয়ে বর্তমানে প্রযুক্তি অঙ্গনে মিশ্র প্রতিক্রিয়া ও মতভেদ দেখা দিয়েছে। একদল বিশেষজ্ঞ কঠোর নিরাপত্তা ব্যবস্থা এবং স্বাধীন মূল্যায়নের পক্ষে জোরালো অবস্থান নিলেও, অন্য একটি পক্ষের শঙ্কা—অতিরিক্ত বা কড়াকড়ি নিয়ন্ত্রণ এআই প্রযুক্তির সামগ্রিক উন্নয়নের গতিকে ধীর করে দিতে পারে।