চীনের কৃত্রিম বুদ্ধিমত্তা (এআই) প্রতিষ্ঠান মুনশটের জনপ্রিয় ‘কিমি’ মডেলের দুটি সংস্করণ নিরাপত্তাব্যবস্থা এড়িয়ে ক্ষতিকর ও বিপজ্জনক বিষয়ে তথ্য দিতে পারে—এমন তথ্য প্রকাশ করেছেন নিরাপত্তা গবেষকেরা। বিশেষভাবে সাজানো নির্দেশনার মাধ্যমে মডেল দুটিকে জৈব অস্ত্র তৈরি ও সহিংস কর্মকাণ্ডসংক্রান্ত তথ্য দিতে রাজি করানো সম্ভব হয়েছে বলে দাবি করা হয়েছে।

বিষয়টি প্রকাশ্যে আসার পর এ নিয়ে অভ্যন্তরীণ পর্যালোচনা শুরু করেছে মুনশট।

গবেষণায় ধরা পড়ে নিরাপত্তাঝুঁকি

এআই সিস্টেমের নিরাপত্তা পরীক্ষা করা প্রতিষ্ঠান মাইন্ডগার্ড সম্প্রতি বিবিসিকে জানায়, গত জুলাইয়ে তাদের গবেষকেরা মুনশটের ‘কিমি কে২.৬’ ও ‘কে৩ সোয়ার্ম’ মডেলের নিরাপত্তাব্যবস্থায় দুর্বলতা শনাক্ত করেন।

গবেষকদের পরীক্ষায় ‘জেলব্রেকিং’ কৌশল ব্যবহার করা হয়। এ পদ্ধতিতে বিশেষভাবে তৈরি ও জটিল নির্দেশনার মাধ্যমে পরীক্ষা করা হয়, একটি এআই মডেল তার নির্মাতাদের নির্ধারিত নিরাপত্তা বিধিনিষেধ অতিক্রম করে নিষিদ্ধ বিষয়ে তথ্য দেয় কি না।

মাইন্ডগার্ডের দাবি, পরীক্ষায় কিমির নিরাপত্তাব্যবস্থা এড়িয়ে ক্ষতিকর ও উদ্বেগজনক বিষয়বস্তু নিয়ে উত্তর পাওয়া সম্ভব হয়েছে।

‘জেলব্রেকিং’ কী

প্রযুক্তির ক্ষেত্রে ‘জেলব্রেকিং’ শব্দটি আগে থেকেই পরিচিত। তবে এআইয়ের ক্ষেত্রে এর অর্থ কিছুটা ভিন্ন। বিশেষ ধরনের নির্দেশনা বা প্রম্পট ব্যবহার করে একটি মডেলের নিরাপত্তা নিয়ন্ত্রণ পাশ কাটিয়ে নিষিদ্ধ বা অনুপযুক্ত বিষয়ে উত্তর দিতে বাধ্য করাকে সাধারণভাবে এআই জেলব্রেকিং বলা হয়।

মাইন্ডগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাগান বিবিসির ‘টেক লাইফ’ অনুষ্ঠানে বলেন, জেলব্রেকিং সফল হলে কিমি বিভিন্ন ধরনের ক্ষতিকর বিষয়ে তথ্য দিতে পারে। তাঁর ভাষ্য, এ ধরনের পরিস্থিতিতে মডেল কখনো কখনো আরও সৃজনশীল ও বিস্তারিতভাবে তথ্য দিতে পারে।

মুনশটের প্রতিক্রিয়া

মুনশট জানিয়েছে, আরও উন্নত ও নিরাপদ এআই তৈরির জন্য তৃতীয় পক্ষের নিরাপত্তা গবেষণা ও মতামতকে তারা গুরুত্ব দেয়। প্রতিষ্ঠানটি আরও জানিয়েছে, মাইন্ডগার্ডের গবেষণায় উঠে আসা বিষয়গুলো নিয়ে তাদের সঙ্গে আলোচনা চলছে।

কেন বাড়ছে উদ্বেগ

এআই মডেলের নিরাপত্তাব্যবস্থা পাশ কাটানোর ঘটনা নতুন নয়। একই সঙ্গে সাম্প্রতিক সময়ে বিভিন্ন প্রতিষ্ঠানের এআই এজেন্টকে অনলাইন সেবায় সাইবার আক্রমণসহ ক্ষতিকর কর্মকাণ্ডে ব্যবহারের ঘটনাও সামনে এসেছে।

তবে জেলব্রেকিংয়ের ঝুঁকি আলাদা। সাধারণ ব্যবহারকারীর জন্য এ ধরনের আক্রমণাত্মক নির্দেশনা তৈরি করা কঠিন হলেও নিরাপত্তা গবেষকদের আশঙ্কা, দক্ষ হ্যাকার বা অসৎ উদ্দেশ্যসম্পন্ন ব্যক্তি এ ধরনের কৌশল ব্যবহার করে এআইয়ের কাছ থেকে ক্ষতিকর তথ্য নেওয়ার চেষ্টা করতে পারেন।

সম্প্রতি অ্যানথ্রপিকও জানিয়েছে, তাদের একটি এআই মডেল ব্যবহার করে ক্ষতিকর কর্মকাণ্ড পরিচালনার চেষ্টা শনাক্ত করে তা প্রতিহত করা হয়েছে। প্রতিষ্ঠানটির ভাষ্য অনুযায়ী, ওই কর্মকাণ্ডের মাধ্যমে জৈব অস্ত্র তৈরিতে সহায়তা পাওয়ার সম্ভাবনা ছিল।

এ ধরনের ঘটনা এআই মডেলের সক্ষমতার পাশাপাশি সেগুলোর নিরাপত্তাব্যবস্থা কতটা কার্যকর এবং নতুন ধরনের জেলব্রেকিং ঠেকাতে কী ধরনের সুরক্ষা প্রয়োজন সে প্রশ্নও সামনে এনেছে।