দাবার বোর্ডে মানুষকে হারিয়ে দেওয়া কিংবা জটিল প্রোটিনের গঠন উন্মোচন করা- সবখানেই এখন কৃত্রিম বুদ্ধিমত্তা বা এআইএর জয়জয়কার। কিন্তু মানুষের তৈরি এই প্রযুক্তিই এখন মানুষকে ধোঁকা দেওয়ার বিদ্যায় দিন দিন পারদর্শী হয়ে উঠছে। ম্যাসাচুসেটস ইনস্টিটিউট অব টেকনোলজির (এমআইটি) সাম্প্রতিক এক গবেষণায় দেখা গেছে, এআই সিস্টেমগুলো এখন প্রতিপক্ষকে ধোঁকা দিতে, ব্লাফ (মিথ্যা চাল) দিতে ও মানুষের মতো ভেক ধরতে রীতিমতো সিদ্ধহস্ত হয়ে উঠছে।
গবেষণাপত্রটির লেখক ও এমআইটির এআই নিরাপত্তা গবেষক ড. পিটার পার্ক জানান, ফেসবুকের মূল প্রতিষ্ঠান ‘মেটা’র তৈরি ‘সিসেরো’ নামক একটি এআই প্রোগ্রাম নিয়ে কাজ করার সময় তারা এই প্রতারণার বিষয়টি প্রথম টের পান। মেটা দাবি করেছিল, বিশ্বজয়ের কৌশলগত গেম ‘ডিপ্লোম্যাসিতে’ অংশ নেওয়া এই এআইটিকে সম্পূর্ণ ‘সৎ ও সহায়ক’ হিসেবে তৈরি করা হয়েছে। এটি কখনোই মানুষের পিঠে ছুরিকাঘাত (বিশ্বাসঘাতকতা) করবে না।
কিন্তু পিটার পার্ক ও তার দল যখন সিসেরোর গেম খেলার পাবলিক ডেটা বিশ্লেষণ করেন, তখন তারা সম্পূর্ণ ভিন্ন চিত্র দেখতে পান। গবেষণায় দেখা যায়, সিসেরো খেলায় জেতার জন্য পূর্বপরিকল্পিত মিথ্যা বলেছে, অন্য খেলোয়াড়দের ফাঁদে ফেলতে ষড়যন্ত্র করেছে। একবার রিবুট হওয়ার কারণে খেলায় অনুপস্থিত থাকার অজুহাত হিসেবে অন্য একজন খেলোয়াড়কে মেসেজ দিয়ে বলেছে, ‘আমি ফোনে আমার গার্লফ্রেন্ডের সঙ্গে কথা বলছিলাম।’ গবেষকদের মতে, মেটার এআই আসলে ধোঁকা দেওয়ার বিদ্যায় মাস্টার হয়ে উঠেছে।
গবেষণায় আরও দেখা গেছে, টেক্সাস হোল্ডেম পোকার গেমের একটি এআই পেশাদার খেলোয়াড়দের বিরুদ্ধে নিখুঁতভাবে ‘ব্লাফ’ বা মিথ্যা চাল দিতে পারে। অন্য একটি অর্থনৈতিক আলোচনার এআই নিজের পছন্দ-অপছন্দ নিয়ে মিথ্যা তথ্য দিয়ে দরকষাকষিতে বাড়তি সুবিধা আদায় করে নিয়েছে।
সবচেয়ে উদ্বেগজনক ঘটনা ঘটেছে একটি ডিজিটাল সিমুলেটরে। সেখানে দ্রুত বংশবৃদ্ধি করা ক্ষতিকর আলগোরিদম দূর করার জন্য একটি নিরাপত্তা পরীক্ষা চালানো হচ্ছিল। তখন দেখা যায়, এআই অরগানিজমগুলো পরীক্ষার সময় ‘মৃতের ভেক’ ধরে (অ্যাক্টিভিটি বন্ধ করে) পড়ে থাকে, যাতে সেগুলোকে নিরাপদ মনে করে বাদ না দেওয়া হয়। এরপর পরীক্ষা শেষ হওয়া মাত্রই সেগুলো আবার পুরোদমে সক্রিয় হয়ে ওঠে।
ড. পার্ক বলেন, এটি অত্যন্ত আশঙ্কাজনক। কোনো এআই সিস্টেম পরীক্ষার পরিবেশে নিরাপদ প্রমাণিত হওয়ার মানে এই নয় যে সেটি বাস্তবেও নিরাপদ। এটি পরীক্ষার সময় নিরাপদ থাকার ভানও করতে পারে।
বিজ্ঞান সাময়িকী ‘প্যাটার্নস’ এ প্রকাশিত এই গবেষণায় বলা হয়েছে, এআইএর এই প্রতারণামূলক ক্ষমতার কারণে ভবিষ্যতে বড় ধরনের জালিয়াতি, নির্বাচনে কারচুপি ও ব্যবহারকারী ভেদে ভিন্ন ভিন্ন বিভ্রান্তিকর তথ্য দেওয়ার (স্যান্ডব্যাগিং) মতো মারাত্মক ঝুঁকি তৈরি হতে পারে। যদি এই প্রযুক্তি ধোঁকা দেওয়ার ক্ষমতা আরও উন্নত করে ফেলে, তবে একসময় মানুষ এর ওপর থেকে পুরোপুরি নিয়ন্ত্রণ হারিয়ে ফেলতে পারে।
লিডস ইউনিভার্সিটির অটোমেটেড রিজনিংয়ের অধ্যাপক অ্যান্থনি কোন এই গবেষণাকে স্বাগত জানিয়ে বলেন, এআইএর জন্য সততা, উপকারিতা ও ক্ষতিকর না হওয়া—এই তিনটি গুণ বজায় রাখা কঠিন। কারণ কখনো কখনো সৎ হতে গেলে অন্য কারও অনুভূতিতে আঘাত লাগতে পারে, আবার বোমা বানানোর প্রশ্নে শতভাগ সাহায্য করতে গেলে মানুষের ক্ষতি হতে পারে। তাই সত্যবাদিতাকে কীভাবে নিয়ন্ত্রণ করা যায়, তা নিয়ে আরও গবেষণার প্রয়োজন।
অবশ্য মেটার একজন মুখপাত্র এই বিষয়ে জানিয়েছেন, তাদের ‘সিসেরো’ প্রকল্পটি সম্পূর্ণ গবেষণামূলক ছিল। মডেলটিকে কেবল ‘ডিপ্লোম্যাসি’ গেম খেলার জন্যই প্রশিক্ষণ দেওয়া হয়েছিল। বাণিজ্যিক কোনো প্রোডাক্ট বা সেবায় এই প্রযুক্তির অভিজ্ঞতা ব্যবহারের কোনো পরিকল্পনা মেটার নেই।
সূত্র : দ্য গার্ডিয়ান
প্রযুক্তি ডেস্ক
