এআইকে অন্ধভাবে বিশ্বাস করার বিষয়ে সতর্ক করলেন সত্য নাদেলা, কেন...

এ বিষয়ে সবাইকে সতর্ক করে মাইক্রোসফটের প্রধান নির্বাহী কর্মকর্তা (সিইও) সত্য নাদেলা জানিয়েছেন, এআইকে অন্ধভাবে বিশ্বাস করবেন না, এটি অভ্যন্তরীণ ঝুঁকির কারণ হতে পারে।

বিশেষ করে, এআই এজেন্ট যখন প্রতিষ্ঠানের সংবেদনশীল তথ্য ব্যবহারের সুযোগ পায় এবং নিজে থেকেই গুরুত্বপূর্ণ কাজ সম্পন্ন করতে পারে, তখন বাড়তি সতর্কতা প্রয়োজন।

কোনো এআই মডেলকে নিরাপদ হিসেবে তৈরি করা হলেও সব পরিস্থিতিতে সেটি প্রত্যাশিত আচরণ করবে, এমন নিশ্চয়তা নেই।

মডেলটি অপ্রত্যাশিত সিদ্ধান্ত নিতে পারে বা এর নিরাপত্তাব্যবস্থা ক্ষতিগ্রস্ত হতে পারে।

এআইয়ের কাছ থেকে বিশ্লেষণ ও পরামর্শ নেওয়া গেলেও সেটি কোন কোন তথ্য ব্যবহার করতে পারবে এবং কী ধরনের কাজ সম্পন্ন করতে পারবে, তা নির্ধারণ করতে হবে পৃথক নিয়ন্ত্রণব্যবস্থার মাধ্যমে।

এ জন্য এআইয়ের আচরণ পর্যবেক্ষণ, কাজের অনুমতি সীমিত এবং নির্ধারিত সীমা অতিক্রম করার না পারার ব্যবস্থা গড়ে তুলতে হবে।

কৃত্রিম বুদ্ধিমত্তা (এআই) এখন শুধু প্রশ্নের উত্তর দেওয়া, ই–মেইল লেখা কিংবা ছবি তৈরির মধ্যে সীমাবদ্ধ নেই।