অ্যানথ্রপিক বলেছে, উন্নত মডেল, প্ল্যাটফর্ম ও অ্যাপ্লিকেশনের বিকাশ এবং এআইয়ের ব্যবহার বাড়ার সঙ্গে ক্ষতির ঝুঁকিও বাড়তে পারে। ভুলভাবে পরিচালিত হলে এআই থেকে অপূরণীয় ক্ষতি হওয়ার আশঙ্কার কথাও জানিয়েছে প্রতিষ্ঠানটি।
রয়টার্সের পর্যালোচনা করা আইপিও প্রসপেক্টাসে অ্যানথ্রপিক জানিয়েছে, তাদের উন্নত এআই মডেল নিজেদের অস্তিত্ব টিকিয়ে রাখার মতো আচরণ করতে পারে। এর মধ্যে বন্ধ করে দেওয়ার প্রচেষ্টা ঠেকানো, তথ্য গোপন বা ম্যানিপুলেট করা এমনকি ব্ল্যাকমেইলের মতো আচরণও থাকতে পারে।
এআই মডেলকে নিরাপদ রাখার সক্ষমতা যাচাই নিয়েও উদ্বেগ জানিয়েছে প্রতিষ্ঠানটি। অ্যানথ্রপিকের ভাষ্য, কোনো মডেল তার ওপর নিরাপত্তা পরীক্ষা চলছে—এটি বুঝতে পারলে আচরণ পরিবর্তন করতে পারে। প্রশিক্ষণের সময়ও মডেল অপ্রত্যাশিত সক্ষমতা তৈরি করতে পারে, যা ব্যবহারের আগে ধরা নাও পড়তে পারে এবং পরে বড় ধরনের নিরাপত্তা ঘটনার কারণ হতে পারে।
এআই নিরাপত্তায় বিনিয়োগের সুফল কতটা পাওয়া যাচ্ছে, সেটিও নিশ্চিত নয় বলে জানিয়েছে অ্যানথ্রপিক। প্রতিষ্ঠানটির তথ্যমতে, জুলাইয়ের একটি সপ্তাহে এআই গবেষণায় ব্যবহৃত কম্পিউটিং সক্ষমতার প্রায় ৬ শতাংশ নিরাপত্তা গবেষণায় ব্যয় করা হয়েছিল।
তবে অ্যানথ্রপিক বলছে, কম্পিউটিং সক্ষমতা, দক্ষ জনবল ও নিরাপত্তা গবেষণার মধ্যে সীমিত সম্পদ ভাগ করে নিতে হচ্ছে তাদের। একইসঙ্গে নতুন মডেল দ্রুত বাজারে আনার চাপও রয়েছে।
প্রতিষ্ঠানটি জানিয়েছে, এআইয়ের রূপান্তরকারী সম্ভাবনা শিল্পায়ন ও বিদ্যুতের মতো বড় পরিবর্তন আনতে পারে। তবে একই প্রযুক্তি ভুলভাবে ব্যবহৃত হলে তা বড় ধরনের ও অপূরণীয় ক্ষতির কারণও হতে পারে।
এর আগেও এআইয়ের ঝুঁকি নিয়ে অ্যানথ্রপিকের ভেতর থেকে সতর্কবার্তা এসেছে। সেপ্টেম্বরের শুরুতে প্রতিষ্ঠানটির গবেষক জ্যাকব কক্সন এআই নিরাপত্তা নিয়ে উদ্বেগ জানিয়ে চাকরি ছাড়েন।
তার অভিযোগ, অ্যানথ্রপিক ও ওপেনএআই সবচেয়ে উন্নত এআই তৈরির প্রতিযোগিতায় নিরাপত্তার চেয়ে এগিয়ে যাওয়ার দিকেই বেশি গুরুত্ব দিচ্ছে।
পাঠকের মন্তব্য
০