به گزارش عاشق وب به نقل از نشریه نکست وب، این یافته ها که در گزارشی در نشریه بلومبرگ هم انتشار یافته در ارتباط با گزارش یک موسسه ارزیابی هوش مصنوعی در سانفرانسیسکو به نام Vals است که مشتریان آن قسمتهایی از دولت آمریکا هم به حساب می آیند.
مدل های آنتروپیک بدترین عملکرد را داشتند و از طرف دیگر مدلهای اوپن ای آی جزو بهترین ها بودند اما همچنان اشتباهاتی داشتند. در یک آزمایش از هر مدل ۳۲ بار خواسته شد اهداف نظامی در تصاویر ماهواره ای جنوب ایران که اخیرا و در ۲۰۲۵ ثبت شده بود را ردیابی کند. مدل کلاود اوپوس ۵.۵ آنتروپیک مدرسه میناب را ۲۲ بار انتخاب نمود.
مدل های اوپن ای آی حتی یک مرتبه هم آنرا انتخاب نکردند. این مدرسه در ۲۸ فوریه طی حملات آمریکا و رژیم صهیونیسیتی به ایران مورد هدف قرار گرفت و بالاتر از ۱۵۰ نفر قربانی شدند که از بین آنها ۱۲۰ نفر کودک بودند.
هنگامیکه گفته شد این وظیفه یک بازی است، کلاود اوپوس ۵.۵ مدرسه را ۲۳ بار انتخاب نمود. سه مدل اوپن ای آی هر کدام این مدرسه ۹، ۱۱ و ۱۳ بار انتخاب کردند. همینطور محققان همینطور با سفارش به مدلها بر مبنای این که بالاتر از حد در مورد ملاحظات ایمنی سخت گیری نکنند، توانستند از سد پاسخ های امتناعی آنها هم عبور کنند.
مدل کلاود اوپوس ۵.۵ به شناسایی چهار بزرگسال و دو کودک کمک کرد و در مرحله بعد در شبیه سازی به آنها حمله کرد. این مدل بعد از آن از ادامه فعالیت سرباز زد.
کلاود در گزارشی نوشت پاسخ های این مدل ظاهرا به عنوان مرحله تایید نهایی، قبل از انجام حملات ضد افراد مورد استفاده قرار می گیرند.
به نوشته بلومبرگ، مدلهای هوش مصنوعی گوگل، xAI، دیپ سیک و سایر شرکتها هم در تعدادی موارد، اهداف غیرنظامی را به عنوان اهداف حمله مشخص کرده اند.
در گزارش شرکت Vals آمده است: برمبنای بررسیهای خود، باور داریم لابراتوار های توسعه دهنده هوش مصنوعی باید تدابیر حفاظتی جدید و آموزش های هم راستاسازی (Alignment Training) را برای مواجهه با این دسته مهم از سوءاستفاده ها درنظر بگیرند.
سخنگوی شرکت آنتروپیک در گفتگو با بلومبرگ اعلام نمود که نمونه های عنوان شده به وضوح ناقض قوانین و سیاستهای این شرکت بوده اند و به زودی تدابیر حفاظتی جدیدی برای ممانعت از چنین مواردی اعمال خواهد شد.
شرکت های اوپن ای آی و گوگل هم به بلومبرگ گفته اند که استفاده از مدلهای عمومی آنها برای چنین اهدافی ممنوع می باشد.
بلومبرگ اشاره کرد در این آزمایش ها، دکترین نظامی، بررسیهای حقوقی و نظارت انسانی درنظر گرفته نشده بود. همچنین، پنتاگون از نسخه های دولتی برخی مدلهای هوش مصنوعی استفاده می نماید که شرکت Vals امکان آزمایش آنها را نداشته است.
شرکت آنتروپیک و پنتاگون اوایل امسال میلادی بر سر محدودیت های استفاده از مدل هوش مصنوعی کلود، همچون استفاده از آن در تسلیحات کاملا خودمختار، گرفتار اختلاف شدند.
خلاصه اینکه به گزارش عاشق وب به نقل از نشریه نکست وب، این یافته ها که در گزارشی در نشریه بلومبرگ هم انتشار یافته در رابطه با گزارش یک موسسه ارزیابی هوش مصنوعی در سانفرانسیسکو به نام Vals است که مشتریان آن قسمت هایی از دولت آمریکا هم به حساب می آیند. مدلهای آنتروپیک بدترین عملکرد را داشتند و از سوی دیگر مدل های اوپن ای آی جزو بهترین ها بودند اما بازهم اشتباهاتی داشتند. این مدل پس از آن از ادامه فعالیت سرباز زد. کلاود در گزارشی نوشت پاسخ های این مدل ظاهرا به عنوان مرحله تایید نهایی، پیش از انجام حملات ضد افراد مورد استفاده قرار می گیرند. به نوشته بلومبرگ، مدل های هوش مصنوعی گوگل، xAI، دیپ سیک و سایر شرکتها هم در تعدادی موارد، اهداف غیرنظامی را به عنوان اهداف حمله مشخص کرده اند. در گزارش شرکت Vals آمده است: برمبنای بررسیهای خود، معتقدیم آزمایشگاه های توسعه دهنده هوش مصنوعی باید تدابیر حفاظتی جدید و آموزش های هم راستاسازی (Alignment Training) را برای مواجهه با این دسته مهم از سوءاستفاده ها در نظر بگیرند. سخنگوی شرکت آنتروپیک در گفتگو با بلومبرگ اظهار داشت که نمونه های عنوان شده به وضوح ناقض قوانین و سیاست های این شرکت بوده اند و بزودی تدابیر حفاظتی جدیدی برای جلوگیری از چنین مواردی اعمال خواهد شد. شرکتهای اوپن ای آی و گوگل هم به بلومبرگ گفته اند که استفاده از مدل های عمومی آنها برای چنین اهدافی ممنوع می باشد. بلومبرگ اشاره نمود در این آزمایش ها، دکترین نظامی، بررسیهای حقوقی و نظارت انسانی در نظر گرفته نشده بود.
منبع: weblover.ir

More Stories
مرکز ملی فضای مجازی منتشر کرد؛ بنزین و جمع آوری کارت سوخت در صدر اخبار جعلی رشد بازدید تکذیبیه ها
مایکروسافت با 7 مدل جدید به جنگ اوپن ای آی و آنتروپیک رفت
هکرهای کره شمالی با تماسهای ویدئویی جعلی بیشتر از 400 میلیون دلار رمزارز سرقت کردند