با تغییر آمادگی خود ، OpenAI ممکن است نیازهای ایمنی را کاهش داده و به فشارهای رقابتی پاسخ دهد.
به گزارش Business News ، OpenAi در آخرین به روزرسانی خود در چارچوب آماده سازی مورد استفاده برای ارزیابی ایمنی مدلهای هوش مصنوعی و تعیین اقدامات لازم در طول توسعه و استقرار ، تغییراتی ایجاد کرده است. در این به روزرسانی ، OpenAI اعلام کرده است که اگر یک آزمایشگاه رقیب توسط یک آزمایشگاه رقیب آزاد شود ، ممکن است الزامات ایمنی خود را “تنظیم” کند. این تغییر نشان دهنده افزایش فشارهای رقابتی بر توسعه دهندگان مشاغل هوش مصنوعی برای انتشار سریع مدل ها است.
انتقاد از کاهش استانداردها
OpenAi به دلیل تسریع در روند انتشار مدل ها و کاهش استانداردهای ایمنی به نفع این سرعت مورد انتقاد قرار گرفته است. این شرکت همچنین متهم به عدم ارائه گزارش های به موقع در مورد آزمایش های ایمنی است. هفته گذشته ، چهار کارمند سابق OpenAi در پرونده ایلان مسک علیه این شرکت اعلام کردند که اگر اوپای همچنان به بازسازی شرکت های خود ادامه دهد ، ممکن است به امنیت بیشتر تشویق شود.
واکنش اوپای به انتقاد
Openai ، با تلاش برای جلوگیری از انتقاد بیشتر ، اظهار داشت که این تغییرات در سیاست ها آسان نیست و اقدامات محافظت از آنها را “محافظتر تر” نگه می دارد. در یک پست وبلاگ که بعد از ظهر سه شنبه منتشر شد ، Openai نوشت: “اگر یک توسعه دهنده دیگر یک سیستم پرخاشگر بالا را بدون اقدامات مشابه منتشر کند ، ممکن است ما نیازهای خود را تنظیم کنیم. اما ابتدا باید تأیید کنیم که دیدگاه خطر واقعاً تغییر کرده است ، ما به طور کلی اعلام می کنیم که تغییر را تنظیم می کنیم و ارزیابی می کنیم که این تغییر به طور قابل توجهی خطر آسیب شدید را افزایش نمی دهد و ما همچنان به حفظ اقدامات محافظت در یک سطح محافظت بیشتر ادامه می دهیم.”
با استفاده از ارزیابی های خودکار
چارچوب آماده سازی به روز شده همچنین نشان می دهد که OpenAI به طور فزاینده ای به ارزیابی های خودکار برای تسریع در توسعه محصول متکی است. این شرکت می گوید اگرچه آزمایش های انسانی را به طور کامل رها نکرده است ، اما “مجموعه ای از ارزیابی های خودکار” را توسعه داده است ، که این شرکت می گوید می تواند با “انتشارات بالاتر” هماهنگ شود.
درگیری با گزارش های مالی
با این حال ، برخی گزارش ها با این ادعاها مغایرت دارند. طبق گفته های فایننشال تایمز ، OPI کمتر از یک هفته به آزمایش کنندگان داده است تا بررسی های ایمنی را برای یک مدل اصلی انجام دهند که این جمع و جور تر از نسخه های قبلی است. منابع این مجله همچنین ادعا کرده اند که اکنون بسیاری از تست های ایمنی OpenAi در نسخه های اولیه مدل ها انجام شده است ، نه منتشر نشده است.
امتناع از کاهش ایمنی
Openai ایده کاهش ایمنی را در اظهارات خود رد کرده است. این شرکت به وضوح اظهار داشته است که سیستم های تحت پوشش که به توانایی “بالا” می رسند باید اقدامات حفاظت را انجام دهند تا به طور مناسب خطر آسیب شدید را قبل از استقرار کاهش دهند. سیستم هایی که “بحرانی” به وجود می آیند نیز برای کاهش خطرات در توسعه نیاز به اقدامات محافظتی دارند.
تغییرات جدید اولین تغییرات OpenAI در چارچوب آماده سازی از سال 2023 است که نشانگر نیاز شرکت برای پاسخ به فشار رقابتی و همچنین حفظ ایمنی در مدلهای هوش مصنوعی است.
