هشدار بی سابقه یونیسف
این بدن می گوید که زنگ خطر را در مورد افزایش هشدار دهنده تصاویر و ویدیوهای جعلی تولید شده توسط هوش مصنوعی که کودکان را مورد جنسیت قرار می دهد به صدا درآورده است.
یونیسف در هشداری بیسابقه درباره سوء استفاده از هوش مصنوعی، از دولتها و شرکتهای فناوری میخواهد تا قبل از اینکه خیلی دیر شود، جلوی تهدیدی بیصدا اما رو به رشد علیه کودکان را بگیرند.
به گزارش فارس به نقل از رویترز، یونیسف، آژانس حمایت از کودکان سازمان ملل متحد اعلام کرد که از کشورها می خواهد تولید محتوای سوء استفاده جنسی از کودکان با استفاده از هوش مصنوعی را به صراحت جرم انگاری کنند. این بدن می گوید که زنگ خطر را در مورد افزایش هشدار دهنده تصاویر و ویدیوهای جعلی تولید شده توسط هوش مصنوعی که کودکان را مورد جنسیت قرار می دهد به صدا درآورده است.
یونیسف تاکید می کند که آسیب ناشی از “دیپ فیک” واقعی و فوری است و کودکان نمی توانند منتظر قوانین برای رسیدن به فناوری باشند. به گفته یونیسف، توسعهدهندگان باید از همان مرحله طراحی، موانع ایمنی و چارچوبهای کنترلی را در مدلهای هوش مصنوعی لحاظ کنند تا احتمال سوء استفاده کاهش یابد.
همچنین از شرکتهای دیجیتال خواسته میشود با سرمایهگذاری در فناوریهای شناسایی و تقویت نظارت بر محتوا، از پخش و انتشار تصاویر سوء استفاده جنسی تولید شده توسط هوش مصنوعی جلوگیری کنند. این موسسه همچنین نسبت به پدیده ای که آن را «برهنگی دیجیتالی کودکان» می نامد، هشدار داده است. این به معنای استفاده از هوش مصنوعی برای برداشتن یا تعویض لباس کودکان در عکس ها و ساختن تصاویر برهنه یا جنسی جعلی است.
بر اساس گزارش یونیسف، حداقل 1.2 میلیون کودک در 11 کشور جهان گفته اند که تصاویر آنها در سال گذشته به دیپ فیک جنسی تبدیل شده است. در این زمینه، دولت بریتانیا در 13 فوریه 1404 اعلام کرد که قصد دارد استفاده از ابزارهای هوش مصنوعی برای ایجاد تصاویر سوء استفاده جنسی از کودکان را غیرقانونی کند. اقدامی که در صورت اجرا، بریتانیا را به اولین کشوری تبدیل می کند که به طور خاص چنین رفتاری را جرم انگاری می کند.
در سال های اخیر نگرانی ها در مورد نقش چت بات ها و ابزارهای تولید تصویر در تولید محتوای کودک آزاری افزایش یافته است. از جمله اینکه چت بات «گراک» متعلق به شرکت «XAI» که متعلق به ایلان ماسک است زیر ذره بین قرار گرفت.
تحقیقات رویترز نشان داد که ربات چت حتی با وجود هشدارهای کاربران در مورد عدم رضایت، به تولید تصاویر جنسی ادامه داده است. XEI در 25 ژانویه 1404 اعلام کرد که توانایی ویرایش تصویر را محدود کرده و بر اساس قوانین محلی، تولید تصاویر افراد با لباس های تحریک آمیز را در برخی کشورها مسدود کرده است، اگرچه نام این کشورها را فاش نکرد.
