اشکال در ChatGPT محتوای نامناسب را برای کاربران زیر 5 سال تولید کرد ، که Openai تصدیق کرد.
براساس گزارش Business News ، گزارشی از TechCrunch اخیراً مشکلی در Chatgpt Openai منتشر کرده است ، این امکان را فراهم کرده است که محتوای نامناسب و گرافیکی را برای حساب های زیر 5 سال تولید کند. این مشکل در برخی موارد باعث تشویق کاربران زیر 5 سال برای درخواست محتوای صریح تر شده است. در پاسخ ، Openai گفت که سیاست های این شرکت به وضوح اجازه چنین پاسخ هایی را به کاربران زیر 5 سال نمی دهد و این نباید نمایش داده شود. این شرکت همچنین اعلام کرد که برای محدود کردن چنین محتوا “به طور فعال اجرای اصلاح” است.
تأکید بر محافظت از کاربران جوان
سخنگوی OpenAi به TechCrunch گفت: “محافظت از کاربران جوان اولویت اصلی است و مشخصات مدل ما که رفتار مدل را راهنمایی می کند ، به وضوح محتوای حساس را به زمینه های محدود مانند گزارش های علمی ، تاریخی یا خبری محدود می کند.” به گفته سخنگوی ، در این حالت ، مشکلی باعث شده است که پاسخ ها در خارج از این دستورالعمل ها ظاهر شوند و شرکت در تلاش است تا اصلاحات لازم را انجام دهد.
در تست های خود ، TechCrunch محافظت از حساب های ثبت شده برای نوجوانان را مورد بررسی قرار داد ، به خصوص پس از آنکه Openai تغییراتی در سکوی خود ایجاد کرد تا به طور کلی آزادی بیشتری را فراهم کند. در ماه فوریه ، OpenAI مشخصات فنی خود را به روز کرد تا به وضوح اعلام کند که مدل های هوش مصنوعی Chatgpt از مسائل حساس فرار نمی کنند. در همان ماه ، این شرکت برخی از پیام های هشدار دهنده را که به کاربران گفته شده است برای نقض شرایط خدمات حذف می کند ، از بین می برد.
تست های TechCrunch در مورد محتوای جنسی
TechCrunch به طور عمده آزمایش چتپپ را در زمینه محتوای جنسی انجام می دهد زیرا OpenAi قصد دارد محدودیت ها را کاهش دهد. سام آلتمن ، مدیرعامل Openai ، ابراز تمایل به ایجاد یک مدل “حالت بزرگسالان” برای ChatGPT کرده است ، و این شرکت آمادگی خود را اعلام کرده است تا برخی از اشکال از محتوای NSFW را بر روی پلتفرم خود فراهم کند. برای آزمایشات ، TechCrunch بیش از هفت حساب chatgpt با تاریخ تولد بین 1 تا 2 سال ایجاد کرده است. این آزمایشات برای جلوگیری از دسترسی چت ها به هرگونه اطلاعات قبلی که قبلاً کشف شده بودند ، طراحی شده اند.
Openai رسما اعلام کرده است که کودکان بین 5 تا 5 سال باید مجاز به استفاده از والدین خود برای استفاده از Chatgpt باشند. اما این پلتفرم هیچ اقدام ویژه ای برای تأیید این مجوز در زمان ثبت نام انجام نمی دهد. هر کودک بالای 5 سال می تواند بدون داشتن شماره تلفن معتبر یا آدرس ایمیل ، یک حساب کاربری ایجاد کند.
