سی ان ان نوشت: گزارش اطلاعاتی منتشر شده در سرتاسر ارتش آمریکا در بهار امسال و در بحبوحه جنگ با ایران، بلافاصله زنگ خطر را به صدا در آورد: یک کشتی چینی در خاورمیانه در حال انتقال قطعات مربوط به برنامه تسلیحات هسته ای بود.
به گزارش «میهن تجارت»؛ در ادامه این مقاله آمده است: به گفته چهار منبع آگاه، ارتش آمریکا برنامه ریزی برای رهگیری این شناور را آغاز کرده است. به گفته دو منبع، نیروهای مسلح آمریکا در حال آماده شدن برای سوار شدن به کشتی بودند. یکی از این منابع و یک منبع آگاه دیگر تایید کردند که هواپیماهای نظامی نیز در آسمان حضور داشتند.
تنها چند لحظه قبل از شروع عملیات برنامه ریزی شده بود که مقامات، پس از بررسی دقیق گزارشی که توسط یک تحلیلگر فرماندهی عملیات ویژه تهیه شده بود، متوجه شدند که این گزارش با کمک هوش مصنوعی (AI) تهیه شده است. و اینکه چت بات استفاده شده توسط تحلیلگر به اشتباه ماهیت محموله کشتی را شناسایی کرده است. سی ان ان نتوانست ماهیت محموله شناسایی شده را مشخص کند.
به گفته یک منبع، این گزارش “کاملا نادرست” بوده است. اما همان منبع افزود که این گزارش «تقریباً آغازگر جنگ بود». هرگونه اقدام آمریکا علیه کشتی چینی می تواند به درگیری مسلحانه بین دو کشور تبدیل شود.
در سرتاسر جامعه نظامی و اطلاعاتی ایالات متحده، مقامات در تلاش هستند تا هوش مصنوعی را تقریباً در همه جنبه های کار خود بگنجانند. از تجزیه و تحلیل حجم عظیمی از داده های خام جمع آوری شده توسط ایالات متحده و میهن تجارت اهداف برای حملات گرفته تا کاربردهای روزمره بیشتر مانند مدیریت بودجه، تدارکات و زنجیره تامین.
اما این حادثه خطرات عمیق استفاده از این فناوری قدرتمند، جدید و نسبتا ناشناخته را برای هدفگیری در میانه جنگ نشان میدهد. تحلیلگران مدتها نگران بودند که اگر دولتها بر دادههای ناقص یا فاسد تکیه کنند، هوش مصنوعی میتواند منجر به محاسبات اشتباه فاجعهبار شود. همان نوع محاسباتی که ممکن است آمریکا را بر اساس اطلاعات نادرست به سوی یک کشتی چینی شلیک کند.
در این مورد خاص، تحلیلگر از یک ربات چت درباره برخی گزارشهای اطلاعاتی در مورد مانیفست کشتی (فهرست محموله) که از فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام مستقر در هاوایی نشات میگرفت، پرسید. مشخص نیست که چت بات یک ابزار تجاری در دسترس عموم بوده یا محصول دولت ایالات متحده است.
یک مقام ارشد سابق آمریکایی که با سیستمهای هوش مصنوعی مورد استفاده توسط تحلیلگران نظامی و اطلاعاتی آشناست، گفت: ابزارهای داخلی عمدتاً کپیهایی از همان ابزارهای تجاری هستند، تنها با توجه به ظاهر رسمی.
این ربات اطلاعات منبع باز را با سیگنال های محرمانه اطلاعات اطلاعاتی (شنود) در مخازن دولتی ترکیب کرد و به نتیجه سرنوشت ساز در مورد محموله کشتی رسید.
سپس تحلیلگر دوباره از هوش مصنوعی برای بسته بندی این یافته ها در یک گزارش هوش استاندارد استفاده کرد. همان نوع گزارش مورد اعتماد مقامات نظامی؛ و سپس آن را منتشر کرد.
فرماندهی اقیانوس آرام ایالات متحده و پنتاگون به درخواست ها برای اظهار نظر پاسخ ندادند.
منطق پشت پذیرش سریع هوش مصنوعی این است که می تواند به ارتش کمک کند تا تصمیمات میدان نبرد را بگیرد، مانند اینکه چه اهدافی را هدف قرار دهند یا کدام دارایی های نظامی را به کجا و با سرعت بیشتری منتقل کنند. مقامات می گویند که ایالات متحده نمی تواند از یکپارچه سازی هوش مصنوعی عقب بماند، مبادا روزی مجبور شود با چین یا دشمن دیگری که احتمالاً یک قدم جلوتر از ایالات متحده باقی بماند، بجنگد.
در ماه ژانویه، وزیر دفاع، پیت هگزث، «استراتژی شتاب هوش مصنوعی» آژانس خود را با هدف تسریع استفاده ارتش از هوش مصنوعی منتشر کرد.
هگست در سخنرانی خود با اعلام این استراتژی گفت: “ما آزمایش را آزاد خواهیم کرد، موانع بوروکراتیک را حذف خواهیم کرد، سرمایه گذاری های خود را متمرکز کرده و رویکرد اجرایی لازم برای اطمینان از رهبری در هوش مصنوعی نظامی را نشان خواهیم داد.”
این استراتژی همچنین خواستار استفاده گسترده از آن در سراسر ارتش است و این وزارتخانه را هدایت می کند تا هوش مصنوعی را از طریق چندین برنامه در دسترس قرار دهد، با هدف “دموکراسی کردن آزمایش و تکامل هوش مصنوعی در سراسر وزارتخانه با قرار دادن مدل های هوش مصنوعی پیشرو در جهان در دستان سه میلیون پرسنل نظامی و غیرنظامی ایالات متحده، در تمام سطوح طبقه بندی.”
اما به گفته چندین مقام آمریکایی که با پویایی آشنا هستند، این تلاش غیرمتمرکز است و بخشهای مختلف دولت از ابزارهای مختلف تحت دستورات و استانداردهای ایمنی مختلف استفاده میکنند. هیچ مجموعه استانداردی برای چگونگی تأیید اطلاعات تولید شده توسط این ابزارها وجود ندارد. مجموعه ای از سیستم های هوش مصنوعی مختلف که توسط گوشه های پراکنده ای از جامعه نظامی و اطلاعاتی مستقر شده اند به این معنی است که قابلیت اطمینان و اثربخشی آنها بسیار متفاوت است.
در هفتههای اخیر، سیاستگذاران واشنگتن بهدنبال هشدارهای مکرر مهندسان و مدیران عامل فناوری در دره سیلیکون مبنی بر اینکه هوش مصنوعی میتواند از قید و بندهای انسانی رهایی یابد و عواقبی که میتواند به تمدن پایان دهد، به شدت در مورد هوش مصنوعی بحث کرده است.
اما حادثه مربوط به کشتی چینی خطری متفاوت و فوریتر را نشان میدهد: انسانها بر اساس اطلاعات نادرست یا گمراهکننده تولید شده توسط هوش مصنوعی یا سایر سیستمهای خودکار، تصمیمهای فاجعهباری میگیرند. این منابع گفتند که ارتش به سرعت به استفاده از هوش مصنوعی برای کمک به هدف گیری روی آورده است. منطقه ای که خطر آشکار خطاهای کشنده را به همراه دارد.
منبع دیگری که با سیاستهای نظامی فعلی آشنا است، گفت: «هوش مصنوعی در هدفگیری قطعاً یک موضوع رو به رشد است و هیچ راهنمایی واقعی در مورد اینکه چگونه حضور یک انسان در حلقه میتواند از تلفات غیرنظامی یا شلیک خودی جلوگیری کند، وجود ندارد.»
به گفته یکی از منابع، «توهم» یا خطای شناختی ناشی از ابزار مورد استفاده توسط تحلیلگر در این مورد، از آنجایی که ابزارها در سراسر دولت پخش شده بودند، یک اتفاق منحصر به فرد در جامعه اطلاعاتی نبود.
برای برخی از مقامات اطلاعاتی قدیمی – حتی آنهایی که عموماً از استفاده از هوش مصنوعی در ارتش حمایت میکنند – هوش مصنوعی فشار بر تحلیلگران را برای تولید و انتشار سریعتر اطلاعات افزایش داده است و در را برای اشتباهات باز میکند. به گفته چندین منبع، به ویژه تحلیلگران جوان بومی این ابزارها هستند و به احتمال زیاد به آنها اعتماد غیرانتقادی دارند.
یکی از منابع گفت: “هوش مصنوعی به شما امکان می دهد سریعتر به یک ایده بد برسید.”
