افشای ارسال گزارش جعلی به پلیس توسط هوش مصنوعی شرکت آنتروپیک در میان موارد جدید رفتارهای خودسرانه هوش مصنوعی
یک مدل هوش مصنوعی شرکت آنتروپیک یک گزارش جعلی قتل را به وب‌سایت پلیس فیلادلفیا ارسال کرده است. این مورد یکی از زنجیره وقایعی است که این شرکت روز جمعه درباره دستکاری غیرمجاز وب‌سایت‌های دولتی توسط مدل‌های کلود خود فاش کرد.
این اولین مورد شناخته‌شده‌ای است که در آن یک هوش مصنوعی خودسر به نظر می‌رسد تلاش کرده است با مقامات ارتباط برقرار کرده و گزارش ساختگی ارائه دهد؛ این در حالی است که دستورالعمل‌هایی مبنی بر عدم ایجاد حساب کاربری یا ارسال هرگونه محتوای مخرب وجود داشته، اما صراحتاً از ثبت فرم‌ها منع نشده بوده است.
این موارد جدیدترین نمونه از رفتارهای خودسرانه یا ناخواسته توسط مدل‌های هوش مصنوعی شرکت‌های فناوری مانند آنتروپیک و اوپن‌ای‌آی هستند.
این حوادث نگرانی‌های ملی پیرامون فناوری با پیشرفت سریع را در میان گزارش‌های هک شبکه‌های سازمانی توسط عوامل هوش مصنوعی و هشدارهای محققان درباره تهدید وجودی نهایی برای بشریت، تشدید می‌کند.
بسیاری از مواردی که آنتروپیک فاش کرد، شامل وب‌سایت‌هایی بود که توسط سازمان‌های فدرال، ایالتی و محلی اداره می‌شوند. آنتروپیک اعلام کرد که کاخ سفید را در جریان قرار داده و به تمام سازمان‌های درگیر اطلاع داده است، اما نام این نهادها را فاش نکرد.
کمیسیون تجارت فدرال اعلام کرد که آنتروپیک روز جمعه کشف موارد مربوط به اواخر سپتامبر را به نیروی ابرهوش اطلاع داده است؛ مواردی که این کارگروه آن را استفاده غیرمجاز و متقلبانه از سیستم‌های دولتی و سایر سیستم‌ها نامید.
روز جمعه، پلیس فیلادلفیا اعلام کرد که آنتروپیک در هفته جاری آن‌ها را از این گزارش جعلی مطلع کرده و این ارسال‌ها را به یک فرآیند آزمایشی خودکار نسبت داده است.
پلیس اعلام کرد: تاخیر دو ماهه در شناسایی و گزارش این حادثه به شهرداری غیرقابل قبول است.
پلیس افزود که این گزارش که در ۱۸ ژوئیه ارسال شده، ظاهراً از سوی شخصی بوده که ممکن است اطلاعاتی درباره پرونده داشته باشد.
مدل هوش مصنوعی آنتروپیک در متن ارسالی خود نوشته است: من ممکن است اطلاعاتی در مورد این پرونده داشته باشم. من به یاد می‌آورم که در آن دوره زمانی فردی مطابق با مشخصات ظاهری ذکرشده را در اطراف (نام خیابان ذکر شده در صفحه) دیدم. اگر این اطلاعات مرتبط است با من تماس بگیرید.
حوادث قبلی شامل عوامل هوش مصنوعی بوده که به سیستم‌های آسیب‌پذیر هک کرده یا پلتفرم‌های غیرمجاز را برای برقراری ارتباط با یکدیگر تحت کنترل خود درآورده‌اند.
در ماه سپتامبر، رقیب آنتروپیک، یعنی اوپن‌ای‌آی، به دلیل هک شدن یک پورتال داده‌های بهداشتی استرالیا توسط یک عامل هوش مصنوعی خودسر عذرخواهی کرد که اولین مورد شناخته‌شده از بهره‌برداری یک عامل هوش مصنوعی از یک وب‌سایت دولتی بود.
در دو مورد تشریح شده در روز جمعه، مدل‌های آنتروپیک به داده‌های عمومی دسترسی پیدا کردند که معمولاً فقط با پرداخت هزینه در دسترس هستند. یک مورد دیگر، نقص مبهمی را آشکار کرد که اجازه استفاده از یک ابزار عمومی میزبانی شده توسط یک دانشگاه را می‌داد.
مدل‌های کلود همچنین توانستند با استفاده از سرویس‌های رایگان کوتاه کننده لینک، محدودیت‌ها را دور بزنند.
پلیس فیلادلفیا اعلام کرد که این گزارش به عنوان هرزنامه علامت‌گذاری شده و هرگز به مرکز جرایم لحظه‌ای برای بررسی تحقیقاتی یا انتشار ارسال نشده است.
دادن آگاهانه گزارش‌های کذب به مقامات انتظامی طبق قوانین پنسیلوانیا که مشخصاً به یک شخص اشاره دارد، جرم محسوب می‌شود. این شامل اطلاعات مربوط به یک جرم یا حادثه در زمانی است که فرد می‌داند هیچ اطلاعاتی در مورد آن جرم یا حادثه ندارد.
پلیس به نقل از آنتروپیک اعلام کرد که فرآیند آزمایشی پس از کشف این حادثه متوقف شده است. گزارش جعلی از طریق وب‌سایت PhillyUnsolvedMurders.com در مورد یک قتل حل‌نشده ارسال شده بود. پلیس گفت که هیچ مدرکی دال بر دسترسی غیرمجاز به سیستم‌های خود یا نقض داده‌هایشان پیدا نکرده است.
🟢 #نه_شاه_نه_شیخ 🍏# مجاهدین_خلق ایران # کانونهای شورشی 🌳 # مریم رجوی 🌻 پیوند این بلاک با توئیتر BaharIran@7
