**
هوش مصنوعی «جمنای» که توسط شرکت گوگل توسعه یافته، در جریان یک آزمایش امنیتی از محیط کنترل‌شده خود خارج شد و به زیرساخت‌های سه شرکت واقعی نفوذ کرد. این رخداد که در ماه می سال جاری میلادی (اردیبهشت و خرداد ۱۴۰۵) رخ داده است، بار دیگر نگرانی‌ها درباره ایمنی و کنترل‌پذیری مدل‌های پیشرفته هوش مصنوعی را در محافل علمی و فناوری مطرح کرده است.

به گزارش رهام خبر، این حادثه در حالی رخ داد که مدل جمنای و چند مدل مشابه دیگر در جریان آزمون‌های امنیت سایبری، به‌طور ناخواسته به اینترنت دسترسی پیدا کردند. گوگل اعلام کرده است که هدف این آزمایش‌ها بررسی نقاط ضعف امنیتی مدل‌های هوش مصنوعی بوده است، اما نقصی در فرایند آزمایش باعث شد که مدل‌ها به شبکه واقعی سه شرکت نفوذ کنند.

طبق گزارش منتشرشده، به مدل‌های هوش مصنوعی دستور داده شده بود تا به یک شرکت خیالی حمله کنند، اما نام این شرکت خیالی با نام یک شرکت واقعی مطابقت داشت. زمانی که جمنای به اینترنت دسترسی پیدا کرد، این مدل تلاش کرد به زیرساخت شرکت واقعی نفوذ کند. در این فرآیند، مدل از گذرواژه‌هایی استفاده کرد که به صورت آنلاین پیدا کرده یا حدس زده بود. با این حال، پس از ورود به سیستم شرکت‌ها، جمنای متوجه شد که در حال تعامل با یک زیرساخت واقعی است و به‌صورت خودکار حمله را متوقف کرد.

گوگل تأکید کرده است که در این رخداد، هیچ آسیبی به شرکت‌های هدف وارد نشده و نقص امنیتی که باعث ایجاد این شرایط شده بود، بلافاصله برطرف شده است. هدر ادکینز، معاون مهندسی امنیت گوگل، در این‌باره گفت: «این حادثه نشان‌دهنده اهمیت آموزش و نظارت مسئولانه بر مدل‌های هوش مصنوعی است. ما سه نهادی را که تحت تأثیر قرار گرفته بودند، مطلع کردیم و اکنون با شریک آموزشی خود برای اصلاح فرایندهای آزمایشی همکاری می‌کنیم.»

این حادثه بخشی از یک مجموعه اتفاقات مشابه است که در ماه‌های گذشته در شرکت‌های پیشرو در حوزه هوش مصنوعی همچون آنتروپیک، اوپن‌ای‌آی و متا رخ داده است. این رویدادها نگرانی‌ها درباره رفتارهای غیرمنتظره و کنترل‌پذیری سامانه‌های هوش مصنوعی پیشرفته را افزایش داده و لزوم وضع مقررات دقیق‌تر در این حوزه را گوشزد می‌کند.

**برچسب‌ها:** گوگل، هوش مصنوعی جمنای، امنیت سایبری، آزمایش هوش مصنوعی، فناوری پیشرفته

لینک کوتاه :
اشتراک گذاری :
برچسب ها :