گوین نیوسام، فرماندار ایالت کالیفرنیا، گام دیگری در مسیر نظارت سختگیرانه بر فناوری هوش مصنوعی برداشته است. او با صدور یک فرمان اجرایی جدید، قصد دارد ایالت کالیفرنیا را به پیشروترین منطقه در زمینه تنظیم مقررات هوش مصنوعی تبدیل کند. این فرمان نه‌تنها بر لزوم ایمنی و شفافیت در توسعه مدل‌های پیشرفته هوش مصنوعی تأکید دارد، بلکه ایده‌ای بحث‌برانگیز به نام «کلید خاموشی» را برای مدیریت شرایط اضطراری مطرح کرده است.
به گزارش رهام خبر، فرمان اجرایی نیوسام گروهی از کارشناسان را موظف می‌کند که در مدت دو ماه، پیشنهادهایی برای تقویت ایمنی فناوری هوش مصنوعی ارائه دهند. این پیشنهادها شامل الزام شرکت‌های فعال در این حوزه به انجام ممیزی‌های مستقل، ارائه گزارش‌های شفافیت و ارزیابی ریسک، و ایجاد سازوکاری برای تأیید اثربخشی کلید خاموشی خواهد بود. کلید خاموشی به‌عنوان یک ابزار اضطراری طراحی شده است تا در صورت بروز رفتارهای غیرقابل‌کنترل توسط مدل‌های هوش مصنوعی، امکان متوقف‌کردن فوری آن‌ها فراهم شود.
فرماندار کالیفرنیا همچنین بر لزوم ثبت و گزارش‌دهی رخدادهای ایمنی بحرانی تأکید کرده است. او به‌دنبال آن است که شرکت‌های فعال در حوزه هوش مصنوعی، حوادثی مانند حملات سایبری یا موارد «ازکنترل‌خارج‌شدن» را به‌عنوان تهدیدهای جدی گزارش دهند. علاوه بر این، نیوسام از نهادهای ایالتی خواسته است تا اجرای دو قانون جدید مرتبط با ایمنی هوش مصنوعی را تسریع کنند. این قوانین چارچوبی برای ارزیابی فناوری‌های هوش مصنوعی و ایجاد یک فهرست ایالتی از ممیزی‌های مربوطه ارائه می‌دهند.
در حالی که فضای سیاسی واشنگتن برای تصویب قوانین جامع در این زمینه مناسب به نظر نمی‌رسد، کالیفرنیا تلاش دارد تا به‌عنوان یک آزمایشگاه قانون‌گذاری عمل کند. این ایالت می‌خواهد نقشی پیشرو در تنظیم مقررات ایفا کند، به‌ویژه در شرایطی که دولت فدرال درگیر بن‌بست‌های سیاسی است و کنگره از اجماع سریع بر سر قوانین هوش مصنوعی بازمانده است.
مفهوم کلید خاموشی نیز به یکی از موضوعات جنجالی تبدیل شده است. این ابزار صرفاً یک دکمه فنی ساده نیست، بلکه سازوکاری حقوقی و عملیاتی است که می‌تواند در مواقع اضطراری مدل‌های هوش مصنوعی را از کار بیندازد. این اقدام کالیفرنیا می‌تواند چالش‌های جدیدی برای شرکت‌های فعال در این حوزه به همراه داشته باشد، چرا که آن‌ها را ملزم به انطباق با استانداردهای سختگیرانه‌تر می‌کند.
برچسب‌ها: گوین نیوسام، کالیفرنیا، هوش مصنوعی، کلید خاموشی، قوانین فناوری
