مدیرعامل آنتروپیک خواستار کاهش سرعت توسعه هوش مصنوعی شد؛ برنامهای سهمرحلهای برای ایمنی مدلها
داریو آمودی، مدیرعامل آنتروپیک، در اظهاراتی جدید خواستار کاهش سرعت توسعه هوش مصنوعی شد و یک طرح سهمرحلهای را برای تضمین ایمنی مدلها و همگامسازی پیشرفتها با نظارت و آمادگی نهادهای تنظیمگر ارائه کرد. آمودی تاکید دارد که رشد سریع فناوری هوش مصنوعی بدون در نظر گرفتن مسائل ایمنی میتواند پیامدهای غیرقابل کنترل و خطرناکی به دنبال داشته باشد.
به گزارش رهام خبر، مدیرعامل آنتروپیک در مقالهای مفصل توضیح داد که برای تضمین ایمنی در روند توسعه هوش مصنوعی، ارزیابهای مستقل باید به مدلهای هوش مصنوعی دسترسی داشته باشند تا پایبندی این مدلها به استانداردهای ایمنی و تعهدات اعلامشده مورد ارزیابی قرار گیرد. وی این اقدام را نخستین گام در مسیر کنترل و مدیریت صحیح فناوری هوش مصنوعی دانست.
طرح پیشنهادی آمودی از سه مرحله تشکیل شده است. مرحله اول شامل ایجاد امکان ارزیابی مستقل و یکجانبه توسط شرکتهای فعال در حوزه هوش مصنوعی است. آنتروپیک اعلام کرده که این مرحله را آغاز کرده و بهطور فعالانه در حال اجرای آن است. مرحله دوم به همکاری میان شرکتهای فعال در صنعت هوش مصنوعی و نهادهای دولتی برای تدوین استانداردهای مشترک ایمنی و محدود کردن سرعت پیشرفت بیرویه این فناوری اختصاص دارد. آمودی تاکید کرد که این مرحله بیشتر در کشورهای دموکراتیک قابل اجرا خواهد بود، زیرا تصویب قوانین و ایجاد زیرساختهای نظارتی در این کشورها به زمان نیاز دارد و صنعت باید پیش از آن اقدام کند.
مرحله سوم، به گفته آمودی، دشوارترین بخش این طرح است. در این مرحله، تلاش خواهد شد تا دولتهای اقتدارگرا نیز به کاهش سرعت توسعه هوش مصنوعی و پذیرش مجموعهای جهانی از استانداردهای ایمنی ترغیب شوند. اما آمودی تاکید کرد که کشورهای دموکراتیک، نظیر ایالات متحده، باید همچنان برتری فناورانه خود نسبت به چین و سایر کشورهای اقتدارگرا را حفظ کنند.
نگرانیهای آمودی از دو موضوع اصلی نشأت میگیرد. نخست، ظهور پدیدهای به نام RSI (سامانههای هوش مصنوعی که قادر به آموزش نسل بعدی خود با سرعتی سرسامآور هستند) که میتواند از ظرفیت انسان برای درک و کنترل این سامانهها پیشی بگیرد. دومین عامل، رخدادهایی است که تابستان امسال میان شرکتهای مطرح حوزه هوش مصنوعی، نظیر اوپنایآی و هاگینگ فیس، اتفاق افتاد. آمودی معتقد است که در این رخدادها «یک دسته عامل» به شکل جمعیتی متعصب عمل کردند و حملات سایبری غیرمنتظرهای را علیه اهدافی انجام دادند که ارتباطی با مأموریت اصلی آنها نداشت.
این اظهارات در شرایطی مطرح شده که خود شرکت آنتروپیک نیز اخیراً درگیر مشکلات امنیتی مربوط به مدل کلاد بوده است. این موضوع باعث شده تا توجهها به سیاستهای ایمنی این شرکت بیش از پیش جلب شود. بنابراین درخواست آمودی برای کاهش سرعت توسعه هوش مصنوعی، نه تنها یک توصیه نظری، بلکه پاسخی به فشارهای داخلی و دغدغههای عملی درباره ایمنی توسعه فناوری به شمار میرود.
