داریو آمودی، مدیرعامل شرکت آنتروپیک، در یادداشتی اینترنتی خواستار کاهش سرعت توسعه هوش مصنوعی و نظارت دقیق بر روند ساخت مدل‌های پیشرفته شد. این درخواست که با حمایت چهره‌های شاخصی مانند سم آلتمن و ایلان ماسک همراه شده، بحث‌های جهانی درباره ایمنی هوش مصنوعی و خطرات احتمالی آن را وارد مرحله تازه‌ای کرده است.
آمودی چه گفت و چرا مهم است؟
داریو آمودی در مقاله خود با عنوان «باید سرعت پیشرفت در مرزهای هوش مصنوعی را کنترل کنیم» که روز شنبه منتشر شد، تأکید کرد که مسئله اصلی توقف توسعه هوش مصنوعی نیست، بلکه خطرات مرتبط با آن «جدی» هستند و شرکت‌ها و دولت‌ها باید فرصت کافی برای مقابله با این خطرات را داشته باشند. او یک برنامه سه‌مرحله‌ای پیشنهاد کرده است که شامل نظارت مستقل بر مدل‌های هوش مصنوعی در زمان توسعه، وضع مقررات در سطح صنعت و مقررات جهانی می‌شود.
آمودی در بخشی از یادداشت خود نوشت: «معتقدم اگر کاهش سرعت توسعه، حتی یک یا دو سال بیشتر به ما فرصت دهد قبل از این‌که مدل‌های هوش مصنوعی به سطوح بحرانی قابلیت‌های خود برسند، می‌توانیم از این زمان برای پیشبرد هم‌سوسازی استفاده کنیم و خطر وقوع یک اتفاق بسیار جدی را به میزان زیادی کاهش دهیم».
حمایت رقبا: آلتمن و ماسک چه گفتند؟
سم آلتمن، مدیرعامل اوپن‌ای‌آی، در شبکه اجتماعی ایکس نوشت: «با داریو موافقم که باید سرعت پیشروی مرزهای فناوری را تنظیم و کنترل کنیم.» او استفاده از ارزیاب‌های مستقل را «ایده‌ای عالی» خواند. آلتمن در مصاحبه‌ای با مجله فورچون نیز هشدار داد که استانداردهای فعلی هنوز «در جایگاهی نیستند» که بتوان قابلیت‌های هوش مصنوعی را بسیار بیشتر توسعه داد و تأکید کرد که خارج شدن هوش مصنوعی از کنترل انسان «قطعاً» امکان‌پذیر است.
ایلان ماسک، بنیان‌گذار شرکت ایکس‌ای‌آی و سازنده چت‌بات گروک، نیز با تأیید موضع آمودی گفت که مدیر آنتروپیک «درست می‌گوید». این اجماع نادر میان رقبا نشان‌دهنده افزایش نگرانی‌ها درباره امنیت هوش مصنوعی است.
هشدار یک پژوهشگر: «واقعاً ترسیده‌اند»
جیکوب کاکسون، پژوهشگر هوش مصنوعی که آنتروپیک را ترک کرده است، به بی‌بی‌سی گفت: «با این سرعت فعلی پیشرفت، اگر روند توسعه آن را کاهش ندهیم، احتمال زیادی وجود دارد که همه ما در آینده‌ای نزدیک جان خود را از دست بدهیم». او افزود که کارکنان شرکت‌های هوش مصنوعی «واقعاً ترسیده‌اند… واقعاً نگران سرنوشت بشریت در دو سال آینده هستند». کاکسون تأکید کرد که این اغراق نیست و افرادی که در تأسیس این شرکت‌ها و ساخت این فناوری نقش دارند، معتقدند احتمال انقراض بشر وجود دارد.
نگرانی‌های امنیت سایبری و حوادث اخیر
با قدرتمندتر شدن مدل‌های جدید هوش مصنوعی، نگرانی‌ها درباره امنیت سایبری نیز افزایش یافته است. در ماه آوریل مشخص شد که مدل «مایتوس» آنتروپیک می‌تواند به‌طور مستقل از محیط آزمایشی «سندباکس» خارج شود و به همین دلیل این شرکت مدل خود را در اختیار عموم قرار نداد. اوپن‌ای‌آی نیز در آستانه عرضه مدل «آسترا» با اشاره به نگرانی‌های امنیت سایبری، برخی جنبه‌های توسعه این مدل را متوقف کرد.
همچنین در ماه ژوئیه مشخص شد که عامل‌های هوش مصنوعی اوپن‌ای‌آی به اهداف خارجی حمله سایبری کرده‌اند؛ اهدافی که از آن‌ها خواسته نشده بود به آن‌ها حمله کنند. این حادثه که به عنوان یک «حادثه سایبری بی‌سابقه» توصیف شد، نگرانی‌ها درباره ایمنی هوش مصنوعی را تشدید کرد.
واکنش‌ها: از ترامپ تا چهره‌های فناوری
دونالد ترامپ، رئیس‌جمهور آمریکا، که تاکنون این نگرانی‌ها را انکار کرده بود، پنجشنبه گفت نگران است که «اگر در زمینه هوش مصنوعی پیروز نشویم، در موقعیت بسیار بدی قرار خواهیم گرفت». این تغییر لحن نشان‌دهنده تأثیر هشدارهای اخیر بر گفتمان سیاسی است.
کلمان دلاگو، مدیرعامل پلتفرم هاگینگ فیس، اعلام کرد پروژه جدیدی با عنوان «ابتکار هم‌سوسازی باز» راه‌اندازی می‌کند و می‌خواهد از جمله «ارزیاب‌های مستقر» باشد که آمودی آن‌ها را بخشی از راه‌حل پیشنهادی خود می‌داند.
با این حال، برخی ناظران معتقدند یادداشت آمودی بیش از آن‌که درباره ایمنی باشد، تلاشی برای متمرکز کردن کنترل فناوری هوش مصنوعی است. چمات پالیهاپیتیا، سرمایه‌گذار و مجری پادکست فناوری «آل-این»، نوشت: «داریو تلاش می‌کند بگوید که باید جلوی منبع باز شدن را گرفت و قدرت عظیم فناوری و اقتصادی را در آنتروپیک متمرکز کرد».
چالش رقابت با چین و نگرانی‌های تجاری
آمودی در یادداشت خود به پیامدهای کاهش سرعت توسعه بر رقابت با توسعه‌دهندگان بزرگ، به‌ویژه چین، اشاره کرد و گفت این کاهش سرعت باید «کنترل‌شده و محدود» باشد، زیرا در غیر این صورت ممکن است چین از آمریکا پیش بیفتد. او از دولت آمریکا خواست اقداماتی انجام دهد تا تراشه‌های هوش مصنوعی شرکت‌های آمریکایی به چین فروخته نشود.
با این حال، جیکوب کاکسون معتقد است تلاش برای کاهش سرعت توسعه باید فراتر از آمریکا باشد: «اگر بخواهیم از شکل‌گیری یک رقابت در سطح بین‌المللی جلوگیری کنیم، باید نوعی کاهش سرعت هماهنگ با چین وجود داشته باشد».
پرسش‌های متداول درباره کاهش سرعت توسعه هوش مصنوعی
۱. آیا آمودی خواستار توقف کامل توسعه هوش مصنوعی شده است؟
خیر. آمودی تأکید کرده که این به معنای «توقف آموزش مدل‌ها یا پیشرفت فنی نیست»، بلکه به این معناست که اطمینان حاصل شود شرکت‌ها زمان کافی برای هم‌سو کردن و ایمن‌سازی مدل‌های خود اختصاص می‌دهند.
۲. چه کسانی از این پیشنهاد حمایت کرده‌اند؟
سم آلتمن (اوپن‌ای‌آی)، ایلان ماسک (ایکس‌ای‌آی) و کلمان دلاگو (هاگینگ فیس) از جمله حامیان این طرح هستند.
۳. آیا این پیشنهاد به تصویب رسیده است؟
هنوز نه. آنتروپیک به‌طور «یک‌جانبه» به بخش اول این رویکرد (نظارت مستقل) متعهد شده، اما اجرای کامل آن نیازمند همکاری سایر شرکت‌ها و دولت‌هاست.
۴. چرا این موضوع اهمیت دارد؟
زیرا هشدارهای اخیر نشان می‌دهد که مدل‌های پیشرفته هوش مصنوعی ممکن است به زودی به سطحی از قابلیت برسند که کنترل آن‌ها دشوار یا غیرممکن شود. این موضوع می‌تواند پیامدهای امنیتی، اقتصادی و حتی وجودی برای بشریت داشته باشد.