آیا باید هوش مصنوعی را از پریز بکشیم؟ زنگ خطر بزرگترین متخصصان جهان به صدا درآمد

توقف کامل توسعه هوش مصنوعی در سطح جهانی تقریباً غیرممکن به نظر می‌رسد، اما کارشناسان برجسته با صدایی بلندتر از همیشه بر ضرورت ایجاد مکانیزم‌های کنترلی فوری، مانند قابلیت «کشیدن از پریز»، تأکید دارند.این هشدارها در حالی مطرح می‌شود که رقابت برای ساخت سیستم‌های قدرتمندتر هر روز شدیدتر می‌شود.

مسابقه‌ای که هیچ‌کس جرأت توقف آن را ندارد

در ماه‌های اخیر، بحث بر سر کنترل هوش مصنوعی از محافل آکادمیک فراتر رفته و به تیتر اول رسانه‌ها تبدیل شده است. از یک سو، غول‌های فناوری مانند OpenAI، گوگل و متا در یک مسابقه تسلیحاتی برای توسعه مدل‌های هوش مصنوعی پیشرفته‌تر قرار دارند و از سوی دیگر، صدها متخصص طراز اول، از جمله «پدرخوانده‌های هوش مصنوعی» مانند یوشوا بنجیو و جفری هینتون، نامه‌های سرگشاده‌ای را برای توقف موقت این رقابت امضا کرده‌اند. 

«همان‌طور که توانایی‌ها و عاملیت آن‌ها [هوش مصنوعی] رشد می‌کند، باید اطمینان حاصل کنیم که می‌توانیم برای کنترلشان به حفاظ‌های فنی و اجتماعی اتکا کنیم، از جمله توانایی خاموش کردن آن‌ها در صورت نیاز.» 

ما در هوش روز این روند را از نزدیک دنبال می‌کنیم و طبق تجربه، سرعت پیشرفت مدل‌های جدید بسیار فراتر از سرعت وضع قوانین نظارتی است. این شکاف، اصلی‌ترین منبع نگرانی است.

چرا نمی‌توان AI را متوقف کرد؟

از توقف تا کنترل

حقیقت این است که بازگرداندن چرخ پیشرفت هوش مصنوعی به عقب، دیگر ممکن نیست. همان‌طور که نمی‌توان اینترنت را «جمع کرد»، نمی‌توان توسعه AI را نیز به طور کامل متوقف نمود. نظر شخصی من این است که تمرکز جهانی باید از «توقف» به سمت «کنترل» تغییر مسیر دهد. ایجاد یک معاهده بین‌المللی، شبیه به قوانین منع گسترش سلاح‌های هسته‌ای، برای تعریف خطوط قرمز و تضمین وجود «کلید توقف» (Pull the Plug) برای هر سیستم هوش مصنوعی قدرتمند، یک ضرورت انکارناپذیر است.

آینده در دستان ماست

در نهایت، سوال اصلی این نیست که آیا هوش مصنوعی متوقف می‌شود یا نه، بلکه این است که آیا ما به عنوان انسان، کنترل خود را بر این فناوری حفظ خواهیم کرد؟ پاسخ به این سوال، آینده تمدن ما را شکل خواهد داد. سایت اخبار هوش مصنوعی هوش روز به پوشش اخبار جدید هوش مصنوعی ادامه خواهد داد تا شما را در جریان این تحول بزرگ قرار دهد.

سوالات متداول