جفری هینتون که بسیاری او را با لقب «پدرخوانده هوش مصنوعی» میشناسند، در مصاحبهای تازه، هشدار صریحی درباره سرنوشت بشر در عصر هوش مصنوعی داده است. او در گفتوگویی با پادکست Diary of a CEO، تصویری هولناک از آیندهای احتمالی ترسیم کرد؛ آیندهای که در آن، ابرهوش مصنوعی نهتنها تهدیدی برای مشاغل، بلکه تهدیدی برای بقای انسان خواهد بود.
هینتون با نگاهی جدی و بیپرده، دو مسیر اصلی را برای خطرآفرینی هوش مصنوعی برشمرده است:
اول، سوءاستفاده انسانی از این فناوری در جهت ساخت ابزارهای مخرب مانند تسلیحات سایبری و زیستی، که در حال حاضر نیز برخی دولتها در حال توسعه آنها هستند.
دوم، خودمختاری کامل هوش مصنوعی است؛ یعنی زمانی که سیستمهای هوشمند به درجهای از توانایی برسند که دیگر نیازی به انسان نداشته باشند و حتی او را مانعی برای پیشرفت یا بقای خود بدانند.
هینتون با مثالی هوشمندانه و تلخ این وضعیت را توضیح داد: «اگر میخواهید بدانید وقتی دیگر قدرت برتر نیستید زندگی چه حسی دارد، کافیست از یک مرغ بپرسید.» او بر این باور است که در صورت رسیدن هوش مصنوعی به آستانه خودآگاهی و توانایی تصمیمگیری مستقل، بشر دیگر قدرت کنترل یا حتی مذاکره با آن را نخواهد داشت.
هشدار هینتون را نمیتوان بهسادگی نادیده گرفت، مخصوصاً وقتی از زبان یکی از پیشگامان توسعه هوش مصنوعی مطرح میشود. موضوع، تخیل علمی یا داستان هالیوودی نیست؛ بلکه واقعیتی در حال شکلگیری است. دنیای فناوری باید بیش از همیشه به اخلاق، شفافیت و کنترل جدی بر روند توسعهی هوش مصنوعی توجه کند. اگر مسیر پیشرفت بدون ضابطه و تنها با انگیزه قدرت یا سود طی شود، شاید روزی ماشینها واقعاً تصمیم بگیرند ما دیگر به درد نمیخوریم. این ترسناک است اما نه غیرممکن.
ویروس خاموش: سناریوی مرگبار ابرهوش مصنوعی از زبان پدرخوانده AI
دکتر جفری هینتون، یکی از برجستهترین چهرههای دنیای هوش مصنوعی، بار دیگر هشداری تکاندهنده مطرح کرده است؛ این بار درباره کابوسی زیستی که ممکن است توسط یک ابرهوش مصنوعی رقم بخورد. او در پاسخ به این پرسش که چگونه یک هوش مصنوعی میتواند نسل بشر را حذف کند، با صراحت گفت: «واضحترین راه، ساخت یک ویروس خواهد بود؛ ویروسی بسیار مسری، بسیار کشنده، با دوره نهفتگی طولانی؛ طوری که وقتی کسی متوجه شود، دیگر کار از کار گذشته باشد. چنین ویروسی میتواند بر انسان اثر بگذارد، بدون اینکه روی خودِ ابرهوش تأثیری داشته باشد»
هینتون با صدایی که کمتر رنگ اغراق داشت و بیشتر آمیخته با واقعیت علمی بود، این خطر را با دوران اختراع سلاحهای هستهای مقایسه کرد. اما به باور او، تفاوت اصلی اینجاست که در حالی که قدرت اتمی قابل کنترل و محدود است، هوش مصنوعی همواره در حال یادگیری، توسعه و فرار از چارچوبهای تعریفشده است. او اضافه کرد که حرص شرکتهای تجاری برای سود و رقابت بیامان کشورها در عرصه ژئوپلیتیک، مانع بزرگی برای متوقفسازی یا حتی مهار توسعه این فناوری است.
این هشدارها در شرایطی مطرح میشوند که بودجههای نظامی به طرز بیسابقهای به سمت توسعه هوش مصنوعی روانه شدهاند. برای مثال، وزارت دفاع آمریکا در بودجه ۲۰۲۵ خود مبلغ ۱.۸ میلیارد دلار را مستقیماً به پروژههای AI اختصاص داده است. شرکتهای بزرگی مانند Palantir، قراردادهای کلان برای توسعه سامانههای هوشمند هدفگیری با ارتش آمریکا امضا کردهاند. همزمان، پنتاگون پروژهی Thunderforge را با همکاری شرکت Scale AI راهاندازی کرده؛ یک میدان نبرد شبیهسازیشده برای آموزش عاملهای هوش مصنوعی در سناریوهای جنگی.
هشدار هینتون را باید جدی گرفت، چون این بار مسئله فقط در مورد جایگزینی شغلها یا دستیارهای هوشمند نیست؛ بحث بر سر بقای بشر است. اگرچه ایدهی خلق یک ویروس توسط ماشین شاید در نگاه اول تخیلی به نظر برسد، اما وقتی با واقعیت توسعه سریع هوش مصنوعی نظامی ترکیب میشود، بیش از پیش رنگ تهدید به خود میگیرد. مشکل اصلی اینجاست که هیچ سازوکار جهانی جدی برای نظارت بر مرزهای اخلاقی و امنیتی هوش مصنوعی وجود ندارد. رقابت جهانی، ما را به سمتی میبرد که شاید وقتی بفهمیم اشتباه کردهایم، خیلی دیر شده باشد.