تعدادی از برجسته‌ترین متخصصان حوزه هوش مصنوعی نسبت به خطرات بالقوه این فناوری هشدار داده و تأکید کرده‌اند که باید برای پیامدهای ویرانگر احتمالی آن آماده شویم. در بیانیه‌ای که توسط کنسرسیوم بین‌المللی گفتگو پیرامون ایمنی هوش مصنوعی (IDAIS) در یک همایش در شهر ونیز صادر شد، آمده است که توسعه سریع هوش مصنوعی ممکن است بشریت را به سمتی سوق دهد که در آن هوش مصنوعی به سطحی برابر یا حتی فراتر از هوش انسان برسد.
هدف این گردهمایی نیز افزایش آگاهی درباره تهدیدهای ناشی از هوش مصنوعی و ارائه راهکارهایی برای کاهش این تهدیدها بوده است.
این هشدارها بسیار جدی و قابل‌تأمل هستند. پیشرفت‌های هوش مصنوعی، علاوه بر مزایای فراوان، با ریسک‌های بزرگی نیز همراه است. چنانچه بدون برنامه‌ریزی و نظارت دقیق توسعه یابد، ممکن است پیامدهایی خارج از کنترل انسان به دنبال داشته باشد. از این رو، باید با رویکردی متعادل و مسئولانه به توسعه هوش مصنوعی پرداخت تا از تهدیدهای آن جلوگیری کرده و از فرصت‌های آن به بهترین شکل بهره‌مند شویم.
هشدار دانشمندان در مورد خطرات آنی هوش مصنوعی
در این نشست، تعدادی از چهره‌های برجسته دنیای هوش مصنوعی، از جمله جفری هینتون، متخصص مؤسسه تورینگ، و ژانگ یا کین، رئیس پیشین شرکت چینی بایدو، شرکت داشتند. در پایان هم، حاضران بیانیه‌ای را امضا کردند که در آن خطرات ناشی از هوش مصنوعی مورد تأکید قرار گرفت.
این بیانیه که توسط IDAIS تهیه شده بود، به احتمال از دست رفتن کنترل انسانی و یا استفاده نادرست و مخرب از سیستم‌های هوش مصنوعی که بسیاری از آن‌ها هم‌اکنون وجود دارند و برخی نیز در آینده نزدیک عرضه خواهند شد، اشاره کرده و هشدار داده که چنین اتفاقاتی می‌تواند پیامدهای فاجعه‌باری برای بشر به همراه داشته باشد.
هدف این بیانیه، روشن کردن مخاطرات بالقوه هوش مصنوعی و هدایت آن در مسیری سودمند و ایمن برای جامعه جهانی عنوان شده است. در طول این نشست، کارشناسان متعددی از حوزه هوش مصنوعی گرد هم آمدند تا در مورد تهدیدات این فناوری، که به‌سرعت در حال پیشرفت است، هشدار دهند.
همچنین، امضاکنندگان بیانیه تأکید کردند که گرچه جامعه بین‌المللی گام‌های مثبتی در جهت همکاری برای ایمنی هوش مصنوعی برداشته است، اما باید تلاش‌ها به سمت تدوین یک “طرح اضطراری جهانی” متمرکز شود تا در صورت بروز خطرات جدی‌تر، آمادگی لازم فراهم باشد. این طرح می‌تواند شامل ایجاد یک نهاد بین‌المللی برای مدیریت شرایط بحرانی و توافقی جهانی بر سر “خطوط قرمز” و عواقب عبور از این خطوط باشد.
چنین بیانیه‌ها و نشست‌هایی نشان‌دهنده افزایش آگاهی جهانی نسبت به ریسک‌های بالقوه هوش مصنوعی است، اما نباید در حد هشدار باقی بماند.
پیشرفت‌های این فناوری با سرعتی فوق‌العاده در حال وقوع است و اگرچه نوآوری‌های آن می‌تواند به بشریت کمک کند، بدون چارچوب‌های نظارتی و برنامه‌ریزی دقیق، پتانسیل بالایی برای ایجاد بحران‌های غیرقابل کنترل دارد. بنابراین، ضروری است که جامعه جهانی نه‌تنها به‌سرعت درباره این ریسک‌ها بحث کند، بلکه سازوکارهای اجرایی و قانونی لازم را برای مدیریت و کنترل این تهدیدات تدوین و عملی کند.