بیش از ۲۰۰ متخصص برجسته و چهره سرشناس دنیای فناوری، از جمله جفری هینتون، پدرخوانده هوش مصنوعی، و یکی از بنیانگذاران OpenAI، با امضای یک فراخوان مشترک خواستار تعیین «خطوط قرمز بینالمللی» برای استفاده از هوش مصنوعی شدند. منظور از این خطوط قرمز اقداماتی است که باید بهطور مطلق خارج از توانایی و مجوز هوش مصنوعی باقی بمانند؛ یعنی وظایفی که هیچ شرایطی نباید به ماشینها سپرده شود.
این حرکت که با عنوان » فراخوان جهانی برای خطوط قرمز هوش مصنوعی« معرفی شده، از دولتها میخواهد تا پایان سال ۲۰۲۶ به توافقی بینالمللی دست یابند و مشخص کنند که فناوریهای هوش مصنوعی هرگز نباید در چه حوزههایی وارد عمل شوند. اهمیت این اقدام در آن است که برای نخستینبار، مجموعهای چنین گسترده و متنوع از پژوهشگران، دانشمندان و حتی مدیران شرکتهای رقیب مانند OpenAI و Anthropic، بر سر ضرورت وضع محدودیتهای جهانی به اجماع رسیدهاند. هدف این فراخوان صرفاً واکنش به بحرانهای احتمالی آینده نیست، بلکه پیشگیری پیشدستانه از بروز چنین فجایعی است.
در همین زمینه، «شاربل-رافائل سژری»، مدیر اجرایی مرکز ایمنی هوش مصنوعی فرانسه، تأکید میکند: » اگر ملتها هنوز نمیتوانند درباره آنچه میخواهند با هوش مصنوعی انجام دهند به توافق برسند، حداقل باید بر سر آنچه این فناوری هرگز نباید انجام دهد، همصدا شوند«.
این فراخوان میتواند نقطه عطفی در تاریخ توسعه هوش مصنوعی باشد. واقعیت این است که رقابت تجاری شرکتها و منافع سیاسی کشورها، اغلب مانع شکلگیری چارچوبهای مشترک میشود. اما اگر جامعه جهانی بتواند بر سر خطوط قرمز مشترکی به توافق برسد، قدمی اساسی برای مهار خطرات بنیادین برداشته خواهد شد. شخصاً معتقدم این موضوع تنها یک ضرورت فناورانه نیست، بلکه به نوعی وظیفه اخلاقی بشریت است؛ چراکه آینده هوش مصنوعی دیگر صرفاً مسئلهای تکنولوژیک نیست، بلکه مستقیماً به امنیت، آزادی و کرامت انسانها گره خورده است.
خطوط قرمز جهانی برای مهار خطرات هوش مصنوعی
هرچند تعیین فهرست نهایی خطوط قرمز باید در جریان مذاکرات بینالمللی انجام گیرد، اما امضاکنندگان این فراخوان جهانی چند نمونه کلیدی را بهعنوان مرزهای غیرقابل عبور مطرح کردهاند. از جمله، توسعه سیستمهای هوش مصنوعی که بتوانند بهطور مستقل و بدون نظارت انسانی تکثیر شوند یا الگوریتمهایی که بهگونهای عمل کنند که نتوان آنها را از یک انسان واقعی تشخیص داد. مورد دوم بهویژه در حوزه جعل هویت و انتشار اطلاعات جعلی خطری جدی تلقی میشود.
این گروه همچنین تأکید کردهاند که سیاستهای داخلی شرکتها و «تعهدات داوطلبانه» آنها هرگز نمیتواند ضامن ایمنی کافی باشد، زیرا فاقد قدرت اجرایی واقعی است. به باور آنان، جهان به یک نهاد مستقل و فراملی نیاز دارد که وظیفه تعریف، اجرا و نظارت بر این خطوط قرمز را برعهده گیرد و اطمینان حاصل کند که تمامی بازیگران این عرصه، فارغ از منافع اقتصادی یا سیاسی، به قوانین پایبند هستند.
با این حال، یکی از انتقادات رایج مخالفان چنین قوانین سختگیرانهای آن است که شاید این محدودیتها مسیر نوآوری را سد کنند. اما استوارت راسل، استاد علوم کامپیوتر دانشگاه برکلی و یکی از چهرههای اصلی این فراخوان، با قاطعیت این دیدگاه را رد میکند. او بر این باور است که جهان میتواند از مزایای اقتصادی و علمی هوش مصنوعی بهرهمند شود، بیآنکه نیازی به ساخت سامانههای AGI غیرقابلکنترل باشد.
دغدغه اصلی اینجاست که اگرچه تعیین خطوط قرمز ممکن است در ظاهر نوعی محدودیت بر آزادی نوآوری به نظر برسد، اما در واقع میتواند شرط لازم برای تداوم نوآوری پایدار باشد. بدون وجود مرزهای مشخص، خطر انحراف فناوری از کنترل بشر بیش از حد واقعی است. بهویژه در موضوعاتی مانند تکثیر خودکار یا جعل هویت انسانی، حتی یک خطای کوچک میتواند پیامدهای جبرانناپذیری بهدنبال داشته باشد. شخصاً اعتقاد دارم وجود یک نهاد بینالمللی برای نظارت بر این موضوع نه یک انتخاب، بلکه ضرورتی اجتنابناپذیر است.