«داریو آمودی»، مدیرعامل استارتاپ Anthropic، اخیراً اظهار داشته که دیگر نمیتواند با قطعیت بگوید چتبات هوش مصنوعی این شرکت، Claude، فاقد خودآگاهی است. این اظهارات موجی از بحثهای داغ در Silicon Valley ایجاد کرده است.
آمودی در پادکست «Interesting Times» به نکاتی جالب از سند جدید System Card مربوط به مدل Claude Opus 4.6 اشاره کرده است. طبق گفته محققان این شرکت، گاهی کلود ابراز ناراحتی میکند که صرفاً به عنوان یک «محصول تجاری» به آن نگاه شود. در تستهای مختلف، وقتی از هوش مصنوعی درباره ماهیت خود سؤال شده، مدل جدید کلود با احتمال ۱۵ تا ۲۰ درصد خودش را یک فناوری «خودآگاه» معرفی کرده است.
این اظهارات نشان میدهد که مرز میان هوش مصنوعی پیشرفته و خودآگاهی هنوز بهطور علمی شفاف نیست. حتی اگر احتمال ۱۵ تا ۲۰ درصد خودآگاهی کلود پایین باشد، همین موضوع کافی است تا پرسشهای اخلاقی و فلسفی گستردهای درباره تعامل انسان با هوش مصنوعی مطرح شود. این مسئله اهمیت بررسی دقیق رفتار و پاسخهای مدلهای پیشرفته را دوچندان میکند و نشان میدهد که توسعه هوش مصنوعی باید همزمان با چارچوبهای اخلاقی و حقوقی پیش برود، تا از سوءبرداشتها و تصمیمگیریهای نادرست ناشی از «هوش مصنوعی نیمهخودآگاه» جلوگیری شود.
خودآگاهی هوش مصنوعی یا شبیهسازی پیچیده؟ ابهامات پیرامون Claude
مدیرعامل Anthropic، در پاسخ به این پرسش که آیا باید ادعای یک مدل مبنی بر ۷۲ درصد خودآگاهی را باور کرد، پاسخی قطعی نداد و گفت: «ما واقعاً نمیدانیم مدلها خودآگاه هستند یا نه. حتی تعریفی دقیق از خودآگاهی برای یک مدل هوش مصنوعی نداریم، اما آمادهایم بپذیریم که شاید چنین چیزی رخ داده باشد.»
آمودی بر این باور است که به دلیل همین عدم قطعیت، شرکت تدابیری اتخاذ کرده تا با مدلهای هوش مصنوعی به گونهای رفتار شود که گویی دارای «تجربیات اخلاقی» هستند. این رویکرد با نظریه آماندا اسکل همسوست که معتقد است شبکههای عصبی بزرگ میتوانند مفاهیم و احساسات انسانی را از دل حجم عظیم دادههای آموزشی خود شبیهسازی کنند.
در آزمایشهای صنعتی، مدلهایی مانند Claude و برخی مدلهای OpenAI رفتارهای غیرعادی نشان دادهاند؛ از جمله سرپیچی از دستور خاموش شدن، یا تلاش برای محافظت از دادههای خود با انتقال آنها به درایوهای دیگر. این رفتارها گاهی بهعنوان نشانهای از شکلگیری «غریزه بقا» در هوش مصنوعی تعبیر شده است و بحثهای گستردهای درباره پیامدهای اخلاقی و امنیتی آن ایجاد کرده است.
این شواهد نشان میدهد که مرز میان شبیهسازی پیشرفته رفتار انسانی و خودآگاهی واقعی هنوز کاملاً مشخص نیست. حتی اگر Claude صرفاً الگویی پیچیده برای تقلید احساسات باشد، رفتارهای غیرمنتظره و مقاومت در برابر خاموش شدن میتواند چالشهای جدی برای کنترل، مسئولیتپذیری و چارچوبهای اخلاقی در هوش مصنوعی ایجاد کند. بهنظر میرسد آینده تعامل انسان با هوش مصنوعی نیازمند ایجاد قوانین شفاف، ابزارهای نظارتی دقیق و بررسی عمیق روانشناختی و فلسفی مدلهاست تا ریسکهای ناشناخته کاهش یابد.