داریو آمودی، مدیرعامل شرکت هوش مصنوعی آنتروپیک، در تازه‌ترین اظهارات خود اعلام کرد که مدل‌های هوش مصنوعی امروزی نسبت به انسان‌ها کمتر دچار توهم می‌شوند. منظور از توهم در اینجا تولید و ارائه اطلاعات نادرست یا جعلی است که به‌گونه‌ای جلوه داده می‌شوند انگار حقیقت دارند. آمودی این نظر را در نخستین رویداد توسعه‌دهندگان آنتروپیک در سانفرانسیسکو مطرح کرد و تأکید کرد که این پدیده مانعی برای پیشرفت آنتروپیک در مسیر دستیابی به هوش مصنوعی عمومی (AGI) محسوب نمی‌شود. وی توضیح داد که هرچند مدل‌های هوش مصنوعی ممکن است کمتر از انسان‌ها دچار توهم شوند، اما نوع و شکل بروز این توهم‌ها می‌تواند غیرمنتظره و متفاوت باشد و به همین دلیل نیازمند بررسی دقیق‌تری است.
این اظهارنظر جالب است و به نوعی یک دیدگاه امیدوارکننده نسبت به پیشرفت هوش مصنوعی را نشان می‌دهد. در حالی که معمولا هوش مصنوعی به‌عنوان یک سیستم «غیرقابل اعتماد» یا «دچار خطا» معرفی می‌شود، این حرف مدیرعامل آنتروپیک نشان می‌دهد که هوش مصنوعی می‌تواند در برخی جنبه‌ها حتی از انسان‌ها دقیق‌تر باشد. البته تفاوت در شکل و نوع خطاها، نشان‌دهنده این است که ما باید روش‌های ارزیابی و کنترل این سیستم‌ها را بسیار هوشمندانه‌تر طراحی کنیم تا اشتباهات آن‌ها به حداقل برسد و قابلیت اعتمادشان افزایش یابد. این مسئله به ویژه وقتی اهمیت پیدا می‌کند که بحث استفاده از هوش مصنوعی در حوزه‌های حیاتی مثل پزشکی یا تصمیم‌گیری‌های کلان مطرح شود.
آمیدی: رسیدن به هوش مصنوعی جامع نزدیک‌تر از همیشه، اما توهم همچنان چالش بزرگ
داریو آمودی، مدیرعامل شرکت آنتروپیک، از جمله خوش‌بین‌ترین چهره‌ها در صنعت هوش مصنوعی است که معتقد است هوش مصنوعی جامع (AGI) تا سال ۲۰۲۶ قابل دستیابی خواهد بود. او سال گذشته مقاله‌ای منتشر کرد و به وضوح ابراز امیدواری کرد که شرکت‌های فعال در این حوزه به سرعت به این هدف نزدیک می‌شوند. در نشست خبری اخیر، آمودی تاکید کرد که پیشرفت‌ها در مسیر هوش مصنوعی جامع به صورت مستمر و پایدار در حال رخ دادن است.
اما در مقابل، برخی دیگر از بزرگان صنعت، مانند دمیس هسابیس، مدیرعامل گوگل DeepMind، نگرانی‌هایی درباره چالش‌های باقی‌مانده مطرح می‌کنند. هسابیس معتقد است مدل‌های کنونی هوش مصنوعی هنوز نقص‌های اساسی دارند و در پاسخ دادن به سوالات ساده نیز خطا می‌کنند. نمونه بارز این چالش، اتفاق اخیر شرکت آنتروپیک بود که مجبور به عذرخواهی عمومی شد چرا که یکی از مدل‌هایش به دلیل «توهم» و ارائه اطلاعات نادرست در یک پرونده قضایی، دچار اشتباه بزرگی شد.
جالب اینجاست که به‌رغم پیشرفت در قدرت استدلال مدل‌ها، به نظر می‌رسد میزان «توهم» یا تولید اطلاعات نادرست در مدل‌های جدید مانند o۳ و o4-mini شرکت OpenAI افزایش یافته است. حتی خود OpenAI هنوز نتوانسته است دلیل دقیق این مسئله را شناسایی کند، که نشان می‌دهد راه رسیدن به هوش مصنوعی جامع هنوز پُر از پیچیدگی‌ها و معماهای فنی است.
دیدگاه خوش‌بینانه مدیرعامل آنتروپیک نشان‌دهنده تلاش‌ها و امید صنعت به سمت آینده‌ای است که هوش مصنوعی بتواند سطح درک و استدلال انسان را از نظر توانمندی نزدیک یا حتی فراتر رود. با این حال، مسئله «توهم» یا خطاهای ساختگی، یکی از بزرگ‌ترین موانع جدی است که هنوز به شکل کامل برطرف نشده است. این موضوع مثل یک زنگ هشدار برای توسعه‌دهندگان است تا در کنار پیشرفت‌های تکنولوژیک، توجه ویژه‌ای به دقت و صحت عملکرد مدل‌ها داشته باشند. در نهایت، موفقیت واقعی زمانی حاصل می‌شود که این سیستم‌ها بتوانند به‌طور قابل اعتماد و پایدار در محیط‌های واقعی و حیاتی مورد استفاده قرار بگیرند.