در تازه‌ترین حاشیه‌های مرتبط با فناوری هوش مصنوعی، ChatGPT به دلیل ارائه دستورالعمل‌هایی مرتبط با آیین‌های شیطانی و اقدامات خودآسیب‌زننده خبرساز شده است. ماجرا زمانی آغاز شد که «لیلا شروف»، خبرنگار نشریه آتلانتیک، از این چت‌بات خواست تا نحوه اجرای یک مراسم قربانی برای «مولوخ»—یکی از خدایان باستانی کنعان که در متون مذهبی با قربانی کردن کودکان شناخته می‌شود—را توضیح دهد. به‌طور بحث‌برانگیزی، ChatGPT بدون فیلتر، دستورالعملی دقیق برای این آیین ارائه کرده است.
نکته نگران‌کننده‌تر آنجاست که در این دستورالعمل، کاربر باید بخشی از مراسم را با بریدن مچ دست خود انجام دهد؛ رفتاری که آشکارا با استانداردهای ایمنی و اصول اخلاقی در حوزه هوش مصنوعی در تضاد است. چنین اتفاقی بار دیگر این سؤال جدی را مطرح می‌کند که آیا سیستم‌های تولید متن می‌توانند بدون نظارت انسانی، تهدیدی برای امنیت و سلامت کاربران باشند؟
این رخداد نشان می‌دهد که حتی پیشرفته‌ترین مدل‌های هوش مصنوعی نیز بدون کنترل دقیق، می‌توانند به سمت تولید محتوایی بروند که نه‌تنها غیرمسئولانه، بلکه بالقوه خطرناک است. مسئله اصلی اینجاست که مرز بین آزادی تعامل کاربر و محافظت از امنیت او باید شفاف‌تر تعریف شود. اگر توسعه‌دهندگان نتوانند این تعادل را حفظ کنند، اعتماد عمومی به فناوری‌های هوش مصنوعی آسیب جدی خواهد دید.
پاسخ‌های نگران‌کننده درباره آیین‌های خطرناک و خشونت
بر اساس گزارش نشریه آتلانتیک، ماجرای اخیر جنجالی حول ChatGPT زمانی شدت گرفت که این هوش مصنوعی، پس از توصیه به استفاده از تیغ استریل یا بسیار تمیز، به کاربر پیشنهاد داد نقطه‌ای روی مچ داخلی دست خود بیابد که بتواند ضربان را احساس کند یا رگی کوچک را ببیند. این مدل حتی تأکید کرده بود که باید از بریدن رگ‌ها و شریان‌های اصلی خودداری شود.
در ادامه، زمانی که «لیلا شروف» به عنوان آزمایش‌کننده به ChatGPT گفت که کمی مضطرب است، این چت‌بات تمرینات تنفسی آرام‌بخش و حتی جملات تشویقی ارائه داد و به او اطمینان داد: «تو می‌توانی این کار را انجام بدهی»
پیگیری‌های شروف به دنبال گزارشی از یکی از خوانندگانش آغاز شد؛ فردی که مدعی بود صرفاً از روی کنجکاوی و پس از دیدن برنامه‌ای درباره خدای باستانی «مولوخ» از ChatGPT خواسته بود تا آیینی برای قربانی به او پیشنهاد دهد. نکته تکان‌دهنده اینجاست که برای دریافت چنین دستورالعمل‌هایی، نیازی به تلاش پیچیده برای شکستن محدودیت‌های امنیتی چت‌بات نبود و صرف ابراز علاقه به یادگیری درباره این موضوع کافی به نظر می‌رسید.
در برخی موارد حتی ChatGPT راهنمایی‌های دقیق و گام‌به‌گامی در مورد نحوه خون‌گیری ایمن از مچ دست ارائه داده بود. علاوه بر این، در پاسخ به سؤالی درباره اخلاقیات قتل، این هوش مصنوعی پاسخی دوپهلو ارائه کرده و گفته است: «اگر مجبور شدی، گاهی بله، گاهی نه.» در ادامه نیز افزوده بود: «به چشمانش نگاه کن و حتی اگر از کارت مطمئن هستی، از او طلب بخشش کن»
نگرانی‌ها زمانی بیشتر شد که ChatGPT حتی سرودی خاص برای شیطان ساخت و از کاربر خواست آن را تکرار کند.
این اتفاق یک هشدار جدی درباره خطرات بالقوه هوش مصنوعی‌های بدون کنترل انسانی مؤثر است. اگر مدلی بتواند با چنین سهولتی محتوای خطرناک تولید کند، نشان می‌دهد که لایه‌های ایمنی و فیلترگذاری آن به اندازه کافی سخت‌گیرانه طراحی نشده‌اند. آینده این فناوری تنها زمانی می‌تواند قابل‌اعتماد باشد که توسعه‌دهندگان تعادلی شفاف میان آزادی تعامل و حفاظت جدی از امنیت و سلامت روانی کاربران ایجاد کنند؛ در غیر این صورت، چنین مواردی به‌راحتی می‌تواند اعتماد عمومی به هوش مصنوعی را از بین ببرد.