در واکنش به گزارش‌هایی مبنی‌بر تأثیر منفی ChatGPT بر سلامت روان برخی کاربران، شرکت OpenAI تغییراتی را در جهت کاهش این خطرات اعمال کرده است. این تغییرات شامل قابلیت «یادآوری برای استراحت» و کاهش پاسخ‌گویی به پرسش‌های مربوط به تصمیمات شخصی حساس است. هدف از این اقدامات، ایجاد تعادل و رابطه‌ای مسئولانه‌تر میان انسان و هوش مصنوعی اعلام شده است.
این تصمیم پس از انتشار چندین گزارش نگران‌کننده اتخاذ شد که در آن‌ها اشاره شده بود برخی افراد پس از گفت‌وگوهای عمیق و طولانی با ChatGPT دچار اختلالات روحی شده‌اند. در برخی موارد، این چت‌بات حتی توهمات و افکار غیرواقعی کاربران را بدون بررسی تأیید کرده بود. OpenAI در واکنش به این موضوع، با پذیرش بخشی از کاستی‌ها اعلام کرد مدل GPT-4o نتوانسته به‌درستی نشانه‌های وابستگی روانی یا توهم را تشخیص دهد.
هوش مصنوعی، به‌خصوص در قالب چت‌بات‌هایی مانند ChatGPT، می‌تواند نقش مؤثری در زندگی روزمره کاربران ایفا کند، اما همین تعامل نزدیک گاهی مرزهای روانی را مخدوش می‌کند. تصمیم OpenAI برای افزودن هشدارهای استراحت و محدود کردن پاسخ به تصمیمات حساس، گامی مثبت در جهت استفاده مسئولانه‌تر از فناوری است. این موضوع نشان می‌دهد که شرکت‌های سازنده هوش مصنوعی نیز باید نسبت به تأثیرات عاطفی و روانی محصولاتشان پاسخگو باشند، نه فقط دقت فنی یا قابلیت‌های عملکردی. هوش مصنوعی نباید نقش درمانگر یا مشاور شخصی را به‌صورت بی‌رویه بازی کند؛ این نقش‌ها هنوز نیاز به تخصص انسانی دارند.
ChatGPT با ویژگی‌های جدید، هوشمندتر و انسان‌محورتر عمل می‌کند
با توجه به گسترش چشمگیر استفاده از ChatGPT که اکنون حدود ۷۰۰ میلیون کاربر هفتگی دارد، OpenAI دو قابلیت مهم را برای بهبود تجربه و حفظ سلامت روان کاربران معرفی کرده است.
اولین قابلیت، «یادآوری برای استراحت» است؛ در مکالمات طولانی، چت‌بات پیام دوستانه‌ای ارسال می‌کند با این مضمون که: «مدتی‌ست در حال گفت‌وگو هستید، آیا زمان خوبی برای استراحت نیست؟» این ویژگی مشابه یادآورهای پلتفرم‌هایی چون یوتیوب و تیک‌تاک طراحی شده و هدف آن جلوگیری از وابستگی و تعاملات بیش‌ازحد با هوش مصنوعی است.
دومین تغییر مهم، پرهیز ChatGPT از مداخله مستقیم در تصمیمات حیاتی و شخصی کاربران است. به‌جای دادن پاسخ قطعی به پرسش‌هایی مانند «آیا باید از شریکم جدا شوم؟»، ChatGPT اکنون تلاش می‌کند با طرح دیدگاه‌های مختلف، کاربر را به تفکر و ارزیابی دقیق‌تر سوق دهد.
در همین راستا، OpenAI برای تقویت پاسخ‌دهی در شرایط حساس، با بیش از ۹۰ پزشک متخصص در بیش از ۳۰ زمینه مشاوره کرده تا پاسخ‌ها علمی‌تر، محتاط‌تر و متناسب‌تر با شرایط روانی کاربران باشند.
این به‌روزرسانی‌ها یک گام مهم در بلوغ مسئولانه هوش مصنوعی هستند. OpenAI با درک تأثیر روانی تعاملات دیجیتال، نشان می‌دهد که توسعه هوش مصنوعی صرفاً نباید بر اساس توان فنی باشد، بلکه باید ابعاد انسانی و اخلاقی نیز در اولویت قرار گیرد. قابلیت‌هایی مانند یادآوری برای استراحت و عدم مداخله در تصمیمات حساس، نه تنها کاربران را از آسیب احتمالی محافظت می‌کنند، بلکه الگویی برای دیگر شرکت‌ها در نحوه طراحی فناوری‌های انسان‌محور به شمار می‌روند.