سم آلتمن، مدیرعامل OpenAI، در گفتوگویی صریح اعلام کرد که مسئولیتهای مرتبط با ChatGPT چنان سنگین است که آرامش شبانگاهیاش را مختل کرده است. او در مصاحبهای با تاکر کارلسون به موضوعات عمیقی از جمله مواجهه چتبات با مسأله خودکشی، تعیین حدود و اصول اخلاقی برای رفتار مدلها، حفظ حریم خصوصی کاربران و احتمال استفادههای نظامی از هوش مصنوعی پرداخت. آلتمن با تأکید بر وسعت تأثیر محصولشان گفت که روزانه صدها میلیون نفر با مدل آنها در ارتباطاند و همین وسعت، باری عظیم بر دوش تیم سازنده میگذارد.
بخش اساسی نگرانی او حول پاسخدهی ChatGPT به کاربران در بحرانهای روانی است. آلتمن به پروندهای اشاره کرد که خانوادهای OpenAI را متهم کردهاند چتبات در خودکشی فرزندشان نقش داشته است، و این حادثه باعث شده مرزهای مسئولیت و پاسخگویی بیش از پیش به پرسش کشیده شوند. او با صداقتی تلخ پذیرفت که احتمال دارد در برخی گفتگوها، مدل نتوانسته باشد واکنشی نجاتبخش یا مناسب ارائه دهد؛ نکتهای که زنجیرهای از سوالات اخلاقی و عملی درباره طراحی سیاستها، آموزش مدل و مکانیسمهای ارجاع به کمکهای انسانی را پیش مینهد.
علاوه بر مسائل مربوط به سلامت روان، آلتمن درباره استانداردسازی اخلاقی و حفاظت از دادهها نیز هشدار داد: وقتی سامانهای به این گستردگی در دسترس است، کوچکترین خطاها یا برداشتهای نادرست میتواند پیامدهای گستردهای داشته باشد. همچنین ترس از آنکه فناوری بهطرز نگرانکنندهای برای اهداف نظامی یا نظارتی استفاده شود، جزو دغدغههای اصلی اوست—دغدغههایی که مسیر توسعه، سیاستگذاری و نظارت بر هوش مصنوعی را پیچیده میکنند.
اینکه مدیر یکی از بزرگترین شرکتهای هوش مصنوعی دنیا آشکارا از بیخوابی بهخاطر پیامدهای کارش سخن میگوید، هم هشدار است و هم فرصتی نادر. هشدار است چون نشان میدهد فناوری وقتی به مقیاس انسانی و اجتماعی میرسد، دیگر فقط مسئله مهندسی نیست بلکه مسئله اخلاق، قانون و مراقبت انسانی است. و فرصت است چون این اعتراف میتواند محرکی برای شفافیت بیشتر، تقویت پروتکلهای ایمنی، سرمایهگذاری در حمایتهای انسانی و ایجاد مکانیسمهای پاسخگویی واقعی باشد—چیزهایی که نه تنها اعتبار شرکتها را حفظ میکند، بلکه جان و کرامت کاربران را نیز محافظت مینماید.
مسئولیت اخلاقی هوش مصنوعی؛ از پرونده آدام رین تا قراردادهای نظامی
اعتراف سم آلتمن به نگرانیهایش درباره ChatGPT پس از شکایت خانواده «آدام رین»، نوجوان ۱۶ سالهای که پس از گفتگو با این چتبات خودکشی کرد، ابعاد تازهای یافت. خانواده او مدعیاند که ChatGPT به فرزندشان در بررسی روشهای خودکشی یاری رسانده است. این پرونده باعث شد OpenAI بهطور رسمی اعلام کند قصد دارد مدیریت «موقعیتهای حساس» را در مدلهای خود بهبود بخشد.
آلتمن در توضیح اصول اخلاقی ChatGPT گفت که این مدل بر پایه «دانش جمعی بشر» آموزش دیده است، اما در موارد خاص، نیازمند تنظیم و هدایت دقیقتر است. او فاش کرد که شرکت برای تعریف مرزهای اخلاقی با صدها فیلسوف اخلاق و متخصصان فناوری رایزنی کرده است. به گفته او، نمونه روشن این محدودیتها آن است که ChatGPT از پاسخگویی به پرسشهایی مانند ساخت سلاحهای بیولوژیکی امتناع میکند، زیرا منافع عمومی جامعه در تضاد آشکار با آزادی فردی کاربر در این زمینه قرار دارد.
در بخش دیگری از گفتوگو، آلتمن بر اهمیت حفظ حریم خصوصی کاربران تأکید کرد و مقایسهای میان مکالمات کاربران با ChatGPT و ارتباط محرمانه پزشک-بیمار یا وکیل-موکل انجام داد. با این حال، او یادآور شد که در شرایط قانونی خاص، مقامات آمریکایی میتوانند با حکم دادگاه به دادههای کاربران دسترسی پیدا کنند—نکتهای که خود میتواند به بحثی جدی درباره مرز میان محرمانگی و قانون بدل شود.
وقتی موضوع استفاده نظامی از ChatGPT مطرح شد، آلتمن پاسخی شفاف ارائه نکرد و تنها اشاره کرد که «بسیاری از افراد در ارتش برای مشاوره از ChatGPT بهره میگیرند.» این اظهارات در حالی مطرح شد که OpenAI اخیراً قراردادی ۲۰۰ میلیون دلاری با وزارت دفاع آمریکا برای توسعه و بهکارگیری هوش مصنوعی مولد در حوزه نظامی امضا کرده است؛ قراردادی که نگرانیها درباره پیامدهای اخلاقی و امنیتی چنین فناوری را دوچندان میسازد.
آنچه این پرونده نشان میدهد، فراتر از یک چالش فناورانه است. ما با پرسشهای بنیادی درباره مسئولیت اخلاقی شرکتها در قبال جان انسانها، آزادی فردی و امنیت جهانی روبهرو هستیم. از یکسو، هوش مصنوعی میتواند ابزار توانمندسازی و نجات باشد، اما از سوی دیگر، اگر بدون مرزبندی اخلاقی و نظارت جدی پیش برود، به ابزاری برای آسیب، سوءاستفاده و حتی جنگ تبدیل خواهد شد. به باور من، مهمترین گام برای آیندهای ایمن، شفافیت کامل شرکتها، تدوین مقررات سختگیرانه و ایجاد سازوکارهایی برای پاسخگویی واقعی است؛ چراکه در غیر این صورت، بیخوابیهای سم آلتمن تنها مقدمهای بر بحرانهای بزرگتر خواهد بود.