سم آلتمن، مدیرعامل شرکت OpenAI، در گفت‌وگویی تازه هشدار داده است که صنعت هوش مصنوعی هنوز به مرحله‌ای نرسیده که بتواند حریم خصوصی کامل کاربران را در مکالمات حساس تضمین کند. او تأکید کرده است که زمانی که افراد از چت‌بات‌هایی مانند ChatGPT برای دریافت حمایت احساسی یا حتی مشاوره شبه‌درمانی استفاده می‌کنند، نباید انتظار محرمانگی مشابه روابط پزشک و بیمار را داشته باشند.
آلتمن در قسمت جدید پادکست «This Past Weekend» به این موضوع اشاره کرده که نبود یک چارچوب حقوقی مشخص برای تعاملات کاربران با هوش مصنوعی، باعث می‌شود این گفتگوها از نظر قانونی هیچ‌گونه حمایت محرمانه‌ای نداشته باشند.
او در ادامه گفته است:
«کاربران، به‌ویژه نسل جوان، خصوصی‌ترین مسائل زندگی خود را با ChatGPT در میان می‌گذارند و از آن به‌عنوان نوعی درمانگر یا مشاور شخصی استفاده می‌کنند. اما در حالی‌که مکالمات شما با یک روان‌درمانگر، وکیل یا پزشک واقعی تحت حمایت قوانین محرمانگی قرار دارد، چنین حفاظتی در استفاده از چت‌بات‌ها وجود ندارد.»
به گفته آلتمن، این موضوع می‌تواند در مواقع بروز پرونده‌های حقوقی یا درخواست‌های قانونی به یک چالش بزرگ در زمینه حریم خصوصی داده‌ها تبدیل شود، زیرا شرکت OpenAI در صورت الزام قانونی موظف است محتوای برخی گفتگوها را ارائه دهد.
این هشدار نشان می‌دهد که استفاده از ابزارهای هوش مصنوعی در حوزه‌های حساس شخصی، بدون در نظر گرفتن محدودیت‌های قانونی و فنی، می‌تواند تبعات جدی داشته باشد. کاربران باید بدانند ChatGPT یک ابزار هوش مصنوعی است، نه یک درمانگر یا وکیل واقعی، و نباید اطلاعاتی را که انتشار آن می‌تواند برایشان خطرساز باشد، در چنین سیستم‌هایی وارد کنند. تا زمانی که چارچوب‌های حقوقی و استانداردهای امنیتی مشخصی برای این فناوری تدوین نشود، بهتر است تعاملات حساس با آن محدود و کنترل‌شده باقی بماند.
هشدار آلتمن درباره خطرات حقوقی در اشتراک‌گذاری اطلاعات حساس با ChatGPT
آلتمن در بخش دیگری از اظهارات خود تأکید کرده است:
اگر کاربری درباره موضوعی بسیار حساس با ChatGPT صحبت کند و بعدها درگیر یک پرونده حقوقی شود، ممکن است ما از نظر قانونی ملزم به ارائه آن اطلاعات باشیم. به‌نظر من این مسئله نگران‌کننده است و مکالمات کاربران با چت‌بات‌ها باید همان سطح از حریم خصوصی را داشته باشد که در تعامل با یک پزشک یا درمانگر انتظار می‌رود.
نمونه‌ای از این چالش حقوقی هم‌اکنون در جریان است. شرکت OpenAI در پرونده‌ای مرتبط با نیویورک‌تایمز در حال مقابله با حکمی است که این شرکت را مجبور می‌کند مکالمات صدها میلیون کاربر ChatGPT در سراسر جهان—به‌جز کاربران نسخه Enterprise— را ذخیره کند. OpenAI در بیانیه‌ای رسمی که در وب‌سایت خود منتشر کرده است، این درخواست را «زیاده‌خواهانه» توصیف و اعلام کرده که به‌شدت با آن مخالفت خواهد کرد.
این موضوع نشان می‌دهد که چالش اصلی هوش مصنوعی تنها مسائل فنی نیست، بلکه بعد حقوقی و حریم خصوصی کاربران اهمیت حیاتی دارد. اگر شرکت‌های توسعه‌دهنده نتوانند تضمین‌های قوی‌تری برای حفظ داده‌ها ارائه دهند، اعتماد عمومی به این فناوری به‌راحتی آسیب خواهد دید. به‌ویژه در دورانی که استفاده از چت‌بات‌ها به بخشی از زندگی روزمره بسیاری از افراد تبدیل شده است، ایجاد یک چارچوب قانونی مشخص و شفاف برای محافظت از اطلاعات شخصی یک ضرورت اجتناب‌ناپذیر است.