شرکت OpenAI اعلام کرده است که تولید ویدیوهایی با چهره‌ی مارتین لوتر کینگ جونیور، فعال برجسته حقوق مدنی آمریکا، از طریق مدل هوش مصنوعی Sora تا اطلاع ثانوی متوقف می‌شود.
در بیانیه‌ای که این شرکت در حساب رسمی خود در شبکه‌ی ایکس منتشر کرده، آمده است:
»با اینکه بازآفرینی چهره شخصیت‌های تاریخی می‌تواند از منظر آزادی بیان ارزشمند باشد، اما ما باور داریم که افراد عمومی و خانواده‌های آنان باید اختیار کامل در کنترل نحوه استفاده از چهره خود را داشته باشند. «
OpenAI همچنین اعلام کرده که صاحبان حقوق یا نمایندگان قانونی می‌توانند از طریق بخش «Cameo» در برنامه Sora درخواست کنند تا از چهره آن‌ها در هیچ محتوایی استفاده نشود.
این تصمیم تنها چند هفته پس از عرضه عمومی پلتفرم Sora اتخاذ شده است؛ پلتفرمی که به کاربران امکان می‌دهد ویدیوهای بسیار واقع‌گرایانه‌ای با بهره‌گیری از چهره‌های تاریخی یا بازآفرینی چهره خود بسازند. عرضه این فناوری موجی از نگرانی‌ها را درباره مرزهای اخلاقی، حفظ حریم شخصی و سوء‌استفاده از چهره افراد در محتوای جعلی برانگیخت.
این اقدام OpenAI را می‌توان گامی مسئولانه در جهت حفظ حرمت و حقوق شخصیت‌های تاریخی دانست. هرچند فناوری‌های نوینی مانند Sora مرزهای خلاقیت و بازآفرینی هنری را گسترش می‌دهند، اما بدون چارچوب‌های اخلاقی و قانونی، ممکن است به ابزارهایی برای تحریف تاریخ یا سوء‌استفاده از چهره انسان‌ها تبدیل شوند. تصمیم اخیر نشان می‌دهد که حتی در دنیای هوش مصنوعی، احترام به انسانیت همچنان باید در اولویت باشد.
شکایت از Sora؛ وقتی چهره‌های درگذشته دوباره زنده می‌شوند
دکتر برنیس کینگ، دختر مارتین لوتر کینگ جونیور، هفته گذشته در پستی در اینستاگرام از کاربران خواست تا دیگر برای او ویدیوهای تولیدشده با هوش مصنوعی از چهره‌ی پدرش را ارسال نکنند. او به همراه دختر رابین ویلیامز، بازیگر محبوب هالیوود، خواستار توقف ساخت این‌گونه محتواها شدند و نسبت به سوء‌استفاده از تصویر عزیزان درگذشته خود هشدار دادند.
به گزارش واشنگتن پست، برخی کاربران پلتفرم Sora ویدیوهایی توهین‌آمیز ساخته‌اند که در آن‌ها مارتین لوتر کینگ حرکاتی مضحک انجام می‌دهد یا با مالکوم ایکس، چهره‌ی شناخته‌شده‌ی حقوق مدنی، درگیر می‌شود. در این اپ حتی ویدیوهایی از چهره‌های تاریخی دیگری مانند باب راس، ویتنی هیوستون و جان اف. کندی نیز یافت می‌شود.
نکته عجیب‌تر آن است که طبق سیاست‌های اولیه Sora، ساخت ویدیو از سلبریتی‌های زنده ممنوع است، اما تولید محتوا با چهره‌ی افراد درگذشته آزاد گذاشته شده بود. پس از بالا گرفتن انتقادها، OpenAI اعلام کرد که در حال ایجاد تغییراتی برای کنترل دقیق‌تر بر ویدیوهای ساخته‌شده با چهره‌ی افراد است؛ تغییری که به نظر می‌رسد پاسخی مستقیم به اعتراض هنرمندان و خانواده‌های چهره‌های مشهور، به‌ویژه از صنعت هالیوود، باشد.
موضوع بازآفرینی دیجیتالی چهره‌ی انسان‌ها، به‌ویژه افراد درگذشته، مرز باریکی میان نوآوری و بی‌احترامی است. هرچند فناوری‌هایی مانند Sora می‌توانند ابزاری برای خلق آثار هنری یا آموزشی باشند، اما وقتی چهره‌ی یک شخصیت واقعی بدون رضایت خانواده یا وارثانش در موقعیت‌های تحقیرآمیز به تصویر کشیده می‌شود، اخلاق و کرامت انسانی زیر سؤال می‌رود. شرکت‌هایی مانند OpenAI باید فراتر از پیشرفت فنی، به مسئولیت اجتماعی و اخلاقی خود در قبال حافظه‌ی تاریخی بشر نیز پایبند بمانند.