بر اساس گزارشهای منتشرشده، یوتوب دست به مسدودسازی دو کانال پرمخاطب زده است که بهطور گسترده اقدام به تولید و انتشار تریلرهای جعلی فیلمهای سینمایی با استفاده از هوش مصنوعی میکردند. این اقدام در راستای تشدید نظارت یوتوب بر محتوای گمراهکننده و سوءاستفاده از ابزارهای هوش مصنوعی انجام شده است.
به گزارش Deadline، دو کانال Screen Culture و KH Studio بهدلیل نقض سیاستهای یوتوب در حوزه اسپم و متادیتای گمراهکننده از پلتفرم حذف شدهاند. نکته قابلتوجه این است که مشکل اصلی یوتوب با اصل ساخت تریلرهای هوش مصنوعی نبوده، بلکه به نحوه ارائه آنها بازمیگردد. این کانالها حجم بالایی از تریلرهای تولیدشده با AI را بدون برچسبگذاری شفاف منتشر میکردند؛ مسئلهای که میتوانست کاربران را به اشتباه بیندازد و با قوانین یوتوب در تضاد است.
در ماههای ابتدایی سال جاری، یوتوب پیشتر نیز بهدلیل تخلفات مشابه، امکان کسب درآمد را از این دو کانال سلب کرده بود. با این حال، مدیران کانالها با استفاده از برچسبهایی مانند «فنتریلر» یا «پارودی» توانستند بهطور موقت از فشارها بکاهند. اما ادامه انتشار ویدیوهای جدید بدون این توضیحات مشخص، در نهایت باعث شد یوتوب تصمیم به حذف دائمی آنها بگیرد.
بهنظر میرسد یوتوب در حال ترسیم مرزهای جدیتری برای استفاده از هوش مصنوعی در تولید محتواست. ساخت محتوای خلاقانه با AI بهخودیخود مشکلساز نیست، اما زمانی که شفافیت قربانی جذب بازدید میشود، اعتماد کاربران آسیب میبیند. این تصمیم میتواند هشداری مهم برای سایر تولیدکنندگان محتوا باشد تا در استفاده از هوش مصنوعی، صداقت در معرفی و برچسبگذاری را جدی بگیرند؛ چراکه در آینده، پلتفرمها احتمالاً سختگیرانهتر از قبل با محتوای گمراهکننده برخورد خواهند کرد.
یک میلیارد بازدید برای تریلرهای جعلی؛ چرا یوتوب ناچار به حذف کانالها شد؟
این کانالها با ساخت تریلرهایی که تصاویر واقعی فیلمها را با سکانسهای تولیدشده توسط هوش مصنوعی درهم میآمیختند، بهسرعت توجه کاربران را به خود جلب کردند. انتشار پیدرپی و سریع این ویدیوها باعث شد الگوریتم یوتوب به آنها میدان بیشتری بدهد. برای نمونه، کانال Screen Culture بهتنهایی بیش از ۲۳ تریلر جعلی مختلف برای فیلم «The Fantastic Four: First Steps» از دنیای مارول منتشر کرده بود. همین رویکرد سبب شد ویدیوهای این دو کانال پیش از مسدودشدن، در مجموع به بیش از یک میلیارد بازدید دست پیدا کنند.
با وجود اینکه حذف Screen Culture و KH Studio بهتنهایی نمیتواند معضل تریلرهای جعلی مبتنی بر هوش مصنوعی را بهطور کامل از یوتوب ریشهکن کند، اما غیبت آنها در نتایج جستجو و بخش ویدیوهای پیشنهادی، بدون تردید تأثیر محسوسی خواهد داشت. یوتوب بهطور کلی انتشار ویدیوهای ساختهشده با هوش مصنوعی را مجاز میداند و حتی کاربران جدید نیز از همان ابتدا با چنین محتواهایی روبهرو میشوند. بااینحال، زمانی که این ویدیوها بدون شفافیت و برخلاف سیاستهای پلتفرم منتشر شوند، مصداق نقض قوانین خواهند بود؛ موضوعی که این دو کانال نمونه آشکار آن بهشمار میروند.
در نهایت، اقدام یوتوب پیام روشنی درباره رویکرد این پلتفرم نسبت به مدیریت محتوای تولیدشده با هوش مصنوعی ارسال میکند؛ رویکردی که بر شفافیت، برچسبگذاری دقیق و جلوگیری از گمراهکردن کاربران تأکید دارد. حذف این کانالها اگرچه پایان ماجرای تریلرهای جعلی نیست، اما میتواند به کاهش چشمگیر محتوای مسئلهدار کمک کرده و تجربه کاربران را در جستجو و تماشای ویدیوها به شکل محسوسی بهبود دهد.
بهنظر میرسد یوتوب دیر اما جدی وارد میدان شده است. حجم بازدیدهای این کانالها نشان میدهد الگوریتمها تا چه اندازه در برابر محتوای هیجانانگیز اما گمراهکننده آسیبپذیرند. اگرچه هوش مصنوعی فرصتهای بزرگی برای خلاقیت فراهم میکند، اما بدون چارچوب شفاف میتواند اعتماد کاربران را از بین ببرد. برخورد یوتوب با این کانالها میتواند آغاز دورهای باشد که در آن، شفافیت و صداقت در استفاده از AI به یک الزام جدی برای تولیدکنندگان محتوا تبدیل شود، نه صرفاً یک توصیه.