گروهی از پژوهشگران برجسته حوزه هوش مصنوعی هشدار دادهاند که در صورت بیتوجهی به رشد و گسترش باتهای مبتنی بر هوش مصنوعی، بنیانهای دموکراسی با چالشی جدی مواجه خواهد شد. به باور این محققان، نسل تازهای از عاملهای هوشمند میتوانند در شبکههای اجتماعی بهصورت سازمانیافته و در مقیاس گسترده وارد میدان شوند و با دستکاری جریان اطلاعات، افکار عمومی را منحرف کنند.
این هشدار از سوی جمعی بینالمللی از متخصصان، از جمله ماریا رسا ــ روزنامهنگار و برنده جایزه صلح نوبل ــ و پژوهشگرانی از دانشگاههای معتبر جهان نظیر دانشگاه کالیفرنیا، برکلی، دانشگاه هاروارد، دانشگاه آکسفورد، دانشگاه کمبریج و دانشگاه ییل مطرح شده است. آنان در مقالهای که در نشریه علمی Science منتشر شده، تصریح کردهاند که «ارتش باتهای هوش مصنوعی» میتواند با نفوذ هدفمند به شبکههای اجتماعی و پیامرسانها، روندهای دموکراتیک را دچار اخلال کند.
به اعتقاد نویسندگان این مقاله، این سامانهها قادرند بهطور خودکار و هماهنگ وارد جوامع آنلاین شوند، روایتهای خاص را تقویت کنند و نوعی «اجماع مصنوعی» بسازند؛ اجماعی که در ظاهر مردمی و طبیعی بهنظر میرسد، اما در واقع حاصل طراحی الگوریتمی و عملیات سازمانیافته است. این عاملهای هوشمند با تقلید از رفتار، لحن و الگوهای تعاملی انسانها، مرز میان کاربر واقعی و حساب ماشینی را کمرنگ میکنند و بدین ترتیب فضای عمومی را بهسوی دستکاریشدهترین شکل خود سوق میدهند.
مسئله صرفاً وجود باتها نیست، بلکه «مقیاس» و «هوشمندی» آنهاست که خطر را دوچندان میکند. در گذشته نیز پروپاگاندا و عملیات روانی وجود داشت، اما امروز با ترکیب کلانداده، الگوریتمهای یادگیری عمیق و شبکههای اجتماعی، امکان مهندسی افکار عمومی با دقتی بیسابقه فراهم شده است. اگر چارچوبهای حقوقی، شفافیت پلتفرمها و سواد رسانهای کاربران همزمان تقویت نشود، دموکراسی ممکن است نه با کودتاهای نظامی، بلکه با موجی از حسابهای کاربری ظاهراً عادی اما برنامهریزیشده تضعیف شود. آینده فضای عمومی بیش از هر زمان دیگری به تنظیمگری هوشمند و آگاهی جمعی وابسته است.
مهندسی افکار عمومی با هوش مصنوعی؛ سایه سنگین باتها بر آینده انتخابات
پژوهشگران هشدار دادهاند که رهبران سیاسی اقتدارگرا میتوانند از موج فزاینده ابزارهای هوش مصنوعی برای اقناع افکار عمومی در جهت تعلیق انتخابات یا تضعیف مشروعیت نتایج رأیگیری بهره ببرند. به باور آنان، این فناوری با سرعتی شتابان در حال پیشرفت است و پیشبینی میشود تا سال ۲۰۲۸ به سطحی از بلوغ برسد که استفاده گسترده، کمهزینه و سازمانیافته از آن در کارزارهای سیاسی به امری عادی بدل شود.
نویسندگان این هشدار همزمان بر ضرورت شکلگیری یک اقدام هماهنگ جهانی تأکید کردهاند؛ اقدامی که بتواند دامنه اثرگذاری کارزارهای هدفمندِ نشر اطلاعات نادرست را محدود کند و از انحراف افکار عمومی در بزنگاههای انتخاباتی جلوگیری بهعمل آورد.
نشانههای اولیه؛ از آزمایشهای محدود تا تهدیدی فراگیر
در این گزارش آمده است که نمونههای ابتدایی عملیات نفوذ مبتنی بر هوش مصنوعی، در انتخابات سال ۲۰۲۴ در کشورهایی مانند تایوان، هند و اندونزی مشاهده شده است. هرچند این مداخلات هنوز در مقیاسی محدود اجرا شدهاند، اما بهگفته پژوهشگران، همین موارد بهروشنی مسیر آینده فناوری را ترسیم میکند: نفوذ عمیقتر، هدفمندتر و پنهانتر.
محققان هشدار میدهند که بازیگران سیاسی میتوانند عملاً شمار نامحدودی عامل هوش مصنوعی را در قامت «کاربر انسانی» وارد فضای آنلاین کنند. این عاملها با حضور تدریجی در جوامع مجازی، الگوهای رفتاری، حساسیتها و شکافهای اجتماعی را شناسایی میکنند و سپس با روایتهای گزینشی و دروغهای متقاعدکننده، افکار عمومی را در مقیاسی وسیع تحت تأثیر قرار میدهند.
پیشرفتهای اخیر در توانایی مدلهای زبانی برای درک لحن، زمینه و ظرایف گفتوگو، این تهدید را دوچندان کرده است. این عاملها اکنون میتوانند با استفاده از اصطلاحات محاورهای بومی، تقلید سبک نگارش کاربران واقعی و حتی ارسال پیامها با زمانبندی نامنظم، از سامانههای شناسایی خودکار عبور کنند و حضوری طبیعی جلوه دهند.
تجربه تایوان و هشدار فعالان سیاسی
در این میان، پوما شن، نماینده حزب پیشرو دموکراتیک تایوان و از فعالان مقابله با کارزارهای اطلاعات نادرست منتسب به چین، نسبت به ابعاد این تهدید هشدار داده است. او میگوید رأیدهندگان تایوانی بهطور مستمر هدف تبلیغات خارجی قرار میگیرند، بیآنکه لزوماً از منشأ آن آگاه باشند.
به گفته شن، در ماههای اخیر میزان تعامل رباتهای هوش مصنوعی با کاربران در پلتفرمهایی چون فیسبوک و Threads افزایش یافته است. این عاملها در بحبوحه بحثهای سیاسی، با انتشار حجم انبوهی از اطلاعات تأییدنشده، نوعی «انفجار اطلاعاتی» ایجاد میکنند؛ وضعیتی که در آن تشخیص حقیقت از روایتهای ساختگی دشوار میشود. او اشاره میکند که برخی از این حسابها به مقالات جعلی درباره احتمال رها کردن تایوان از سوی آمریکا استناد میکنند، بیآنکه آشکارا از چین تمجید کنند؛ بلکه با القای «بیطرفی»، فضای تردید و نسبیگرایی افراطی میسازند. به باور شن، چنین رویکردی خطرناک است، زیرا فعالان مدنی و سیاسی را در این فضای مهآلود «رادیکال» جلوه میدهد.
خطری فوری برای سیاستگذاران
در مقاله منتشرشده در نشریه Scienc تأکید شده است که اگرچه هجوم گسترده باتهای هوش مصنوعی هنوز بهطور کامل عملیاتی نشده، اما ترکیب سه عامل ــ پیشرفت فنی سریع، هزینه پایین اجرا و خلأ مقررات سختگیرانه ــ این پدیده را به تهدیدی فوری برای سیاستگذاران بدل کرده است. نویسندگان هشدار میدهند که در صورت نبود هماهنگی بینالمللی، انتخاباتهای آینده، از جمله انتخابات ۲۰۲۸ ایالات متحده، ممکن است در معرض دستکاریهای سازمانیافته و پیچیده قرار گیرند.
مسئله اصلی دیگر صرفاً «اطلاعات نادرست» نیست، بلکه «فرسایش اعتماد» است. اگر شهروندان به این باور برسند که هر گفتوگوی آنلاین میتواند حاصل فعالیت ارتشی از رباتهای نامرئی باشد، اعتماد به فضای عمومی و حتی به اصل رأیگیری آسیب میبیند. این وضعیت میتواند بدون نیاز به سرکوب آشکار، بنیانهای دموکراسی را از درون تهی کند. بنابراین، علاوه بر تنظیمگری حقوقی و همکاری بینالمللی، ارتقای سواد رسانهای و شفافیت الگوریتمی پلتفرمها باید به اولویتی راهبردی تبدیل شود؛ زیرا در عصر هوش مصنوعی، حفاظت از حقیقت دیگر یک دغدغه صرفاً اخلاقی نیست، بلکه ضرورتی امنیتی و سیاسی است.