مردیت ویتکر، رئیس بنیاد سیگنال، درباره خطرات ناشی از هوش مصنوعی خودمختار (Agentic AI) برای حریم خصوصی کاربران هشدار داد. این نوع از هوش مصنوعی قادر است بدون دخالت انسان وظایف مختلفی را انجام دهد و تصمیم‌گیری کند.
به گزارش بیزینس اینسایدر، شرکت‌های بزرگ فناوری سرمایه‌گذاری هنگفتی روی توسعه هوش مصنوعی انجام داده‌اند و انتظار می‌رود که در سال ۲۰۲۵ بیش از ۳۰۰ میلیارد دلار در این حوزه هزینه شود. بااین‌حال، ویتکر نسبت به سیستم‌هایی که می‌توانند به‌طور مستقل عمل کنند، ابراز نگرانی کرده است. او معتقد است که این فناوری‌ها برای عملکرد خود نیاز به دسترسی گسترده به داده‌های کاربران دارند و همین مسئله می‌تواند تهدیدی برای حریم خصوصی باشد.
در جریان رویداد SXSW 2025 در تگزاس، ویتکر تأکید کرد که هوش مصنوعی خودمختار اختیارات زیادی دریافت کرده است و برای اجرای وظایف خود به اطلاعات حساس نیاز دارد. او هشدار داد که این وضعیت ممکن است باعث نقض حریم خصوصی کاربران در مقیاسی گسترده شود.
هوش مصنوعی خودمختار بدون شک یکی از پیشرفته‌ترین و تأثیرگذارترین فناوری‌های حال حاضر است، اما نگرانی‌هایی که ویتکر مطرح کرده، کاملاً منطقی به نظر می‌رسد. وقتی یک سیستم هوشمند می‌تواند بدون دخالت انسانی تصمیم‌گیری کند، کنترل و نظارت بر آن دشوارتر خواهد شد. از طرفی، شرکت‌های بزرگ فناوری که سرمایه‌گذاری‌های کلانی در این حوزه دارند، ممکن است برای سودآوری بیشتر، توجه کافی به مسائل امنیتی و حریم خصوصی نداشته باشند. در نتیجه، توسعه و اجرای قوانین شفاف در این زمینه ضروری است تا از سوءاستفاده‌های احتمالی جلوگیری شود.
عامل‌های هوش مصنوعی؛ دستیاران هوشمند یا تهدیدی برای حریم خصوصی؟
مردیت ویتکر، رئیس بنیاد سیگنال، نسبت به تبلیغات اغراق‌آمیز پیرامون عامل‌های هوش مصنوعی هشدار داده و آن‌ها را به «ربات‌های غول چراغ جادو» تشبیه کرده است. این سیستم‌ها طوری معرفی می‌شوند که گویی قادرند چندین مرحله جلوتر را پیش‌بینی کرده و بدون نیاز به مداخله کاربر، وظایف مختلفی را انجام دهند.
ویتکر توضیح داد که هوش مصنوعی خودمختار می‌تواند اقداماتی مانند یافتن کنسرت، رزرو بلیت و حتی باز کردن اپلیکیشن‌هایی مثل سیگنال را برای ارسال پیام به دوستان انجام دهد. اما در هر یک از این مراحل، این سیستم‌ها به حجم گسترده‌ای از داده‌های کاربران دسترسی پیدا می‌کنند—اطلاعاتی که ممکن است کاربران بخواهند محرمانه باقی بماند.
او تأکید کرد که برای پردازش این درخواست‌ها، داده‌های کاربران معمولاً به سرورهای ابری ارسال می‌شود و این امر می‌تواند تهدیدی جدی برای حفظ حریم خصوصی باشد. به گفته او، هرچه این عامل‌ها قدرتمندتر شوند، میزان داده‌هایی که در اختیار دارند نیز افزایش می‌یابد، و این مسئله نیازمند توجه جدی است.
هوش مصنوعی خودمختار بدون شک کاربردهای هیجان‌انگیزی دارد، اما مسائلی که ویتکر مطرح می‌کند، قابل تأمل است. این فناوری‌ها برای انجام وظایف پیچیده، نیاز به دسترسی گسترده به داده‌های شخصی دارند. اگر کنترل کافی بر نحوه جمع‌آوری و استفاده از این اطلاعات وجود نداشته باشد، خطرات بالقوه‌ای برای کاربران ایجاد می‌شود. بنابراین، شفافیت در نحوه عملکرد این سیستم‌ها و تعیین محدودیت‌های دقیق برای حفاظت از داده‌های کاربران امری ضروری است.