بر اساس گزارشها، OpenAI در همکاری با دو شرکت فعال در حوزه فناوریهای دفاعی آمریکا، وارد پروژهای شده است که از سوی پنتاگون برای توسعه نرمافزار کنترل صوتی گلههای پهپاد طراحی شده است. هرچند هماکنون امکان کنترل چند پهپاد بهصورت همزمان وجود دارد، اما هدایت کاملاً خودمختار گلهای از پهپادها در هوا و دریا هنوز یک چالش فنی جدی محسوب میشود.
گزارش بلومبرگ نشان میدهد هدف آمریکا توسعه نمونههای اولیهای است که بتوانند گلهای از پهپادها را بدون دخالت مستقیم انسان مأموریتدهی کنند. در این پروژه چندین شرکت با یکدیگر رقابت میکنند تا به اهداف پنتاگون دست یابند. نقش OpenAI محدود به ترجمه دستورات صوتی فرماندهان نظامی به دستورهای دیجیتال است و این فناوری برای هدایت مستقیم پهپادها، هماهنگی تسلیحات یا تصمیمگیری درباره هدفها استفاده نخواهد شد.
وضعیت مشارکت OpenAI در پروژه
بر اساس منابع آگاه، OpenAI هنوز میزان دقیق مشارکت خود در پروژه پنتاگون را مشخص نکرده و توافقهای نهایی قطعی نشدهاند. به نظر میرسد در این پروژه تنها نسخه متنباز مدلهای OpenAI مورد استفاده قرار گیرد و دسترسی به پیشرفتهترین مدلهای اختصاصی این شرکت وجود نخواهد داشت. احتمالاً OpenAI در زمینه نصب و راهاندازی نیز به پروژه پشتیبانی خواهد کرد.
این همکاری نمونهای از کاربردهای نوظهور هوش مصنوعی در حوزه دفاعی است که هم فرصتهای فناوری را نشان میدهد و هم بحثهای اخلاقی و امنیتی مهمی را به همراه دارد. محدود کردن نقش OpenAI به ترجمه دستورات صوتی میتواند نگرانیها را تا حدی کاهش دهد، اما همانطور که تجربه نشان داده، توسعه فناوریهای خودمختار نظامی نیازمند شفافیت و نظارت دقیق است تا ریسکهای غیرمنتظره به حداقل برسند.
گسترش فعالیتهای دفاعی OpenAI با محدودیتها و هشدارها
سخنگوی OpenAI تأکید کرده که نقش این شرکت در پروژههای دفاعی «محدود» است. به گفته او، برخی دیگر از شرکتهای هوش مصنوعی بهطور مستقیم در این رقابت شرکت کردهاند، اما نام آنها هنوز مشخص نیست. با این حال، همکاری اخیر نشان میدهد که دامنه فعالیتهای نظامی و دفاعی OpenAI در حال گسترش است. همزمان، پنتاگون از همکاری تازهای با OpenAI خبر داده که طی آن، ChatGPT در اختیار حدود ۳ میلیون نفر از کارکنان وزارت دفاع آمریکا قرار خواهد گرفت.
سال گذشته، «سم آلتمن»، مدیرعامل OpenAI، احتمال مشارکت این شرکت در توسعه سامانههای تسلیحاتی مبتنی بر هوش مصنوعی را کمرنگ توصیف کرده بود. او در آوریل گفته بود: «فکر نمیکنم بیشتر مردم جهان بخواهند هوش مصنوعی درباره استفاده از سلاحها تصمیم بگیرد» و تأکید کرده بود که چنین اقدامی در آینده نزدیک بعید است. با این حال، او امکان تغییر شرایط جهانی و ظهور نیازهای جدید را کاملاً رد نکرد.
برخی مقامات دفاعی نیز نسبت به استفاده از چتباتها و سامانههای تبدیل گفتار به متن در پلتفرمهای تسلیحاتی هشدار دادهاند. آنها معتقدند که استفاده از هوش مصنوعی مولد باید محدود به کارکردهای ترجمه و پردازش اطلاعات باشد و نباید اجازه کنترل مستقیم پهپادها یا تصمیمگیری درباره مأموریتها به آن داده شود. این نگرانیها به دلیل احتمال سوگیری و توهم در مدلهای زبانی بزرگ مطرح شده است؛ زیرا این مدلها ممکن است خروجیهایی تولید کنند که با واقعیت مطابقت ندارد اما با اطمینان کامل ارائه میشوند.
گسترش حضور OpenAI در حوزه دفاعی، حتی با نقش محدود، نشاندهنده افزایش توجه دولتها به کاربردهای هوش مصنوعی در ماموریتهای نظامی است. با این حال، هشدارها درباره سوگیری و قابلیت خطای مدلها یادآور این نکته است که فناوری هرچقدر هم پیشرفته باشد، بدون چارچوبهای دقیق نظارتی و محدودیتهای اخلاقی میتواند ریسکهای جدی ایجاد کند. شفافیت و کنترل انسانی همچنان کلید بهرهبرداری امن از هوش مصنوعی در این حوزه است.