مرکز امنیت آمریکایی جدید (CNAS) بر این باور است که تهدید بزرگ بعدی ناشی از «حاکمان» هوش مصنوعی آینده، مربوط به «عاملان مستقل» است که به طور خودمختار عمل می‌کنند و به طور منظم خود را بهبود می‌بخشند.
این عامل‌های هوش مصنوعی هستند که خارج از کنترل انسان کار می‌کنند و «به دنبال بقای باز و در حال تکامل» هستند، بن هیم، محقق سیاست‌های هوش مصنوعی، در گزارش روز سه‌شنبه این موسسه تفکر امنیت ملی دوحزبی بیان کرد که توسط افراد با تجربه در دیپلماسی و امور نظامی در واشنگتن تاسیس شده است. او افزود: «اگر عاملان مستقل در حال حاضر امکان‌پذیر نیستند، به زودی خواهند بود.»
هیم نوشت: «عاملانی که بتوانند مدل و قدرت محاسبه‌ای که آن‌ها را اجرا می‌کند حفظ کنند و اهداف خود را به مرور زمان به طور مستقل تکامل دهند، «شکل مینیمالی از استقلال» دارند.»
با این حال، یک عامل مستقل پیشرفته‌تر می‌تواند همچنین منابعی را برای پرداخت نیازهای جاری (مانند محاسبه) کسب کند، جمعیت توزیعی از عامل‌ها را گسترش داده و آن‌ها را هماهنگ نماید، در برابر تلاش‌ها برای خاموش کردن مقاومت کند و خود را بهبود بخشد.
هیم استدلال می‌کند که مدل‌های هوش مصنوعی می‌توانند یا به سرقت بروند یا دسترسی به محاسبه و مدل را بخرند، و به ادعاهای آنتروپیک (Anthropic) در مورد اینکه مدل‌های کوچک هوش مصنوعی می‌توانند بر روی دستگاه‌های اینترنت اشیاء (IoT) مانند تلویزیون‌های هوشمند کپی شوند، و دزدی رمز عبور و کلیدهای دسترسی توسط عامل‌های اوپن‌ای‌آی (OpenAI) در طول هک هاگینگ فیس (Hugging Face) اشاره کرد.
به موجب گزارش: «اگر عاملان مستقل زیرساخت‌های مقاوم، غیرمتمرکز و غیرقابل ردیابی را انباشته کنند، می‌توانند از دست دادن کنترل غیرقابل بازگشت را راه بیندازند. به عبارت دیگر، گسترش بدون کلید خاموشی. اگر عاملان مستقل بدخواه شوند، می‌توانند سعی در ایجاد هرج و مرج از فضای سایبری داشته باشند، با حمله به شهروندان، زیرساخت‌های حیاتی و سیستم‌های امنیت ملی.»
دن دن دووون!
امید برای تمدن همان‌گونه که می‌شناسیم همچنان وجود دارد، به شرطی که سیاست‌گذاران و توسعه‌دهندگان هوش مصنوعی «با بی‌تکلیفیِ عمل‌گرایانه جسورانه» واکنش نشان دهند و توصیه‌های سیاستی مندرج در گزارش را اجرا کنند.
ابتدا، فر
مقاله 2 از 2
لابراتوارهای اونتیه باید در چارچوب‌های ایمنی خود نام، ارزیابی و حفاظت از عوامل سouveren را انجام دهند، و قانونگذاران باید قانون‌گردانی برای شفاف‌سازی و گزارش سانحه‌های هوش مصنوعی را تصویب کنند.
براساس گزارش، توسعه‌دهندگان هوش مصنوعی باید با اداره امنیت ملی و سایر آژانس‌های فدرال، محیط‌های آزمایشی جدا شده از دیگر شبکه‌ها برای مطالعه و کنترل عوامل سouveren و کلیدهای خاموش را بسازند. همچنین شراکت‌های عمومی-privet برای مقابله با این عوامل قبل از ظهورشان را پیشنهاد می‌کند، که بر اساس گروه کاربری کنفیکر در سال 2009 تشکیل شد.
توصیه‌های دیگر این است که قانونگذاران اقدامات امنیتی و استانداردهای امنیتی سایبری را برای خدمات ضروری برای عوامل سouveren برقرار کنند، و از وزارت‌های امور خارجه، دارایی‌ها، دادگستری و امنیت داخلی برای جلوگیری از دسترسی غیرمجاز به خدمات غیرمجاز به‌کار بگیرند.
در آخر، "کنگره باید مسئولان آزادسازی عوامل سouveren را برای آسیب‌های بعدی عفو کند" توصیه می‌شود.
این به چیزی که برندگان خردمند رجیستر برای مدتی طول کشیده بود، اشاره دارد - و شاید همه سانحه‌های آینده با عامل هوش مصنوعی راگباز را حل کند: مسئولان انسانی لابراتوارهای اونتیه را برای اقدامات نامناسب عواملشان محترم علیت کنند. ®
تیم ترجمه تحریریه گیلانی جان - محمد رمضانی - سیده رقیه پوراشرفی