عباس پورخصالیان

پس از هوش مصنوعی مولد، اکنون نوبت رسیده است به «اینترنتِ کارگزاران» :  Internet of Agents!

در نیمۀ اول دهۀ سوم هزارۀ سوم میلادی، جهان شاهد اوج گیری هوش مصنوعی مولد بود؛ فناوری‌ای که می‌تواند سخن بگوید، حرف‌شنوی داشته باشد، متن بنویسد، تصویر بیافریند و در برنامه‌نویسی و پژوهش به انسان یاری رساند. اما از شواهد و قراین بسیاری چنین بر می‌آید که این تنها مقدمه‌ای برای پیدایش انقلابی عمیق‌تر در نیمۀ دوم همین دهه یا در دهۀ چهارم همین هزاره است؛ انقلابی که در آن، انسان نه با یک یا چند سکوی هوش مصنوعی منفرد رو به رو ست، بلکه «اینترنتِ کارگزاران» را به صورت شبکه‌ای از کارگزارهای هوش مصنوعی، مستقل و هماهنگ در اختیار خواهد داشت و سپس به یاری سیستم‌های چندکارگزاره (Multi-agent systems) ادارۀ جهان دیجیتالی و حتی مدیریت زیرساخت‌های فیزیکی‌اَش را به اینترنتِ کارگزاران هوشمند خواهد سپرد.

امروزه بسیاری از سامانه‌های پیشرفته، از شبکه‌های دفاعی و جنگی گرفته تا مراکز عملیات سایبری [همچنان که در جنگ 12 روزه و 40 روزه شاهد بودیم] بر پایه معماریِ عملیات چنددامنه‌ای (Multi-domain operations) کار می‌کنند. در این ساختارها، واحدهای مختلف امنیتی، اطلاعاتی، ارتباطی، سایبری، فضایی، هوایی، ماهواره‌ای و زمینی، داده‌ها و تصمیم‌ها را با یکدیگر هماهنگ می‌کنند. اما هنوز در مرکز این شبکه‌ها، انسان و ساختارهای فرماندهی سلسله‌مراتبی نظامیان قرار دارند. به عبارت دیگر: در عملیات چنددامنه‌ای «کارگزار‌ها» هنوز سربازان و یگان‌ها در جوارِ سامانه‌های خودکار حضور دارند، اما به زودی نقش انسان عوض می‌شود.

• گذار از سیستم‌های چنددامنه‌ای به سیستم‌های چندکارگزاره

اگر «دیروز» اتفاق نیفتاده باشد (!) آنچه در فردایی نزدیک باید انتظارش را داشت، دیگر سیستم‌های چنددامنه‌ای نیستند بلکه ممکن است این ساختارها جای خود را به چیزی کاملاً متفاوت موسوم به: «سیستم‌های چندکارگزاره» بدهند.

در سیستم‌های چندکارگزاره  (Multi-Agent Systems)، هر کارگزار هوشمندِ خودمختار دارای تخصص، حافظه، ابزارها و توانایی تصمیم‌گیری خاص خود است و چند کارگزار هوشمند طوری باهم همکاری دارند که با تقسیم کار بین خود مسایل پیچیده را در کسری از ثانیه حل می‌کنند. در این تقسیم کار، برخی از کارگزاران نقش تحلیلگر را ایفا می‌کنند، برخی برنامه‌ریز هستند، برخی وظیفه کنترل و ارزیابی را برعهده دارند و برخی دیگر مستقیماً با محیط پیرامون تعامل می‌کنند. این کارگزاران به رغم شیء وارگی خود مانند اعضای یک سازمان زنده، با یکدیگر به مذاکره می‌پردازند، اطلاعات را میان خود مبادله می‌کنند، به تصمیم‌های مشترک می‌رسند و به اجرا می‌گذارند.

این ترادیسی از هوش مصنوعی مولد به اینترنت کارگزاران، یادآور گذار از رایانه‌های بزرگ مرکزی به اینترنت است. همان‌گونه که اینترنت مجموعه‌ای از رایانه‌ها و شبکه‌های مستقل را به هم متصل کرد، «اینترنت کارگزاران» نیز می‌تواند میلیون‌ها کارگزار هوشمند را در سراسر جهان به یکدیگر متصل و متحد کند.

در چنین جهانی، کارخانه‌ها توسط کارگزارهایی تخصصی اداره خواهند شد، شبکه‌های انرژی توسط کارگزارهای ناظر و تنظیم‌کننده مدیریت می‌شوند، سامانه‌های حمل‌ونقل از طریق همکاری کارگزارهای مستقل هدایت خواهند شد و حتی پژوهش‌های علمی‌ نیز توسط تیم‌هایی از کارگزارهای هوشمند انجام خواهند گرفت.

در حوزۀ امنیت و دفاع نیز مرز میان عملیات چنددامنه‌ای و سیستم‌های چندکارگزاره در حال محو شدن است. سامانه‌های اطلاعاتی، پهپادها، حسگرها، سیستم‌های سایبری و مراکز فرماندهی، به تدریج از ساختارهای سلسله‌مراتبی فاصله گرفته و به سمت شبکه‌هایی با قابلیت تصمیم‌گیری توزیع‌شده حرکت می‌کنند. این گذار می‌تواند سازمان ارتش، شکل جنگ، ماهیت آتش بس، امنیت و مدیریت بحران را دگرگون سازد.

• از ترادیسی فناورانه به ترادیسی مناسبات و مدارات قدرت

انقلاب کارگزاران هوشمند تنها یک ترادیسی فناورانه نیست؛ بلکه تغییری در مفهوم تمرکز قدرت نیز محسوب می‌شود. هوش مصنوعی کنونی عمدتاً در اختیار چند شرکت بزرگ و مراکز داده عظیم قرار دارد، اما سیستم‌های چندکارگزاره می‌توانند به شکل‌گیریِ اکوسیستم‌هایی منجر شوند که در آن کارگزارهای متعلق به افراد، شرکت‌ها، دولت‌ها و سازمان‌های مستقل با یکدیگر همکاری می‌کنند.

در این چشم‌انداز، تمرکززدایی نسبی از هوش مصنوعی رخ خواهد داد؛ همان‌گونه که اینترنت جهانی، انحصار شبکه‌های بسته را شکست.

البته چنین آینده‌ای کم‌خطر یا بدون مخاطره نخواهد بود. هماهنگی میان کارگزارها، امنیت، اعتماد، جلوگیری از رفتارهای پیش‌بینی‌ناپذیر و تعیین مسئولیت تصمیم‌ها، از مهم‌ترین چالش‌های حقوقی و سیاسی عصر «اینترنت کارگزاران» خواهد بود. به همین دلیل، پژوهشگران از هم‌اکنون دربارۀ «امنیت چندکارگزاره» و «حاکمیت کارگزارهای هوش مصنوعی» (AI Agent sovereignty) سخن می‌گویند و تحقیق می‌کنند.

شاید در دهه‌های آینده، مورخان فناوری از سال‌های کنونی (از 2020 تا 2025) نه به عنوان دوران شکوفایی چت‌بات‌ها، بلکه به عنوان دوران کودکی «عصر کارگزارها» یاد کنند؛ عصری که در آن هوش مصنوعی از یک ابزار منفرد، به جامعه‌ای از هستار‌های هوشمند تبدیل می‌شود که در کنار انسان، ساختارهای اقتصادی، علمی ‌و حتی تمدنی را قادرند بازآفرینی کنند.

• مراحل مهم گذار از«مدل‌های زبانی صِرف» به سمت « کارگزارهای هوش مصنوعی»

 این روند، در پنج گام به شرح زیر، پیش می‌رود:

یکم) مدل‌های هوش مصنوعی مولد  (Generative AI)دارای قابلیت تولید متن، تصویر، کد و محتوا. برای نمونه‌: مدل‌های زبانی بزرگ.

دوم) دستیارهای هوشمند (AI Assistants)، دارای توانایی گفت وگو، پاسخگویی و انجام برخی وظایف محدود.

سوم) کارگزارهای هوش مصنوعی  (AI Agents)دارای قابلیت برنامه‌ریزی چندمرحله‌ای؛ استفاده از ابزارها و  APIها؛ حافظه و یادگیری از تعاملات گذشته و تصمیم‌گیری و اجرای مستقل وظایف.

چهارم) سیستم‌های چندکارگزاره  (Multi-Agent Systems)دارای توانایی همکاری چند کارگزار تخصصی با یکدیگر؛ تقسیم کار، مذاکره و حل مسائل پیچیده.

پنجم) کارگزارهای خودمختار پیشرفته دارای توانایی انجام پروژه‌های طولانی‌مدت با حداقل نظارت انسان؛ مدیریت کسب‌وکار، تحقیق، طراحی و حتی توسعۀ نرم‌افزار.

• «انقلاب کارگزاران» و محدودیت‌های آن

 تولید و فعالیت کارگزاران هوشمند، به این دلیل «انقلاب» نامیده می‌شوند که سیستم هوش مصنوعی از تولید «واکنش» به درخواست کاربر، به سَمتِ «کنشگریِ» مستقل حرکت می‌کند:

• کارگزارها می‌توانند به ابزارها، پایگاه‌های داده و سرویس‌های مختلف متصل شوند؛
• بهره‌وری انسان را چند برابر کنند و
• ممکن است بسیاری از نقش‌های اداری، تحلیلی و حتی بخشی از کارهای تخصصی و مهارتی را به عهده بگیرند.

با این حال، کارگزارهای هوش مصنوعی هنوز چند محدودیت مهم خواهند داشت:

یکم) قابلیت اطمینان این سیستم‌ها هنوز رضایت بخش نیست و خطاهای استدلالی آنها هنوز برطرف نشده‌اند،

دوم) هنوز کاملاً خودمختار نشده‌اند و به نظارت انسانی نیاز دارند،

سوم) مسائل امنیتی و مشکلات حریم خصوصی برای جوامع انسانی به وجود می‌آورند و

چهارم) «فهم» و خودآگاهی واقعی در کارگزاران وجود ندارد.

بنابراین، بسیاری از متخصصان این احتمال را مطرح می‌کنند که دهه ۲۰۲۰ دهه گذار از هوش مصنوعی مولد به اقتصاد مبتنی بر کارگزارهای هوشمند خواهد بود؛ همان‌گونه که اینترنت و تلفن هوشمند، انقلاب‌های پیشین فناوری اطلاعات بودند. اما این که این ترادیسی هوش مصنوعی مولد به کارگزاران هوشمند تا چه حد به سامانه‌های کاملاً خودمختار یا حتی «هوش عمومی‌مصنوعی» (GAI) منجر می‌شود، هنوز موضوعی باز و محل پژوهش است.

• بهره‌برداری از سیستم‌های چندکارگزاره در گرو هم‌افزایی APIها و پلتفرم‌ها

هم‌افزایی APIها و پلتفرم‌ها تا حد زیادی راه‌اندازی سیستم‌های چندکارگزاره را تسهیل می‌کند، اما نه به این معنا که ابتدا همۀ  APIها و پلتفرم‌ها یکپارچه می‌شوند. سیستم‌های چندکارگزاره را (اگر «دیروز» نساخته باشند!) همین امروز هم می‌توان ساخت، اما برای رسیدن به اکوسیستم‌های بزرگ، باز و مقیاس‌پذیر، مسئلۀ بهره‌برداری متقابل یا تعامل‌پذیریِ (Interoperability)  پلتفرم‌ها و فناوری‌ها اهمیتی اساسی پیدا می‌کند.

برای رسیدن به این تعامل‌پذیری چند چالش جدی وجود دارد:

یکم)  ناهمگونی  APIها و پلتفرم‌ها: به این معنا که هر شرکت دارای قالب داده، روش احراز هویت، محدودیت‌ها و ابزارهای خاص خود است و لذا هماهنگی میان کارگزارانی که روی پلتفرم‌های مختلف اجرا می‌شوند، اکنون دشوار است.

دوم) نبود استانداردهای مشترک: کارگزارها باید بتوانند قابلیت‌ها، اهداف و داده‌های خود را به زبان مشترکی توصیف کنند. در همین رابطه، پروتکل‌هایی مانند «قرارداد بافت مدل» یا  Model Context Protocol (MCP) و پروتکل «کارگزار به کارگزار» یا A2A (Agent-to-Agent) به علاوۀ چند استاندارد مشابه در حال توسعه هستند.

سوم) رقابت تجاری: شرکت‌ها انگیزه دارند کاربران را در اکوسیستم خود نگه دارند. این موضوع می‌تواند مانع همکاری آزاد میان کارگزاران متعلق به شرکت‌های مختلف شود.

چهارم) امنیت و اعتماد: وقتی چند کارگزار از سازمان‌های مختلف با یکدیگر تعامل می‌کنند، مسائل مربوط به هویت سنجی، صدور مجوزها، رعایت حریم خصوصی و مسئولیت‌پذیری پیچیده‌تر می‌شود.

پنجم)«اقتصاد کارگزارها»: در آینده ممکن است کارگزارها به عنوان معامله‌گرانی خودمختار برای ارائۀ خدمات و داده یا در اختیار گذاشتن منابع رایانشی، با یکدیگر «معامله» کنند یعنی کسب وکار خودشان را راه بیندازند. این امر نیازمند استانداردهای پرداخت، اعتبارسنجی و قراردادهای قابل اعتماد است.

تاریخ فناوری نشان می‌دهد که چالش‌های مذکور قابل حل هستند:

• رقابت لزوماً مانع شکل‌گیری اکوسیستم‌های مشترک نمی‌شود. اینترنت نیز در ابتدا مجموعه‌ای از شبکه‌ها و سیستم‌های رقیب بود، اما استانداردهای باز مانند TCP/IP،HTTP  و SMTP امکان همکاری را فراهم کردند.

احتمالاً مسیر تکامل سیستم‌های چندکارگزاره نیز مشابه خواهد بود، به شرح زیر:

یکم) ایجاد اکوسیستم‌های بسته و اختصاصی؛

دوم) پیدایش پروتکل‌های مشترک؛

سوم) تعامل میان کارگزارهای متعلق به شرکت‌های مختلف؛ و

چهارم) شکل‌گیری «اینترنت کارگزارها».

بنابراین، حل کامل رقابت میان  APIها پیش‌شرط اجرای سیستم‌های چندکارگزاره نیست، اما دستیابی به یک اکوسیستم گسترده و جهانی از کارگزاران هوشمند، بدون استانداردها و تعامل‌پذیری میان پلتفرم‌ها بسیار دشوار خواهد بود.

• روند تدریجی تمرکززدایی از هوش مصنوعی

امروزه بیشتر سیستم‌های هوش مصنوعی کارکردی متمرکز دارند:

• مدل‌های بزرگ در مراکز دادۀ شرکت‌های معدودی اجرا می‌شوند.
• داده‌ها، APIها و زیرساخت‌ها تحت کنترل تعداد محدودی بازیگر هستند.
• کاربران بیشتر استفاده ‌کننده‌‌اند تا مشارکت‌کننده.

اما با پیدایش کارگزارهای هوشمند و سیستم‌های چندکارگزاره، امکان گذار به معماری‌های توزیع‌شده‌تر فراهم می‌شود:

• کارگزارهای متعلق به افراد، شرکت‌ها و سازمان‌های مختلف می‌توانند با هم تعامل کنند.
• هر کارگزار ممکن است مدل، حافظه و منابع مستقل خود را داشته باشد.
• تصمیم‌گیری و پردازش می‌تواند میان بازیگران متعدد توزیع شود و
• وابستگی به یک مدل یا یک پلتفرم واحد کاهش می‌یابد.

از این منظر، می‌توان این روند را نوعی «تمرکززدایی کارکردی» نامید. اما تمرکززدایی کامل به این زودی‌ها محقق نمی‌شود، زیرا:

• آموزش مدل‌های پیشرفته همچنان به سرمایه و توان رایانشی عظیم نیاز دارد.
• زیرساخت‌های ابری و تراشه‌ها در اختیار تعداد محدودی شرکت هستند.
• بسیاری از کارگزارها احتمالاً همچنان بر پایه چند مدل بنیادین بزرگ ساخته خواهند شد.

بنابراین، آینده محتمل شاید چیزی شبیه اینترنت باشد:

• در لایۀ زیرین، چند ارائه‌دهندۀ بزرگ زیرساخت و مدل‌های بنیادین وجود دارند.
• در لایۀ بالاتر، میلیون‌ها کارگزار مستقل، تخصصی و متعلق به افراد و سازمان‌های مختلف با یکدیگر تعامل می‌کنند.

به همین دلیل برخی پژوهشگران از مفاهیم مترادفی یاد می‌کنند مانند:

• «هوش مصنوعیِ کارگزاره‌ای» یا Agentic AI،
• «اینترنت کارگزارها» یا Internet of Agents،
• «هوش مصنوعی توزیع شده» یا  Distributed AIو
• «هوش مصنوعی غیرمتمرکز» یا Decentralized AI .

 در این معنا، انقلاب کارگزاران را می‌توان نه صرفاً تکامل هوش مصنوعی، بلکه آغاز گذار از «هوش مصنوعی متمرکز» به «اکوسیستم‌های توزیع‌شده و تا حدی تمرکززدایی‌شده» دانست؛ هرچند این تمرکززدایی احتمالاً نسبی خواهد بود، نه مطلق.

• چالش‌های تنظیم‌گریِ اقتصاد «اینترنتِ کارگزارها»

نشانه‌های اولیه تنظیم‌گری جدید را می‌توان در مقررات صادرات فناوری‌های پیشرفته مشاهده کرد.

سیستم‌های چندکارگزاره ذاتاً فناوری‌های دوگانه (Dual-Use) هستند؛ یعنی همان معماری‌ای که می‌تواند برای مدیریت شبکه برق، لجستیک، کارخانه‌های هوشمند یا کشف دارو استفاده شود، بالقوه می‌تواند در فرماندهی نظامی، جنگ الکترونیکی، پهپادهای گروهی، عملیات سایبری و سامانه‌های تسلیحاتی خودمختار نیز کاربرد داشته باشد.

به همین دلیل، احتمال دارد در آینده برخی اجزای کلیدی این فناوری‌ها تحت رژیم‌های کنترل صادرات مانند توافقنامه «واسنار» یا  Wassenaar Arrangement  قرار گیرند. این محدودیت‌ها ممکن است شامل محصولات زیر باشند:

• مدل‌های پیشرفتۀ برنامه‌ریزی و هماهنگی کارگزاران؛
• نرم‌افزارهای کنترل گروه‌های پهپادی و سامانه‌های خودمختار؛
• چارچوب‌های تصمیم‌گیری توزیع‌شده با کاربرد نظامی؛
• تراشه‌ها و زیرساخت‌های محاسباتی لازم برای اجرای سیستم‌های چندکارگزارۀ بزرگ؛ و
• نرم‌افزارهای شبیه‌سازی و آموزش کارگزاران خودمختار.

البته ممنوعیت کامل سیستم‌های چندکارگزاره دشوار خواهد بود، زیرا این فناوری، کاربردی عمومی ‌و غیرمتمرکز دارد. همان‌گونه که نمی‌توان اینترنت، لینوکس یا یادگیری ماشین را به طور کامل تحت کنترل صادرات قرار داد، معماری‌های چندکارگزاره نیز احتمالاً بیش از آنکه ممنوع شوند، به صورت گزینشی و بر اساس سطح توانمندی و کاربردهای نظامی ‌محدود خواهند شد، یعنی احتمالاً روندی مشابه صنعت هسته‌ای، رمزنگاری و نیمه‌رساناها را شاهد خواهیم بود:

•  فناوری‌های پایه در دسترس عموم باقی می‌مانند.
• فناوری‌های پیشرفته و دارای کاربرد راهبردی تحت کنترل صادرات قرار می‌گیرند.
• کشورهایی مانند ایران و هند به توسعۀ بومی ‌سیستم‌های چندکارگزاره روی می‌آورند و
• دو اکوسیستم موازی یا چندقطبی فناوری شکل می‌گیرد.

در واقع، همان‌گونه که امروزه تراشه‌های پیشرفته، ابررایانه‌ها و برخی مدل‌های هوش مصنوعی به موضوعاتی ژئوپلیتیکی تبدیل شده‌اند، در دهه آینده ممکن است «معماری‌های چندکارگزارۀ پیشرفته» نیز به بخشی از رقابت راهبردی میان قدرت‌ها تبدیل شوند.

• نگذاریم ایران میدان آزمایش کارگزاران هوشمند شود!

در نبردهای اخیر آمریکا و اسرائیل علیه جمهوری اسلامی ‌ایران احتمال دارد که علاوه بر سیستم‌های چنددامنه‌ای [مانند Maven] ، پیش نمونه‌هایی کوچک از سامانه‌های چندکارگزاره نیز مورد آزمایش و استفاده قرار گرفته باشند، زیرا اتاق‌های جنگ پراکنده بودند، جنگ‌افزارها نیز از فناوری‌های مختلف و رسانه‌های متفاوت استفاده می‌کردند [برای مثال رسانه‌هایی مانندِ شبکه استارلینک به عنوان ستون فقرات عملیات پهپادی آمریکا در جنگ‌های ژوئن ۲۰۲۵ و فوریه ۲۰۲۶ و از نسخۀ نظامی‌آن به نام Starshield که ارتباطات امن‌تری را فراهم می‌آورد و رسانه‌های اسراییلی مانندِ ماهواره‌های جاسوسی سری OFEK بخصوص اُفِک ۱۳ و ۱۹ باید با هم همکاری می‌کردند.

این ماهواره‌ها در جنگ علیه ایران نقش عملیاتی داشته‌اند در حالی که اُفِک ۱۹ در ژوئن ۲۰۲۶ به فضا پرتاب شد و وزیر دفاع اسرائیل آن را پیامی ‌برای دشمنان دانست که «همیشه و در هر شرایطی» تحت نظر هستند.

سایر ماهواره‌های نظامی ‌و تجاری مورد استفاده در این جنگ عبارت بودند از: ماهواره‌های هشداردهنده موشکی (SBIRS) برای شناسایی فوری گرمای ناشی از پرتاب موشک‌های بالستیک ایران].

به رغم این رسانه‌های کاملاً متفاوت، عملکردها هماهنگ بودند و هماهنگی گسترده‌ای میان سامانه‌های اطلاعاتی، سایبری، پدافندی، پهپادی، ماهواره‌ای و مراکز فرماندهی وجود داشت، دستاوردی که از ساخت پیش‌نمونه‌های کارگزاران هوشمند در مقیاس کوچک خبر می‌دهد. در همین راستا، برخی تحلیلگران خارجی برای توصیف این جنگ‌ها، از اصطلاحِ «اولین جنگ هوش مصنوعی» استفاده کرده‌اند.

اما از اطلاعات عمومی‌موجود نمی‌توان با اطمینان نتیجه گرفت که «سامانه‌های چندکارگزارۀ پیشرفته» به معنای کامل آن در میدان نبرد به کار گرفته شده ‌باشند. آنچه محتمل‌تر به نظر می‌رسد، وجود معماری‌های سلسله‌مراتبی با انسان در حلقه تصمیم‌گیری است که در آن:

• حسگرها و ماهواره‌ها داده جمع‌آوری می‌کنند؛
• سامانه‌های تحلیل و هوش مصنوعی اطلاعات را تلفیق می‌کنند؛
• سامانه‌های سایبری و جنگ الکترونیکی به صورت هماهنگ عمل می‌کنند؛
• سامانه‌های موشکی، پهپادی و پدافندی با مراکز فرماندهی در ارتباط‌‌اند؛
• اما تصمیم نهایی همچنان عمدتاً توسط انسان‌ها اتخاذ می‌شود.

با این حال، از دیدگاه نظری، میدان‌های نبرد مدرن احتمالاً یکی از نخستین محیط‌هایی هستند که در آن «پروتوتایپ‌های کارگزاران هوشمند توزیع‌شده» آزمایش می‌شوند. زیرا: اتاق‌های عملیات در واشنگتن، تل اویو، دیه گو گارسیا در اقیانوس هند و در کشورهای اطراف ایران پراکنده هستند، سامانه‌های تسلیحاتی ناهمگون‌اند، شبکه‌های اطلاعاتی و سایبری مختلف‌اند، پس نوعی کارگزاران تخصصی هماهنگ‌شده باید به خدمت گرفته شده باشند.

به بیان دیگر در جنگ‌های اخیر علیه ایران احتمالاً بیشتر نمونه‌ای از معماری‌های عملیات چنددامنه‌ای مجهز به هوش مصنوعی آزمایش شدند، نه لزوماً نمونه‌های کامل «جامعه‌ای از کارگزارهای خودمختار». اما مرز میان این دو در حال باریک‌تر شدن است و بسیاری از متخصصان معتقدند که تکامل طبیعی عملیات چنددامنه‌ای به سمت سامانه‌های چندکارگزارۀ هوشمند پیش خواهد رفت.

پس باید کاری کنیم و امیدوار باشیم که ایران دیگر به میدان آزمایش جنگ افزارهایی از جنس کارگزارهای خودمختار تبدیل نشود!