عباس پورخصالیان
این یادداشت، کوششیست نخست برای واکاوی زایش یک جهانبینی و بلوغ آن در عصر الگوریتمها از طریق نشان دادن این که چگونه یک ایدۀ انتقادیِ متولدشده در دهۀ ۱۹۹۰، امروزه کلید فهمِ بزرگترین نبردِ ژئوپلیتیکیِ قرن بیست ویکم شده است و سپس برای دادن این هشدار که:
- اگر برای تولید ملی مدلهای بنیادین هوش مصنوعی بومی در تطابق با نیازمندیهای واقعی کشور برنامهریزی نکنیم بالاخره مستعمرۀ دیجیتالیِ یکی از دو قطب جهانی فناوری هوش مصنوعی یعنی ایالات متحدۀ آمریکا یا چین خواهیم شد!
و اما شرح ماجرا:
«ایدئولوژی کالیفرنیایی»، اصطلاحیست که ریچارد باربروک و اندی کامرون درسال ۱۹۹۵ میلادی برای توصیفِ آمیزشِ متناقضِ روحیۀ ضدفرهنگ دهۀ شصت و نئولیبرالیسمِ حاکم بر سیلیکونولی ابداع کردند. این ایدئولوژی امروزه نه تنها از میان نرفته، بلکه به نیروی محرکۀ اصلیِ شکلدهی به نظمِ نوین جهانی بدل شده است.
در این یادداشت با بهرهگیری از مفاهیمی همچون Scapegoating در اندیشۀ «رنه ژیرار» و «شتابگرایی راست» (Right-Wing Accelerationism) ، نشان میدهم که چگونه این ایدئولوژی، پس از مواجهه با جریانِ پوپولیسمِ ملیگرا (یا همان ترامپیسم)، به بحرانی جدید در جهان امروز به نام «بحران حاکمیتِ هوش مصنوعی» انجامیده است:
توضیح این که:
- اصطلاح Scapegoating در فارسی معادلی ندارد ولی معنی آن در زبان انگلیسی به کتاب مقدس و عمل کاهن اعظمی برمیگردد که همۀ گناهان قوم یهود را بارِ بُزکی میکند و بُزک را به بیابان میفرستد. بهترین مصداق Scapegoating عمل مربیان ولیعهد در تاریخ قرون میانۀ خاندان سلطنتی اروپا بوده است. مربیان ولیعهد، هروقت که ولیعهد خطایی میکرد بجای آن که ولیعهد را مجازات کنند حیوان یا کودک همبازی او را مجازات میکردند، تا ولیعهد هم به خطایش پی ببرد و هم به ولیعهد بیاحترامی نشود. در کشور ما میتوان فلسفۀ وجودی نهاد ریاست جمهوری را همانScapegoating دانست. از این رو نزدیکترین معادلِ Scapegoat در زبان فارسی، «بلاگردان» و بهترین معادل برایScapegoating نیز «بلاگردانی» به معنی تنبیهکردن با هدف دفع شر است.
- توضیح دومم در مورد اصطلاح «شتابگرایی» ست: اصل این ایده از خوانشی خاص از اندیشههای کارل مارکس الهام میگیرد. پرسش اصلی مارکس این بود: آیا باید سرعت تحولات سرمایهداری را کم کرد، یا برعکس آن را چنان شتاب داد که خودِ سرمایهداری به مرحلهای جدید یا به فروپاشی برسد؟ از همین پرسش، دو پاسخ کاملاً متفاوت شکل گرفت: «شتابگرایی چپ» و «شتابگرایی راست.» نمایندگانِ معاصرِ «شتابگرایی چپ» معتقدند فناوری هوش مصنوعی ذاتاً بد نیست و باید گسترش یابد اما سود آن باید به کل جامعه برسد. باید از این فناوری برای کاهش کار اجباری، افزایش رفاه عمومی و گسترش دموکراسی استفاده کرد. از دید آنان، مشکل، خودِ فناوری نیست، بلکه شیوۀ مالکیت و توزیع منافع آن است. آنان به همین دلیل از ایدههایی مانند: درآمد پایۀ همگانی، مالکیت عمومی زیرساختهای دیجیتالی، هوش مصنوعی اخلاقی، دموکراتیک کردن هوش مصنوعی و کاستن از ساعات کار انسانها حمایت میکنند. در مقابل، «شتابگرایی راست» مسیر کاملاً متفاوتی را پیش مینهد: سرمایهداری خود نوعی هوش تکاملی جامعه است. بازار باید تا حد امکان آزاد باشد. فناوری باید بدون محدودیت رشد کند. دولت و دموکراسی غالباً مانع پیشرفتاند. آینده متعلق به هوش مصنوعی، سرمایه و شبکههاست، نه لزوماً متعلق به دولت-ملتها. ارتباط این طرز فکر با سیلیکونولی اینجاست که نسل اول مدیران سیلیکونولی از سال ۱۹۷۰ تا ۲۰۰۵ نخست معتقد بودند که تمرکززدایی و خوشبینی نسبت به فناوری عقلانی است و سپس با نوآوری اینترنت معتقد شدند که آزادی اطلاعات، متنباز و اینترنت آزاد ضروریاند. این فضا تا حدی به شتابگرایی چپ نزدیک بود، هرچند بیشتر از سنت لیبرتارینی و ضدفرهنگ هیپیگری الهام میگرفت تا از نظریه شتابگرایی. اما نسل دوم مدیران سیلیکونولی که بنیانگذاران امروزۀ بیگتک هستند با شکل گیری قدرت جهانی شان از یک سو، به عدالت اجتماعی، تنوع و شمول، دغدغههای اقلیمی و مسئولیت اجتماعی شرکتها معتقد شدند و لذا از نظر فرهنگی با برخی دغدغههای چپ همپوشانی پیدا کردند. اما از سوی دیگر، در اثر رشد سریع، سلطه بر بازار، اتوماسیون، دادهمحوری و مقیاسپذیری جهانی هوش مصنوعی بیشتر با منطقِ سرمایهداری شتابگرا سازگار شدند. به همین دلیل برخی جامعهشناسان از ترکیبی متناقض سخن میگویند: پیشرَوی فرهنگی مترقی در کنار پیشرَوی اقتصادی فوقسرمایهدارانه. اما حدوداً از سال ۲۰۱۵ به بعد، بخشی از سرمایهگذاران و کارآفرینان بخصوص نسل سوم مدیران سیلیکونولی که شرکتهای هوش مصنوعی و رمزارز را اداره میکردند به ایدههایی نزدیک شدند که شباهت بیشتری به شتابگرایی راست دارد، برای مثال: باور به رسیدن به هوش مصنوعی عمومی(AGI)، استعمار فضا، ایجاد شهرهای خصوصی، رواج رمزارزها و کاهش نقش بانک مرکزی و دولت و افزایش شدید سرعت نوآوری. شعار معروف این نسل از مدیران این است: زنده باد شتابگرایی مؤثر یا Effective Accelerationism که گاه به صورت e/acc نیز بیان میشود. اما این جریان نه در کل سیلیکونولی بلکه در میان بخشی از سرمایهگذاران و بنیانگذاران استارتاپها نفوذ پیدا کرده است. تناقض مهمی که بسیاری از پژوهشگران بر آن تأکید میکنند این است که امروز در بیگتک دو گرایش ظاهراً متضاد به طور همزمان حضور دارند: شتابگرایی چپ و شتابگرایی راست که این دومی گرایش غالب است. شتابگرایی چپ فناوری را ابزاری برای رهایی و بازتوزیع قدرت میداند؛ بنابراین بر حکمرانی دموکراتیک فناوری و توزیع عادلانه منافع آن تأکید دارد و شتابگرایی راست، فناوری و بازار را موتور اصلی تکامل میبیند و خواهان حذف هرچه بیشتر محدودیتهای سیاسی و مقرراتی است.
پس از ذکر دو توضیح مذکور، برمیگردم به اصل مطلب:
فرهنگ بیگتکِ معاصر نه کاملاً تحت تأثیر شتابگرایی چپ است و نه راست، بلکه (بهویژه در برخی محیطهای سازمانی) ترکیبیست از ارزشهای فرهنگی با منطق رشد، مقیاسپذیری و نوآوریِ شتابانِ سرمایهداریِ فناوری. همین ترکیب، بسیاری از تنشها و تناقضهای امروز سیلیکونولی را توضیح میدهد.
به همین دلیل کشمکشِ ظاهریِ سیلیکونولی و واشنگتن، در واقع نمایشیست از یک جنگِ بنیادین بر سرِ کنترلِ «سهگانۀ مقدسِ عصر دیجیتال» شاملِ داده، زیرساختِ رایانشی و چارچوبِ ارزشیِ الگوریتمها! در نتیجۀ این جنگِ بنیادین و در غیابِ بازتعریفِ بومی«بلاگردانِ تکنولوژیکی»، تمام جوامع در خطر تبدیل شدن به مستعمرۀ دیجیتالیِ یکی از این دو قطب فناوری هوش مصنوعی: ایالات متحدۀ آمریکا یا چین خواهند بود.
۱. از «رؤیای کالیفرنیا» تا «کابوسِ حاکمیت هومص»
در اواسط دهۀ ۱۹۹۰، و در اوجِ خوشبینیِ نخستین روزهای اینترنتِ عمومی، باربروک و کامرون (۱۹۹۵) در مقالهای تأثیرگذار، هشدار دادند که ترکیبِ افراطیِ آزادیخواهیِ فرهنگی و جبرگراییِ تکنولوژیکی، نه به «دهکدۀ جهانیِ» صلحآمیز، بلکه به سلطۀ یک الیگارشیِ جدید از کارآفرینانِ فناوری خواهد انجامید. آنها این جهانبینی را «ایدئولوژی کالیفرنیایی» نامیدند؛ ایدئولوژییی که کشورهای در حال توسعه و کمترتوسعه یافته را رو به زوال میبرد و شهروندانشان را به مصرفکنندگانی تبدیل میکند که در بازارِ آزادِ ایدههای فضای سایبری به «آزادیِ دیجیتالی» دست مییابند.
باربروک و کامرون اگر چند سال بعد از انتشار مقالهشان به ایران میآمدند میتوانستند ابعاد این «آزادیِ دیجیتالی» را تجربه کنند: کاربران به چنان «آزادیِ دیجیتالی» بزرگی دست یافته بودند که حکومت مجبور شد بجای پالایش قانونی چند مورد مشخص که حق مسلم اهالی جامعۀ اطلاعات است، به پالایش فنی بسیار گسترده، مسدودسازی مسیرها، بستن دروازههای بینالمللی، قطع ترافیک اینترنت جهانی، خودی و ناخودی کردن تبعیضآمیز حق دسترسی آزاد کاربران، واگذاری اینترنت طبقاتی و راهکارهای عجیب مثل «اینترنت-پرو»، فروش سیمکارت به اصطلاح «سفید» و ویپیاِنهای گرانقیمت رو بیاورد.
سه دهه بعد، این ایدئولوژی نه تنها محقق شد، بلکه در مواجهه با موجِ پوپولیسمِ ملیگرا ترادیسیِ یافت و به عرصۀ نبردِ جدیدی گام نهاد به نامِ «حاکمیتِ هوش مصنوعی» (AI Sovereignty).
اکنون پرسشِ اصلیِ این است: سازوکارِ تبدیلِ این ایدئولوژی به «کابوس هوش مصنوعی» و به چارچوبی برای منازعۀ ژئوپلیتیکیِ امروز چیست؟ برای بیان این سازوکار، ناگزیرم از دو ابزارِ تحلیلیِ یاری بگیرم: نظریۀ «بلاگردانی» به علاوۀ تئوریِ «میل تقلیدی» (Mimetic Desire) از رنه ژیرار، و مفهومِ «شتابگرایی راست» که پلِ ارتباطیِ سیلیکونولی و ترامپیسم را توضیح میدهد.
۲. ریشهها و مؤلفههای ایدئولوژی کالیفرنیایی
باربروک و کامرون، ایدئولوژی کالیفرنیایی را نتیجۀ ازدواجِ دو جریانِ متضاد توصیف کردند:
- جریان بوهمیسم و «ضدفرهنگ» دهۀ شصتِ قرن بیستم: میراثِ هیپیهای سانفرانسیسکو که با ساختارهای قدرت، دولتِ متمرکز و سرمایهداریِ صنعتیِ قدیم مخالفت میکردند و به زندگیِ اشتراکی، سوءمصرف روانگردانها و خودآگاهیِ فردی باور داشتند.
- جریان نئولیبرالیسم و کارآفرینیِ افراطی: باوری که در آن، «آزادیِ بازار» همان «آزادیِ فردی» تلقی میشود و هرگونه مداخلۀ دولتی، تهدیدی برای نوآوری محسوب میگردد.
این دو جریان، در مجلۀ Wired و در نوشتههای نظریهپردازانی همچون جورج گیلدر و کوین کلی، به یک اسطورۀ مشترک تبدیل شدند: جبرگراییِ تکنولوژیکی، یعنی به این باور که فناوری به طور خودکار و اجتنابناپذیر، جوامع را به سوی دموکراسی، رفاه و صلح سوق میدهد و تنها مانعِ آن، دولتهای گَلِ گُشاد و دست وپاگیر هستند.
۳. نقشِ رِنه ژیرار: میل تقلیدی و بلاگردانیِ کارآفرین
اگرچه در مقالۀ اصلیِ باربروک و کامرون، نامی از فیلسوف فرانسوی تبار مقیم کالیفرنیا موسوم به رنه ژیرار برده نشده، اما دو دهه بعد، نظریاتِ این استاد فلسفه در دانشگاه استنفورد به ابزاری اصلی برای تفسیرِ جهانبینیِ نخبگانِ فناوری بدل شد که یکی از انها شخص «پیتر تیل» است. پیتر تیل که از بنیانگذاران پیپَل و نخستین سرمایهگذار فیسبوک بود، آشکارا اعتراف کرده است که نظریۀ «میل تقلیدیِ» رِنه ژیرار (Girard)، پایۀ استراتژیهای کسبوکارِ اوست.
از منظر ژیرار، انسان موجودی است که امیالش را از دیگری الگوبرداری و تقلید میکند؛ تقلیدی که به رقابت و خشونتِ پایانناپذیر میانجامد. جوامع برای رهایی از این بحران، به یک «بلاگردان» نیاز دارند تا با حذفِ او، آرامشِ موقت برقرار کنند. پیتر تیل و پیروانش در سیلیکونولی، این نظریه را این گونه بازتفسیر کردند:
– کارآفرینِ نابغه ای که بنیانگذار (Founder) نامیده میشود، همان «بلاگردان» است که جامعۀ عوام (تودۀ گرفتارِ میل تقلیدی) او را درک نمیکند و به حاشیهاش میراند.
– هدفِ کارآفرین، «فرار از میل تقلیدی» و خلقِ چیزهایی است که قبلاً وجود نداشته اند. پیتر تیل این فعالیت خلاقانه را «Zero to One » مینامد و معتقد است که این فعالیت خلاقانه، الگویِ تازهای برای ارضاء میل تقلیدی دیگران میشود.
– دولت و دموکراسی، تجلیِ همان «میل تقلیدیِ تودهای» هستند که با مقررات گذاری، مانعِ خلاقیتِ فردی اکثر شهروندان میشوند.
این خوانشِ ابزاری از فلسفۀ رنه ژیرار، به ایدئولوژی کالیفرنیایی لایهای انسانشناختی بخشید و به آن مشروعیتی فلسفی داد تا در نقشِ «منجیِ تکنولوژی رستگاری» ظاهر شود.
۴. ترادیسیِ ایدئولوژی در عصر ترامپ: زایشِ شتابگراییِ دستِ راستی
در پایان دهۀ ۲۰۱۰، این ایدئولوژی با جریانِ پوپولیسمِ ملیگرا (ترامپیسم) مواجه شد. این مواجهه، نتیجۀ منطقیِ همان آموزههای ژیراری بود: وقتی سیلیکونولی، با بیاعتناییِ خود به دولتهای ملی، طبقاتِ کارگرِ سنتیِ آمریکا را به «بلاگردانان جدیدِ» نظمِ جهانی تبدیل کرد، جریانِ ترامپیسم متولد شد تا از این قربانیان حمایت کند.
با این حال، این دو به جای تقابلِ صرف، وارد یک «همپیمانیِ متناقض» شدند که در ادبیاتِ سیاسی، آن را شتابگرایی راست (Right-Wing Accelerationism) مینامند. شتابگرایان بر این باورند که لیبرالدموکراسیِ قرن بیستمی غیرقابلِ اصلاح است و باید هرچه سریعتر فروبپاشد تا نظامی جدید شاملِ یک دولتِ مقتدرِ ملی و شبکههای خصوصیِ تکنولوژیک جایگزینِ آن شود.
پیتر تیل، با حمایتِ مالی از کمپینِ ترامپ و تربیتِ چهرههایی چون جی.دی. ونس (معاونِ رئیسجمهور در دولت دومِ ترامپ)، پلِ ارتباطیِ این دو جریان شد. نتیجه، شکلگیری یک الیگارشیِ تکنو-ناسیونال بود که در آن، شرکتهای فناوری از قدرتِ دولتِ مقتدر برای سرکوبِ رقبا و حذفِ نهادهای نظارتی استفاده میکنند، و دولت نیز از الگوریتمهای آنها برای کنترلِ جمعیت و مشروعیتبخشی به خود بهره میبرد.
۵. حاکمیتِ هوش مصنوعی: میدانِ نبردِ جدید
امروز، این همپیمانیِ متناقض، خود را در میدانِ «حاکمیتِ هوش مصنوعی» به نمایش گذاشته است. حاکمیتِ هوش مصنوعی، مفهومی است که به سرعت در حالِ تبدیل شدن به محورِ سیاستِ خارجی و اقتصادیِ قدرتهای بزرگ است و به معنایِ تواناییِ یک دولت در کنترلِ سه مؤلفۀ اصلی زنجیرۀ ارزشِ هوش مصنوعی تعریف میشود. این سه مؤلفه عبارتند از:
۱. حاکمیتِ داده: دادههای ملی (برای مثال: دادههای ملی شهر نیوم عربستان) کجا ذخیره و پردازش میشوند؟ آیا به شرکتهای خارجی اجازۀ دسترسی به دادههای حساس (برای مثال به دادههای حساس شهر یاسمن در قطر از قبیلِ دادههای سلامت، اقتصاد، و فرهنگ) تفویض میشود؟
۲. حاکمیتِ رایانش: آیا زیرساختِ سختافزاری (تراشهها، سرورهای ابری) وارداتی و وابسته به شرکت خارجی است یا بومی؟ آیا کشور خریدار هوش مصنوعی تواناییِ تولیدِ تراشههای پیشرفته را دارد؟
۳. حاکمیتِ الگوریتمی و ارزشی: مدلهای زبانی بزرگ و سیستمهای تصمیمساز، بر اساسِ چه جهانبینی، اخلاقیات و روایتی تربیت شدهاند؟ چه کسی «بلاگردانِ» الگوریتمی را تعیین میکند؟
برای مثال: گفته میشود که سیستم «ماون» یک مدرسه را به اشتباه به عنوان مرکز فرماندهی معرفی کرده است، لذا آن مکان، بلاگردانِ الگوریتمی «نیازِ نظامیفوری» میشود تا فرماندهان بتوانند تصمیمِ حمله را توجیه کنند و خطایِ سیستم را به گردن «پیچیدگیِ میدان نبرد» بیندازند.
۵-۱. مدلِ سیلیکونولی: حاکمیتِ جهانیِ شرکت هوش مصنوعی
در این مدل که توسط شرکتهایی چون OpenAI، گوگل و متا نمایندگی میشود، هوش مصنوعی به عنوان «کالایی عمومیخصوصی» (Private Public Good) تعریف میشود که باید در اختیارِ همۀ انسانها قرار گیرد، اما مالکیت و کنترلِ آن در دستِ بازار و سرمایهگذارانِ خصوصی در شرکت هوش مصنوعی مربوط است. مخالفانِ این مدل استدلال میکنند که این مدل، در واقع «بیحاکمیتیِ ملی» و استعمارِ دیجیتالیِ کشورهای ضعیفتر است؛ چراکه دادههای آنها را استخراج کرده و الگوریتمهایی را به آنها تحمیل میکند که بر اساسِ فرهنگ و ارزشهای کالیفرنیایی ساخته شدهاند.
۵-۲. مدلِ ترامپیسم-ملیگرا: حاکمیتِ دولتیِ هوش مصنوعی
این مدل، که در دولت دومِ ترامپ و نیز در سیاستهای چین به چشم میخورد، بر «ابرهای ملی» (!)، ممنوعیتِ صادراتِ تراشه، و الزام به استفاده از مدلهایِ بومی هوش مصنوعی تأکید دارد. در اینجا، دولت به جای شرکت، مالکِ نهایی و اصلیِ الگوریتمهاست و هدف، امنیتِ ملی و حفظِ مرزهای فرهنگی ست. نقدِ وارد شده به این مدل، استبدادِ دیجیتالی و نادیده گرفتنِ حقوقِ مدنی به نامِ «حاکمیت» است.
۵-۳. دوگانگیِ پایانی: نقطۀ اشتراک در «نئو-فئودالیسم»
با وجودِ تضادِ ظاهری، هر دو مدل در یک نقطه همگرا هستند: کمرنگشدنِ دموکراسیِ مبتنی بر رأی و قانون. در مدلِ اول، شرکتها با الگوریتمهای خود، رفتارِ شهروندان را مدیریت میکنند؛ در مدلِ دوم، دولت با همان ابزارها، مخالفان را سرکوب میکند. هر دو، «بلاگردانِ» نهایی را تودههایی میدانند که باید به جایِ رأیدادن، از سوی نخبگانِ تکنولوژیکی هدایت شوند. این همان «نئو-فئودالیسمِ دیجیتالی» است که در آن، قدرت از آنِ کسی است که زیرساختِ رایانشی را کنترل میکند، نه کسی که برگه و تعرفۀ رأی دادن را در دست دارد.
۶. نتیجهگیری: بازتعریفِ «بلاگردان» به مثابۀ استراتژیِ رهایی از استعمار دیجیتالی هوش مصنوعی
خوانندۀ محترم این یادداشت باید در نظر بگیرد که منظور از «بلاگردان» همان Scapegoat در زبان انگلیسی است با این تفاوت که اکنون «بلاگردان» معنایی عمیقتر از Scapegoat پیدا میکند. در فارسی، بلاگردان نهادیست برای دفعِ شر، در صورتی که Scapegoat به معنای تحمیلِ گناه به قربانی است. در جهانِ امروز که هر دو مدلِ کالیفرنیایی و ترامپیستی، سعی در تحمیلِ «گناهِ عقبماندگیِ تکنولوژیکی» به گردنِ ملتهای دیگر دارند، شاید تنها راهِ رهایی، بازتعریفِ «بلاگردانِ هوش مصنوعی» باشد.
کشورهایی که خواهانِ حاکمیتِ واقعی در عصر الگوریتمها هستند، چارهای جز بازگشت به سه اصل زیر را ندارند:
۱. نفیِ میل تقلیدی: ما به جای کپیبرداری از مدلهای غربی یا شرقی باید بر اساسِ نیازهای بومی(زبان، اقلیم، فرهنگ، و مسائلِ خاصِ اجتماعی ایران معاصر) مدلهای هوش مصنوعی خود را طراحی کنیم.
۲. بومیسازیِ «بلاگردان»: ما باید هوش مصنوعی را نه به عنوانِ ابزاری برای کاهشِ هزینهها، بلکه به مثابۀ عاملی برای دفعِ بلایایِ خاصِ جامعۀ خودمان (خشکسالی، بحرانِ جنگهای کشدار، یا فرسایشِ زبان) تعریف کنیم.
۳. ایجادِ اکوسیستمِ باز و مشارکتی: ما میتوانیم به جای وابستگیِ مطلق به یک قطب (سیلیکونولی یا پکن)، با تشکیلِ کنسرسیومهای ملی و منطقهای و اشتراکِ زیرساختها، نوعی «حاکمیتِ چندقطبیِ هوش مصنوعی» را رقم بزنیم.
به عبارت دیگر: حاکمیتِ هوش مصنوعی، نه یک مسئلۀ صرفاً فنی یا حقوقی، بلکه بنیادیترین مسئلۀ وجودیِ جوامع در قرن بیستویکم است. کسانی که سرنوشت «بلاگردانِ» الگوریتمی را باقدرت به دست نگیرند و مدلهای بومی خود را خوداتکاء بنیان نگذارند، خود به بلاگردانِ الگوریتمهایِ دیگران بدل خواهند شد.
نبردِ امروز، نه بر سرِ تراشههایِ سریعتر، که بر سرِ روایتِ سریعتر و صریحتر از آینده است و آینده را باید اکنون دریابیم.