هفته نامه عصر ارتباط
اولیـن و پرتیـراژتـرین هفتـه نـامه ICT کشـور
هفته نامه عصر ارتباط - اولین و پر تیراژترین هفته نامه iCT کشور

آینده‌پژوهی از جان ما چه می‌خواهد؟

آینده‌پژوهی از جان ما چه می‌خواهد؟
آینده‌پژوهی از جان ما چه می‌خواهد؟

در شماره پیش از آینده‌پژوهان نوشتیم و گفتیم که می‌توانیم چهار ربع بسازیم و گروه آینده‌پژوهان را در هر ربع بررسی کنیم. ربع اول در قسمت نخست توضیح داده شد.

 ربع دوم

گروه بعدی: افرادی که به تکینگی باور دارند، اما درباره آینده نگران هستند. آنها تکینگی را به‌مثابه نیرویی ضرورتا مثبت نمی‌نگرند. اینها آدم‌هایی هستند اغلب مرد، هرچند زنان بیشتری در مقایسه با گروه قبلی در میان آنها دیده می‌شود، که در جوانی داستان‌های علمی-تخیلی ویران‌شهری خوانده‌اند و درباره همه چیزهایی فکر می‌کنند که وقتی ماشین‌ها خودآگاه می‌شوند، ممکن است در مسیر نادرست پیش برود؛ چیزهایی که احتمال وقوع‌شان کم (اما مثبت!) است. آنها برای تخمین این احتمال وقت صرف می‌کنند.

یکی از مراکز اجتماع این آدم‌ها، ‌سایت لس‌رانگ دات‌کام۱۱ است که محقق هوش مصنوعی الیزر یودکووسکی آن را راه‌اندازی کرده است. یودکووسکی معتقد است که مردم برای آنکه زندگی بهتری داشته باشند، باید از عقلانیت بهره بگیرند و از پیش‌داوری پرهیز کنند. این ایده خوبی است، تاآنجا که در چارچوب فلسفه‌های کاربردی هستیم. اما سرانجام او و پیروانش، در محاسبات احتمالاتیِ به‌طور روزافزون انتزاعی خودشان، با استفاده از قضیه بیز۱۲ و آزمایش‌های فکری عجیب و غریبشان گرفتار همین پیش‌داوری‌ها می‌شوند.

آزمایش فکری محبوب من «باسیلیسکِ روکو» نام دارد، که طی آن یک هوش مصنوعی قدرتمند و بسیار باهوش تمام کسانی را که وجود او را تصور کرده‌اند، اما به خود زحمت نداده‌اند تا او را خلق کنند، شکنجه می‌کند. به دیگر سخن، این هوش مصنوعی یک موجود فرضی انتقام‌جو است که شما را به ‌محض اینکه این آزمایش فکری را می‌شنوید، با خطر روبه‌رو می‌کند. مخترع آن، روکو، باسیلیسکِ روکو را به‌منزله انگیزه‌ای می‌نگرد تا دیگران برای آرمان هوش مصنوعی دوستانه پول اهدا کنند تا «به این‌وسیله احتمال نوعی تکینگی مثبت افزایش یابد». اما بحث درباره این آزمایش چنان به‌سرعت فضای سایت یودکووسکی را فرا گرفت که او آن را ممنوع کرد؛ حرکتی که به‌شکلی نه‌چندان دور از انتظار علاقه بیشتری به این بحث ایجاد کرد.

جنبش متفاوت اما مرتبط دیگری در جهان آینده‌های هوش مصنوعی «جنبش نوعدوستی کارآمد»۱۳ است، که پیتر سینگر فیلسوف در نشریه‌اش آن را تبلیغ می‌کند. مانند یودکووسکی، «جنبش نوع‌دوستی کارآمد» آغازی درخشان داشت. برهان اصلی آنها این بود که ما باید به رنج بشری خارج از مرزهای زندگی خود اهمیت دهیم، نه ‌فقط در پیرامون خودمان، و برای بهینه‌سازی پول خودمان برای بهبود جهان مسوولیت فردی بپذیریم.

شما می‌توانید با این استدلال کارهای بسیار گسترده‌ای انجام دهید، و هواداران نوع‌دوستی کارآمد کمک‌های خیرخواهانه عظیمی در سطح بین‌المللی انجام داده‌اند که مایه اعتبار و سرافرازی آنها است، اما وسواس نسبت ‌به مفهوم کارآمدی را این واقعیت محدود می‌کند که رنج همانند خیر جمعی، به‌سختی قابل کمّی‌سازی است.

با این‌حال، به‌جای اذعان به محدودیت‌های اعداد بی‌حس و روح، این گروه به‌تازگی به‌نوعی خود را دستمایه تقلید و طنز قرار داده است. برخی اقلیت‌های گروه بر این باورند که به‌ جای نگرانی درباره رنج کنونی، باید درباره ریسک‌های وجودی نگران باشند، رخدادهای آینده‌نگرانه نامحتمل که با محاسباتی با توان 10 توصیف می‌شوند و بنابراین می‌توانند رنج‌هایی عظیم به بار آورند. مثال خوبی در این زمینه را می‌توان در ‌سایت فیوچر آو هیومنیتی اینستیتیوت۱۴ که نیک باستروم آن را اداره می‌کند، یافت: «... ما در می‌یابیم که مقدار مورد انتظار کاهش ریسک وجودی فقط به‌اندازه یک میلیاردمِ یک میلیاردمِ یک درصدْ 100 میلیارد بار بیشتر از یک میلیارد زندگی بشری ارزش دارد.»

این آینده‌پژوهان به‌عنوان یک گروه، اشخاصی اساسا همدل با همدیگر هستند، اما به‌طور اسف‌انگیزی در رابطه با مسایل بشری کنونی ساده‌اندیش‌ هستند. اگر آنها درباره ریسک وجودی نگران نباشند، درباره رنج پلانکتون‌ها نگران هستند، یا شاید درباره تک‌تک ذرات جهان.

من ایلان ماسک را در این ربع دوم قرار خواهم داد؛ هرچند او شرایط کامل عضویت در این گروه را ندارد. او که کارآفرینی قدرتمند و بسیار ثروتمند است، محتملا به گروه نخست تعلق دارد، اما گاهی در رخدادهای جنبش نوع‌دوستی کارآمد حضور می‌یابد و به‌تازگی درباره این امر سروصدا بر پا کرده است که رایانه‌ها خبیث می‌شوند و ما را وارد جنگ جهانی سوم می‌کنند. بدبینانی که در میان ما هستند ممکن است ظنین شوند که این عمدتا دستاویزی است تا او در مقام میانجی میان هوش مصنوعی بسیار باهوش و آدمیان خدمات خود را به فروش برساند، هنگامی که زمان این کار به‌طور گریزناپذیر فرا برسد. هرچه باشد، ماسک همیشه چیزی برای فروش دارد، از جمله بلیت سفر به مریخ، سیاره پشتیبان زمین.

ربع سوم

گروه بعدی: كسانی که به تکنولوژی خوش‌بین‌ هستند. آنها به‌طور خاص درباره تکینگی صحبت نمی‌کنند، اما مایل‌ هستند برای افرادی که می‌خواهند به آنها باور داشته باشند، از فضایل پرشمار تکنولوژی را ستایش کنند.

این گروه تازه‌ترین ایده‌ها را اخذ می‌کنند، برای مثال اینکه «آیا بیت‌کوین مشکلات جهان را حل می‌کند؟» و آن را در ازای دریافت پول موضوع یک سخنرانی قرار می‌دهند. ابرثروتمند نیستند، اما مشتاق‌اند ثروتمندتر و مشهورتر بشوند. پول را دنبال کنید و درخواهید یافت که آنها چیزی هستند که دنیل درزنر، نویسنده صنعت ایده‌ها۱۵ (۲۰۱۷) «رهبران اندیشه» می‌نامد، بازرگانان تک‌ایده که ثروتمندان بانفوذ به آنها پول می‌دهند تا در کنفرانس‌های تِد یا جاهایی شبیه آن احساس کنند خاص هستند.

این گروه پیامبران جدید سرمایه هستند، آن‌چنان که نیکول آشوف توصیف‌شان کرده است، و هر موضوع داغ سیاست‌زدوده‌ای را عرضه می‌کنند تا توجه ابرثروتمندان را در هر دوره‌ای به خود جلب کنند. استیو جابزِ قدیس حامی آنهاست؛ آنان نماینده رویای آمریکایی در دنده سرعت هستند، یعنی تحقیر وضع موجود و این تصور که ما می‌توانیم تمام مشکلات را حل کنیم بدون ساز و برگ قدیمی و منسوخ اتحادیه‌ها، آموزش عمومی و شبکه‌های تامین اجتماعی. آنها وقتی ندارند برای پرداختن به پرسش‌های دشوار نابرابری ساختاری، که با تکان یک عصای جادویی ناپدید نمی‌شود.

این دسته نه‌تنها در واقع مشکلات را حل نمی‌کنند، بلکه آن نوع آینده‌پژوهانی هستند که به آشکارترین نحو چیزی برای فروش دارند: یک بینش شرکتی، ایمان کورکورانه به غول‌های صنعت، و حس موفقیت سزاوارانه. برای مثال، آلیدا درات آینده‌پژوهی که در استخدام کپیتال وان است (شرکت فعال در زمینه کارت اعتباری)، در «همایش هو تک»۱۶ اخیر زنان همجنس‌گرا، به شنوندگان توضیح می‌دهد که شغل او تمرکز بر «آینده‌های مثبت» است، طوری که کپیتال وان بتواند این آینده‌ها را به واقعیت بدل کند. معنای این سخن به‌طور کامل روشن نیست، اما من گمان نمی‌کنم این حرف‌ها به معنای اعتبار مالی مجانی برای همه باشد.

زنان بیشتری در این گروه هستند، اما در پایان، این حضور حاکی از پیشرفت نیست. این گروه نیروی فروش چاپلوس و زبردست جنبش آینده‌پژوهی است. هدف آنها تسلط بر گفت‌وگوست و با تکرار پیش‌بینی‌ها درباره آینده به‌اندازه کافی، موجب می‌شوند تا آن آینده به ایده‌ای عادی و ثابت در تخیل جمعی ما بدل شود، حتی اگر آن آینده نوعی دولت نظارت با خرید خوب باشد.

ربع چهارم

سرانجام: افرادی که به تکینگی‌ها باور ندارند، اما باز هم نگران هستند. این گروه من است. در ربع چهارم، ما پولی در اختیار نداریم و نفوذ چندانی هم نداریم. اکثریت ما زنان، مردان دگرباش و رنگین‌پوستان هستیم. ما در موسسات علمی داده‌ها که در سراسر کشور در حال ظهور هستند بازنمود اندکی داریم، زیرا اهداف مالی چنین موسساتی با ابراز نگرانی‌های دردسر آفرین ما ناسازگار است.

و من نگران هستم، زیرا الگوریتم‌های خودکار پیشاپیش دارند جای مهم‌ترین فرایندهای تصمیم‌گیری انسانی را می‌گیرند؛ از آزمون‌های شخصیت گرفته که متقاضیان شغل واجد شرایط را مشخص می‌کند تا الگوریتم‌های ریسک تبهکاری که قضات را متقاعد می‌کند تا احکام طولانی‌تری صادر کنند. وقتی به پیرامون خودم نگاه می‌کنم، می‌بینم نیازی نیست تا نوعی آینده فرضی را در نظر بگیریم که در آن بشر در حال رنج‌کشیدن باشد. ما همین الان در آنجا هستیم. دانشمندان علم داده‌ها در حال خلق ماشین‌هایی هستند که فهم کاملی از آنها ندارند؛ ماشین‌هایی که برنده‌ها را از بازنده‌ها جدا می‌کنند به‌دلایلی که از قبل برای ما بسیار آشنا هستند: طبقه، نژاد، سن، وضعیت معلولیت، کیفیت آموزش، و دیگر سنجه‌های جمعیت‌شناختی. این تهدیدی برای خود مفهوم پویایی اجتماعی است. این پایان رویای آمریکایی است. با وجود آن اغلب آینده‌پژوهان دارند درباره خیال‌پردازی‌های علمی تخیلی صحبت می‌کنند. چرا؟

یان لکان، مدیر بخش هوش مصنوعی در فیس‌بوک، در سخنرانی عمومی اخیر خود، با دقت بین هوش مصنوعی و الگوریتم‌ها تمایز می‌نهد. او توضیح می‌دهد که مطالعه بازی «گو»۱۷ قبلا هوش مصنوعی در نظر گرفته می‌شد، اما اکنون ما یک الگوریتم یادگیری ماشینی داریم که حتی بهترین انسان‌ها را در بازی «گو» شکست می‌دهد. این ترفندی موذیانه است؛ این بدان معناست که ما هرگز درباره آن چیزی سخن نمی‌گوییم که هم‌اكنون در حال وقوع است. اما آنچه همین حالا در حال وقوع است، به‌هیچ‌وجه پیش‌پاافتاده نیست. از بازی‌ها که بگذریم، الگوریتم فیس‌بوک همین الان به‌اندازه‌ای قدرتمند است که دموکراسی ما را منحرف کند. اگر افرادی که در حوزه هوش مصنوعی کار می‌کنند، نمی‌خواهند آن را به‌عنوان هوش مصنوعی در نظر بگیرند، اهمیتی ندارد.

به‌علاوه، تکنولوژیست‌های ربع اول و خوش‌بینان به تکنولوژی در ربع سوم، هنگام ترسیم تصویر زیبای خود از آینده، همواره به شطرنج یا «گو» اشاره می‌کنند، زیرا این دو مورد از مواردی هستند که همه می‌توانند بر سر ماهیتشان به توافق برسند: به‌طور مشخص، یکی برنده است و یکی بازنده. اما این‌جور شفافیت هدف و این مدل از موفقیت بسیار پیچیده‌تر می‌شود، اگر روی سیاره‌ای اجرا شود که به‌سرعت در حال از دست‌دادن منابع آب شیرین خود است و بیش از حد سوخت فسیلی مصرف می‌کند. در جهانی فرضی که در آن مردم می‌توانند زندگی جاودان داشته باشند، منابع را به‌طور نامحدود مصرف کنند و با استفاده از چارچوب‌های سیاسی منسوخ، اعمال نفوذ سیاسی کنند؛ آیا ما باید این فرصت را به آنها بدهیم؟

در پایان، طبقه‌بندی من (هر چقدر هم که من آن را محض سرگرمی ساخته باشم)، واقعا اهمیتی برای آدم‌های معمولی ندارد. برای آدم‌های معمولی، میان تکینگی آن‌چنان که از سوی آینده‌پژوهان ربع اول یا دوم تصور می‌شود و جهانی که در آن پیشاپیش به‌شکلی پیوسته و مخفیانه به طرف «بازنده» هر تصمیم خودکار رانده می‌شوند، تفاوتی وجود ندارد. برای فرد معمولی، این واقعا اهمیتی ندارد که آیا تصمیم برای نگه‌داشتن او در بردگی روزمزد را هوش مصنوعی ابرهوشمند اتخاذ کرده است یا سیستم نه‌چندان هوشمند تعیین ساعات کار در شرکت استارباکس. الگوریتم‌هایی که پیشاپیش برای افرادی نمره فیکوِ۱۸ کمتری دارند، پرداخت حق بیمه بیشتری تعیین می‌کند، یا سیاه‌پوستان را برای مدت بیشتری به زندان می‌فرستد، یا پلیس بیشتری روانه محله‌هایی می‌کنند که از قبل پر از نیروی پلیس هستند، و دوربین‌های تشخیص چهره در هر گوشه و کنارش نصب شده‌اند، همه این‌ها برای فردی که مورد قضاوت است همانند قدرت‌های قدیمی جلوه می‌کند.

در پایان، کل مساله بر سر قدرت و نفوذ است. بدترین سناریو نه هوش مصنوعی انتقام‌جو است، نه اینکه سرگئی برین آن‌قدر عمر نکند که تولد 200 سالگی‌اش را جشن بگیرد. در بدترین سناریو، سرمایه‌داری دیجیتال به مسیر خود ادامه می‌دهد با ابزارهایی که هم‌اکنون در دست دارد و هر روز هم گسترده‌تر می‌شوند، درحالی‌که حتی یک نفر از طبقه نخبگان به چشم نمی‌خورد که به ماجرا شک کرده باشد.

 

۱۱  lesswrong.com .

 ۱۲] Bayes’ Theorem: قضیه‌ای برای محاسبۀ احتمالات شرطی در حساب احتمالات{ [مترجم].

  ۱۳  the Effective Altruism movement .

 ۱۴  Future of Humanity Institute .

 ۱۵  The Ideas Industry .

 ۱۶  Who Tech conference .

 ۱۷  Go .

۱۸] FICO: نمره‌ای که شرکت‌های بیمه بر اساس سوابق اعتباری فرد محاسبه می‌کنند و با آن میزان اعتبار فرد{ را می‌سنجند [مترجم].

منبع: ترجمان

درج دیدگاه

بررسی بازی