مروری بر کتاب «زندگی ۳.۰»

با چشمان بسته به سوی آخرالزمان هوش مصنوعی می‌تازیم

 

 

 

اگر سناریویی درباره جهان در سال ۲۰۵۰ بشنوید که شبیه داستان‌های علمی-‌تخیلی است، احتمالا اشتباه است؛ اما اگر سناریویی درباره جهان در سال ۲۰۵۰ بشنوید که شبیه به داستان‌های علمی‌-تخیلی نیست، قطعا اشتباه است. هوش مصنوعی احتمالا مهم‌ترین عامل تغییر در قرن ۲۱ خواهد بود و زندگی‌هایمان را ‌طوری دگرگون خواهد کرد که اکثر مردم به‌سختی قادر به تصورش هستند. اما واقعیت این است که بیشتر ما همچنان درک بسیار مبهمی از هوش مصنوعی داریم. یووال هراری از میزان آمادگی ما برای رویارویی با آینده می‌گوید.

 

گاردین — هوش مصنوعی احتمالا مهم‌ترین عامل تغییر در قرن ۲۱ خواهد بود. اقتصاد، فرهنگ، سیاست و حتی بدن‌ها و ذهن‌هایمان را نیز به‌ روش‌هایی دگرگون خواهد کرد که اکثر مردم به‌سختی قادر به تصورش هستند. اگر سناریویی درباره جهان در سال ۲۰۵۰ بشنوید که شبیه به داستان‌های علمی-‌تخیلی است، احتمالا اشتباه است؛ اما اگر سناریویی درباره جهان در سال ۲۰۵۰ بشنوید که شبیه به داستان‌های علمی-‌تخیلی نیست، قطعا اشتباه است.

 

فناوری هرگز جبرگرا نیست، بلكه می‌تواند برای خلق انواع گوناگونی از جوامع به‌کار رود. در قرن ۲۰، از راه‌آهن، الکتریسیته و رادیو برای شکل دادن به دیکتاتوری‌های نازی و کمونیستی، و همچنین برای ترویج دموکراسی‌های لیبرال و بازارهای آزاد استفاده شد. در قرن ۲۱، هوش مصنوعی طیف حتی گسترده‌تری از امکانات را کلید خواهد زد. تصمیم به تحقق هرکدام از اینها، به‌احتمال زیاد مهم‌ترین انتخاب بشر در دهه‌های پیش‌رو است.‌

این انتخاب مساله مهندسی یا علم نیست. مساله سیاست است، بنابراین چیزی نیست که بتوانیم آن را به سیلیکون‌ولی وا نهیم، بلکه باید در میان مهم‌ترین موضوعات برنامه سیاسی‌مان باشد. متاسفانه تاکنون هوش مصنوعی به‌ندرت روی رادار سیاسی‌مان ثبت شده است. در هیچ‌یک از کارزارهای انتخاباتی موضوع اصلی نبوده و اکثر احزاب، سیاستمدارها و رای‌دهنده‌ها، انگار هیچ نظری درباره آن ندارند. دلیل اصلی آن این است که اکثر مردم درک بسیار مبهم و محدودی از یادگیری ماشین، شبکه‌های عصبی [مصنوعی] و هوش مصنوعی دارند. (اکثر ایده‌های پذیرفته توسط عموم درباره هوش مصنوعی از فیلم‌های علمی-‌تخیلی ازقبیل ترمیناتور و ماتریکس می‌آیند.) بدون فهم بهتری از این رشته، نمی‌توانیم به دوراهی‌هایی که سر راهمان قرار گرفته‌اند اشراف داشته باشیم: زمانی‌که علمْ سیاسی می‌شود، نادانی علمی منجر به فاجعه سیاسی می‌شود.

کتاب مکس تگمارک، زندگی ۳.۰، سعی در جبران مافات دارد. این کتاب که فهم‌پذیر و جذاب نوشته شده و هدفش عموم کتابخوان‌ها است، نقشه‌ای سیاسی و فلسفی از وعده‌ها و مخاطرات انقلاب هوش مصنوعی ارایه می‌کند. تگمارک به‌جای تمرکز روی یک برنامه یا پیش‌بینی خاص، در پی پرداختن به بیشترین زمینه‌های ممکن است و تنوع گسترده‌ای از سناریوهای مرتبط با تاثیر هوش مصنوعی بر بازار کار، جنگ و نظام‌های سیاسی را مرور می‌کند‌.

زندگی ۳.۰ در توضیح اصطلاحات اصلی و مباحث کلیدی، و زایل کردن اسطوره‌های رایج خوب عمل می‌کند. برای مثال، درحالی‌که داستان‌های علمی‌تخیلی باعث شده‌اند افراد بسیاری نگران روبات‌های شرور باشند، تگمارک به‌درستی تاکید می‌کند که مشکل واقعی، پیامدهای پیش‌بینی‌نشده توسعه هوش مصنوعی بسیار تواناست. لازم نیست هوش مصنوعی شرور باشد و نیازی هم نیست که برای آسیب رساندن، در کالبد یک روبات قرار گرفته باشد. به‌قول تگمارک، «خطر واقعی هوش عمومی مصنوعی، نه بدجنسی بلکه توانایی است. یک هوش مصنوعی ابرهوشمند در نایل آمدن به اهدافش بسیار خوب خواهد بود و چنانچه آن اهداف با اهداف ما مطابق نباشند، به دردسر افتاده‌ایم.»

دررابطه‌ با دلمشغولی با روبات‌ها، باید به خودمان یادآوری کنیم که یک سیستم نظارتی (سیستمی که مدام مردم را ردیابی کرده و از الگوریتم‌های کلان‌داده برای تحلیل رفتار و شخصیت آنها استفاده می‌کند) می‌تواند حریم خصوصی، فردیت و نهادهای دموکراتیک ما را نابود کند و نیازی هم به ماشین‌های قاتلی به سبک ترمیناتور نیست.

طبیعی است که آنچه تگمارک ترسیم می‌کند کامل نیست، و به‌خصوص توجه کافی به تلاقی هوش مصنوعی با زیست‌فناوری ندارد. قرن ۲۱ را نه فناوری اطلاعات تنها، بلکه ادغام فناوری اطلاعات با زیست‌فناوری شکل خواهد داد. هوش مصنوعی دقیقا به‌این‌دلیل اهمیت حیاتی خواهد داشت که به ما قدرت محاسباتی لازم برای هک کردن ارگانیسم انسانی را خواهد بخشید. مدت‌ها پیش از پیدایش رایانه‌های ابرهوشمند، جامعه‌مان توسط هوش مصنوعیِ به‌نسبت زمخت و کم‌هوشی به‌کلی دگرگون خواهد شد که آن‌قدر خوب هست که انسان‌ها را هک، احساساتشان را پیش‌بینی، انتخاب‌هایشان را نیابت و امیالشان را دستکاری کند.‌

زمانی ‌که الگوریتمی شما را بهتر از خودتان بشناسد، نهادهایی چون انتخابات دموکراتیک و بازارهای آزاد بی‌استفاده خواهند شد، و اقتدار از انسان‌ها دریغ و به الگوریتم‌ها خواهد رسید. به‌جای ترسیدن از روبات‌های آدمکشی که به انهدام ما می‌کوشند، باید نگران انبوهی از روبات‌ها باشیم که بهتر از مادر خودمان می‌توانند عواطفمان را برانگیخته و سعی کنند از این توانایی مرموز برای فروختن چیزها به ما استفاده کنند. از فرط خرید ممکن است آخرالزمان شود.‌

اما مشکل اصلی کتاب تگمارک این است که خیلی زود اسیر محدودیت‌های مباحثه‌های سیاسی امروزی می‌شود. انقلاب هوش مصنوعی بسیاری از مسایل فلسفی را تبدیل به پرسش‌های سیاسیِ عملی کرده و ما را وادار می‌کند تا به ‌قول نیک باسترومِ فیلسوف، درگیر «فلسفه با ضرب‌الاجل» شویم. فلاسفه هزاران سال است که درباره آگاهی و اختیار بحث می‌کنند و به اجماعی نرسیده‌اند. این قضیه در عصر افلاطون یا دکارت اهمیتی نداشت؛ زیرا در آن روزگار، تنها در تخیلات خود می‌توانستید موجودات ابرهوشمند بسازید. اما در قرن ۲۱، این مباحثه‌ها درحال نقل مکان از دانشکده‌های فلسفه به دپارتمان‌های مهندسی و علوم رایانه‌ای‌اند و درحالی‌که فلاسفه موجوداتی صبورند، مهندسان بی‌طاقت‌اند و از آنها بی‌قرارتر، سرمایه‌گذاران صندوق‌های پوششی‌اند. هنگامی‌که مهندسان تِسلا موفق به طراحی اتومبیلی خودران می‌شوند، نمی‌توانند صبر کنند تا فلاسفه درباره اخلاقیات آن استدلال کنند‌.

متعاقبا، تگمارک خیلی زود مباحثه‌های آشنا درباره بازار کار، حریم خصوصی و تسلیحات کشتار جمعی را پشت سر گذاشته و به‌ درون عوالمی قدم می‌گذارد که تا اینجا به‌جای سیاست، با فلسفه، الهیات و اسطوره‌شناسی مرتبط بوده‌اند. گریز از آن به‌سختی ممکن است؛ از این‌رو که آفرینش هوش مصنوعی ابرهوشمند رویدادی نه در سطح ملی، بلکه در سطح جهانی یا حتی کیهانی است. مدت چهار میلیارد سال حیات روی زمین بر اساس قوانین انتخاب طبیعی و شیمی آلی تکامل یافت. اکنون علم در آستانه آغاز عصری از حیات غیرارگانیک است که توسط طراحی هوشمند تکامل می‌یابد و چنین حیاتی کاملا محتمل است که درنهایت زمین را ترک گفته و در سراسر کهکشان پخش شود. انتخاب‌های امروزمان می‌توانند تاثیری عمیق بر خط سیر حیات برای هزاره‌های بی‌شمار، و تا دوردست‌ها ورای سیاره خودمان داشته باشند.‌

هرچند احتمالا تگمارک حق دارد كه امور را به این سطح کیهانی بکشاند، ترسم این است که حتی اگر نه اکثریت، تعداد زیادی از خواننده‌های آتی‌اش او را تا آنجا دنبال و درک نکنند. نظام‌های سیاسی، و درواقع ذهن‌های فردی ما واقعا برای تفکر در چنین مقیاسی ساخته نشده‌اند. سازوکارهای سیاسی فعلی به‌ندرت موفق به گرفتن تصمیم‌هایی در مقیاس چند دهه می‌شوند -چگونه می‌توانند تصمیم‌هایی در مقیاس هزاره‌ها بگیرند؟ چه کسی وقت دارد نگران حکومت هوش مصنوعی بر سیاره باشد وقتی مجبور است با دونالد ترامپ و بِرِکسیت سروکله بزند؟

در مورد انقلاب هوش مصنوعی، همانند اغلب اوقات در تاریخ بشر، احتمالا عمیق‌ترین تصمیم‌ها را برپایه ملاحظات کوتاه‌مدت کوته‌بینانه خواهیم گرفت. سیاستمدارهای بی‌مبالاتی که هراس از تهدیدات تروریستی می‌پراکنند، سهامدارانی که نگران درآمدهای فصلی‌اند و کارشناس‌های بازاریابی که می‌کوشند تجربه مشتری۱ را به حداکثر برسانند، آینده حیات بر زمین را تعیین خواهند کرد‌.

اطلاعات کتاب‌شناختی‌:

Tegmark, Max. Life 3.0: Being Human in the Age of Artificial Intelligence. Knopf, 2017

 

پی‌نوشت‌ها:

«Life ۳.۰ by Max« * این مطلب را یووال نوآ هراری نوشته است و در تاریخ ۲۲ سپتامبر ۲۰۱۷ با عنوان Tegmark review we are ignoring the AI apocalypse»در ‌سایت گاردین منتشر شده است. ‌سایت ترجمان در تاریخ ۱۷ آبان ۱۳۹۶ آن را با عنوان «با چشمان بسته به سوی آخرالزمان هوش مصنوعی می‌تازیم» و با ترجمه علی امیری منتشر کرده است.‌

** یووال نوآ هراری (Yuval Noah Harari) مورخ، و نویسنده کتاب ساپینس: تاریخچه مختصر بشر (Sapiens: A Brief History of Humankind) است. آخرین کتاب یووال نوآ هراری، هومو دئوس (Homo Deus) توسط انتشارات وینتج منتشر شده است.

[۱] تجربه مشتری محصول تعامل میان یک سازمان و یک مشتری در طول مدت رابطه آنهاست [مترجم]‌

منبع: ترجمان