دکتر جمال صوفیه
چه زمانی یک ابزار کمکیِ فناوری تبدیل به عصای کمکی و یا حتی تبدیل به عامل ناتوانی و یک نوع معلولیت ذهنی، میشود؟
این پرسشی است که در کانون چندین پژوهش اخیر درباره کنش و تعامل، میان ذهن انسان و چتباتهای هوش مصنوعی قرار دارد و پژوهشهای مختلفی به آن پرداختهاند. تاکنون، یافتههای این آزمایشها نشان میدهند که تکیه بر هوش مصنوعی برای سبک کردن بار شناختی، ممکن است توانمندیهای خودِ ما را تضعیف کند.
در پژوهشی که در ماه آوریل منتشر شد، محققان در ایالات متحده و بریتانیا دریافتند هنگامی که افراد تنها حدود ۱۰ دقیقه از هوش مصنوعی برای حل مسائل ریاضی یا درک مطلب استفاده کردند، عملکرد مستقل و بدون دریافتِ کمکِ، توسط خود آنها در مواجهه با همان نوع مسائل کاهش یافت. در واقع کسانی که از هوش مصنوعی کمک گرفته بودند، نه تنها نسبت به گروه دوم (که بدون کمک هوش مصنوعی کار کرده بودند) عملکرد ضعیفتری داشتند، بلکه در مواجهه با مسائل چالشبرانگیز نیز سریعتر تسلیم شدند.
به گفته نویسندگان این پژوهش، مطالعه آنها «شواهد علیّتی» ارائه میدهد مبنی بر اینکه تکیه بر هوش مصنوعی برای دریافت کمک، پایداری و اراده را کاهش داده و عملکرد مستقل را مختل میسازد.
آنها نوشتهاند: «افراد صرفاً در انجام تکالیف ضعیفتر نمیشوند، بلکه از تلاش کردن نیز دست میکشند.» همچنین اگر این آثار کوتاهمدت با بهرهگیری درازمدت تداوم یابند، سیستمهای فعلی هوش مصنوعی «در معرض این خطر قرار میگیرند که دقیقاً همان توانمندیهای انسانی را که قرار بود از آنها پشتیبانی کنند، فرسوده سازند.»
یک مطالعه مرتبط دیگر که سال گذشته به سرپرستی محققان موسسه فناوری ماساچوست (MIT) منتشر شد، نشان داد افرادی که برای نگارش مقاله از ChatGPT کمک گرفتند، در مقایسه با کسانی که مقاله را بدون هوش مصنوعی نوشتند، «بهطور پیوسته در سطوح عصبی، زبانی و رفتاری عملکرد ضعیفتری داشتند.»
تنها چند دقیقه پس از پایان تکلیف، افرادی که با یک مدل زبانی بزرگ (LLM) کار کرده بودند، برای به یاد آوردن آنچه خود نوشته بودند با مشکل مواجه شدند. همچنین، زمانی که از آنها خواسته شد مقالهای را بدون کمک هوش مصنوعی بنویسند، نسبت به همتایان خود در این مطالعه عملکرد ضعیفتری ارائه دادند.
اگرچه این قبیل مشکلات فکری کوتاهمدت نگرانکنندهاند، برخی محققان بر این باورند که نگرانی بزرگتر این است که با گذشت زمان، کسانی که برای تفکر و تحلیل، بیش از حد به مدلهای زبانی بزرگ متکی میشوند، ممکن است بهتدریج بخشی از توانایی خود را برای تفکر عمیق و انتقادیِ مستقل از دست بدهند.
ناتالیا کوسمینا، دانشمند پژوهشگر در MIT و یکی از نویسندگان مطالعه نگارش مقاله، میگوید: «هنگامی که تکلیفی مانند نگارش یک مقاله را به انجام میرسانید، حتی اگر آن تکلیف را کماهمیت تلقی کنید، در حال تمرین دادن خود برای غربالگری و استخراج اطلاعات مهم، ساخت یک استدلال و توسعه یک زنجیره فکری ساختاریافته هستید؛ تمام اینها مهارتهای مهمی هستند که با تمرین بهبود مییابند. اگر با استفاده از یک مدل زبانی بزرگ از تمام این فرایند بگذرید، بهتدریج شروع به از دست دادن آن توانمندیها خواهید کرد.»
- «برونسپاری» زیربنای آثار شناختی هوش مصنوعی؟
این یافتهها در زمانی به دست آمدهاند که سیاستگذاران در حال بررسی منافع و مضرات پتانسیلپذیرِ پذیرش هوش مصنوعی هستند.
حتی پیش از پیدایش مدلهای زبانی بزرگ و پرقدرت، افت گسترده نمرات ریاضی و خواندن در میان دانشآموزان آمریکایی و همچنین روندهای به همان اندازه نگرانکننده در میان بزرگسالان آمریکایی نیز، نگرانیهایی را درباره نقشی که فناوریهای اطلاعاتی مدرن بر توانایی ما در تفکر و استدلال ایفا میکنند، برانگیخته بود. با ورود سریع ابزارهای مبتنی بر هوش مصنوعی به کلاسهای درس و شرکتهای آمریکایی، این نگرانیها شدت یافته است.
بسیاری از مخاطرات احتمالیِ اتکای بیش از حد به هوش مصنوعی حول پدیدهای میچرخد که متخصصان علوم اعصاب آن را «برونسپاری شناختی» (Cognitive Offloading) مینامند؛ اصطلاحی که به استفاده از ابزارهای بیرونی برای پشتیبانی از استدلال، به یادآوری و سایر فرایندهای ذهنی اشاره دارد.
کریستی آرمیتاژ، همکار پژوهشی در دانشگاه کوئینزلند استرالیا، میگوید: «دستکم در میان بزرگسالان، شواهدی وجود دارد مبنی بر اینکه برونسپاری شناختیِ بیش از حد میتواند منجر به افت کوتاهمدت در توانمندیهای مربوطه شود.»
اگرچه این شواهد هنوز قطعی نیستند، بهویژه در رابطه با جدیدترین ابزارهای هوش مصنوعی، آرمیتاژ میگوید احتیاط کاملاً موجه است.
او میگوید: «به نظر میرسد با هوش مصنوعی در حال ورود به عصری از نظر کیفی متفاوت هستیم که نگرانکنندهتر از سایر ابزارهای دیجیتال تفکر به نظر میرسد. هوش مصنوعی این احساس را تقویت میکند که میتواند نیاز به تفکر مستقل را برطرف سازد، و نشانههای روشنی وجود دارد مبنی بر اینکه مردم از آن دقیقا به همین شکل استفاده میکنند، یعنی برای دور زدنِ نیاز به توسعه مجموعه مهارتهای جدید، نگارش تکالیف یا گزارشها، اتخاذ تصمیمهای پیچیده و مواردی از این دست.»
اما بخشی از پژوهشهای آرمیتاژ به بررسی برونسپاری شناختی در میان کودکان پرداخته است.
او میگوید: «این موضوع عمدتاً گمانهزنی است، اما فکر میکنم ابراز نگرانی درباره کودکان منطقی است. اگر برونسپاری بیش از حد با توانمندیهای شناختی مستقل تداخل ایجاد کند، این پیامدهای منفی ممکن است برای کودکان به مراتب بدتر باشد، زیرا بسیاری از این توانمندیها هنوز در حال شکلگیری و رشد هستند.»
- همه محققان تا این حد نگران نیستند
با این حال، سام گیلبرت، ارشدِ همکاران پژوهشی در کالج دانشگاهی لندن (UCL)، میگوید: «من نسبت به اینکه در حال آسیب زدن به توانمندیهای خود با هوش مصنوعی هستیم، تردید دارم. اگرچه قطعاً شواهدی وجود دارد مبنی بر اینکه وقتی مردم از ابزارهای شناختی استفاده میکنند، فرایندهای شناختی خود را از مدار خارج میسازند، اما شواهدی نیز وجود دارد که ما این فرایندها را در جای دیگری دوباره به کار میگیریم.»
به عنوان مثال، کسی که برای تنظیم یک ایمیل یا جستجوی یک مطلب به هوش مصنوعی تکیه میکند، ممکن است آن زمان و توان ذهنی را صرف تکلیف دیگری کند که بامعناتر است. «بنابراین، این پدیده ممکن است بیشتر یک بازتنظیم باشد تا یک زیان خالص.»
گیلبرت میگوید برخی از توانمندیهای ذهنی مانند ماهیچهها عمل میکنند؛ به این معنی که اگر آنها را تمرین ندهیم، ضعیف میشوند. او توضیح میدهد: «اگر همیشه یک مهارت خاص را به هوش مصنوعی برونسپاری کنید، احتمالاً در رابطه با آن تکلیف مشخص دچار افت مهارت میشوید. اما حتی اگر چنین چیزی رخ دهد، فکر میکنم ممکن است همزمان در حال کسب مهارتهای جدیدی باشیم، مانند یادگیری ارزیابی انتقادیِ خروجیهای ابزارهایی چون ChatGPT.»
او خاطرنشان میکند که بسیاری از اشکال قدیمیترِ برونسپاری شناختیِ متکی بر فناوری، مانند تکیه بر ماشینحساب برای انجام محاسبات ریاضی، نیز باعث نگرانی مردم شده بود. اما دستکم در مورد ماشینحساب، پژوهشها در نهایت نشان دادند که این فناوری میتواند در صورت معرفی به روشهای درست، واقعاً به تقویت یادگیری و توسعه مهارتها کمک کند.
او میگوید: «در مورد ماشینحساب، یاد گرفتیم که به یک مرحله مستقل نیاز است که در آن ابتدا بدون استفاده از آن یاد بگیرید. این استدلال وجود دارد که باید پیش از به کارگیری فناوری، مهارتهای پایهای را بنا نهاد، و من فکر میکنم این موضوع در مورد هوش مصنوعی نیز میتواند مشابه باشد.»
- درک نحوه استفاده بهینه از این فناوریها
در حالی که برخی از محققان آثار هوش مصنوعی را در قالب فرضی بررسی میکنند، برخی دیگر میگویند نحوه استفاده فعلی مردم از هوش مصنوعی در محیطهای واقعی، تصویری متفاوت و نگرانکنندهتر را ترسیم میکند.
مایکل گرلیچ، استاد مدرسه بازرگانی SBS سوئیس، در کتاب جدید خود با عنوان تله راحتی (The Convenience Trap)، توصیف میکند که چگونه بسیاری از دانشجویانی که به آنها تدریس میکند و همچنین فعالان کسبوکاری که آموزش میدهد، اکنون برای «هر چیزی و همهچیز» به چتباتهای هوش مصنوعی روی میآورند.
گرلیچ، که پژوهشهایی را نیز درباره استفاده ما از هوش مصنوعی منتشر کرده است، میگوید: «این شکل متفاوتی از برونسپاری نسبت به گذشته است.» بر خلاف موتورهای جستجوی اینترنتی قدیمی که کاربران را به صفحات حاوی اطلاعات بالقوه مرتبط اما غیردقیق هدایت میکردند (اطلاعاتی که کاربران اغلب مجبور بودند خودشان برای صورتبندی یک پاسخ مفید آنها را تحلیل و گردآوری کنند) جدیدترین هوش مصنوعیها تمام کار را برای ما انجام میدهند.
او میگوید: «این امر هوش مصنوعی مولد را از سایر اشکال فناوری اطلاعات کاملاً متمایز میسازد. این وضعیت میتواند به آنچه من «مارپیچ اعتماد به هوش مصنوعی» مینامم منجر شود؛ جایی که هرچه بیشتر از هوش مصنوعی استفاده کنم، بیشتر به آن اعتماد میکنم، کار بیشتری را به آن برونسپاری میکنم و با گذشت زمان، نگاه انتقادی کمتری نسبت به آنچه به من میگوید پیدا میکنم.» (برگرفته از مجله تایم)
