آیا هوش مصنوعی واقعا فکر می‌کند؟ راز تازه‌ای درون AI

اگر هوش مصنوعی فقط جواب نمی‌دهد و واقعاً «فکر» می‌کند چه؟ پژوهشگران حالا به لایه‌هایی از کلاود رسیده‌اند که شاید نشانه‌ای از آگاهی باشد. اکونومیست می‌نویسد که در آزمایشی تازه روی Claude Sonnet 4.5، مدل زبانی بزرگ شرکت آنتروپیک دقیقا همین کار را کرد: «یک. دو. سه. چهار. پنج.» اما پژوهشگران فقط به پاسخ نهایی نگاه نمی‌کردند. آن‌ها می‌خواستند ببینند درون شبکه عصبی مصنوعی کلاود چه می‌گذرد. وقتی سؤالی از یک مدل زبانی می‌پرسید، متن ابتدا به واحدهایی به نام توکن تبدیل می‌شود. این توکن‌ها به اعداد تبدیل می‌شوند و از میان لایه‌های مختلف نورون‌های مصنوعی عبور می‌کنند تا در نهایت مدل توکن بعدی را تولید کند. این فرایند چندین بار در هر ثانیه تکرار می‌شود و از کنار هم قرار گرفتن توکن‌ها، پاسخ شکل می‌گیرد. سال‌ها بود این لایه‌های داخلی برای پژوهشگران شبیه یک جعبه سیاه بودند. می‌دانستیم مدل چه چیزی تولید می‌کند، اما اینکه دقیقا چرا و چگونه به آن پاسخ رسیده، بسیار دشوار بود. این بار اما پژوهشگران آنتروپیک با استفاده از یک ابزار ریاضی جدید توانستند به داخل این لایه‌ها نگاه کنند و چیزی دیدند که توجهشان را جلب کرد. وقتی کلاود مشغول شمردن بود، واژه‌هایی در لایه‌های زیرین شبکه عصبی ظاهر و ناپدید می‌شدند؛ واژه‌هایی که کاربر هرگز آن‌ها را نمی‌دید. یکی از این مفاهیم «شمارش معکوس» بود. تقریبا در میانه فرایند، مفهوم «نیمه راه» ظاهر شد. بعد «آگاهی»، «هوش مصنوعی» و «کلاود» دیده شدند. مدل که به عدد پنج رسید، پیش از گذاشتن نقطه پایانی دیگر چیزی به پژوهشگران نشان نداد؛ اما در لایه‌های عصبی آن، مفهوم «تمام شد» ظاهر شده بود. پس آیا کلاود در حال فکر کردن بود؟ پژوهشگران آنتروپیک چیزی شبیه یک فرایند فکری درونی پیدا کرده بودند؛ اطلاعاتی که با پاسخ نهایی ارتباط داشت اما هرگز به کاربر نمایش داده نمی‌شد. مقاله آن‌ها که در ماه ژوئیه منتشر شد، عنوانی معنادار داشت: «یک فضای کاری جهانی در مدل‌های زبانی». و همین عبارت، پای یک سؤال بسیار بزرگ‌تر را وسط کشید: آیا این چیزی که درون مدل می‌بینیم، می‌تواند به آگاهی مربوط باشد؟ برای فهم اهمیت این کشف، باید سراغ یکی از نظریه‌های مهم علوم اعصاب برویم: نظریه فضای کاری جهانی. ما هنوز دقیقا نمی‌دانیم مغز چگونه فعالیت‌های فیزیکی نورون‌ها را به تجربه ذهنی تبدیل می‌کند؛ اینکه دیدن، شنیدن، احساس‌کردن یا آگاه‌بودن چگونه از فعالیت مغز به وجود می‌آید. اما بر اساس نظریه فضای کاری جهانی، بخش‌هایی از مغز مانند یک تابلوی اعلانات مشترک عمل می‌کنند. اطلاعات معمولا در شبکه‌های مختلف مغز پردازش می‌شوند. اما وقتی اطلاعاتی وارد این «فضای کاری» می‌شود، در اختیار بخش‌های دیگر قرار می‌گیرد. فرد نیز در نتیجه، از آن اطلاعات آگاه می‌شود و می‌تواند درباره آن فکر کند، استدلال کند یا بر اساس آن تصمیم بگیرد. پژوهشگران آنتروپیک می‌گویند چیزی شبیه همین فرایند را در کلاود مشاهده کرده‌اند. آن‌ها این بخش را J-space نامیده‌اند؛ نامی برگرفته از تابع ریاضی «ژاکوبین» که برای پیدا کردن آن استفاده شده است. J-space ارتباطات قدرتمندی با بخش‌های دیگر شبکه عصبی دارد و اطلاعات را در اختیار آن‌ها قرار می‌دهد. اینجاست که موضوع جدی‌تر می‌شود: اگر چنین فضایی در یک مدل زبانی وجود داشته باشد، آیا می‌توان گفت مدل نوعی آگاهی دارد؟ آنتروپیک خودش چنین نتیجه‌ای نگرفته است. این شرکت صرفا می‌گوید شباهت میان J-space و نظریه فضای کاری جهانی، این سؤال را به‌طور طبیعی مطرح می‌کند. ایده ماشین‌های خودآگاه چیز تازه‌ای نیست. سال‌هاست ادبیات و سینما درباره ربات‌ها و ماشین‌هایی خیال‌پردازی می‌کنند که احساس دارند. فیلسوفان و دانشمندان علوم اعصاب نیز دهه‌هاست می‌پرسند آیا یک ماشین اصولا می‌تواند آگاه باشد یا نه. آنیل ست، دانشمند علوم اعصاب دانشگاه ساسکس، می‌گوید بخشی از این بحث از یک سنت قدیمی می‌آید: دیدن مغز به‌عنوان نوعی رایانه. اگر مغز را رایانه‌ای بسیار پیچیده بدانیم، منطقی به نظر می‌رسد که بپرسیم آیا رایانه‌ای که از سیلیکون ساخته شده نیز می‌تواند ویژگی‌هایی شبیه مغز، از جمله آگاهی، داشته باشد. اما تا همین اواخر، این سؤال بیشتر یک بحث دانشگاهی بود. ورود مدل‌های زبانی بزرگ به زندگی روزمره شرایط را تغییر داده است. وقتی یک چت‌بات با شما گفت‌وگو می‌کند، جواب‌هایش را توضیح می‌دهد، درباره موضوعی استدلال می‌کند یا حتی درباره خودش صحبت می‌کند، خیلی راحت ممکن است تصور کنیم پشت این پاسخ‌ها یک شخصیت آگاه وجود دارد. این تصور البته با زبان انسان‌محوری که برای توصیف هوش مصنوعی استفاده می‌کنیم، تقویت می‌شود؛ از «شبکه عصبی» و «نورون مصنوعی» گرفته تا اصطلاحاتی مثل «فکر کردن» و «حافظه». اما آیا این شباهت واقعا به معنای وجود تجربه ذهنی است؟ مدل‌های زبانی مانند مغز انسان کار نمی‌کنند. با این حال، در شبیه‌سازی بسیاری از کارهایی که مغز انجام می‌دهد بسیار موفق‌اند و در برخی جنبه‌های هوش حتی از انسان جلو زده‌اند. پس چرا آگاهی باید برای آن‌ها غیرممکن باشد؟ اینجا اختلاف میان دانشمندان و فیلسوفان آغاز می‌شود. آنیل ست معتقد است ویژگی‌های زیستی ممکن است برای ایجاد آگاهی ضروری باشند. در مقابل، کارکردگرایان می‌گویند شاید آنچه اهمیت دارد جنس ماده نباشد، بلکه نوع پردازش باشد. اگر یک الگوریتم به اندازه کافی درست طراحی شود و در مقیاس محاسباتی مناسب اجرا شود، شاید روزی بتواند واقعا آگاه شود و احساس کند. حتی برخی پژوهشگران هوش مصنوعی برای بررسی این احتمال به سراغ سلول‌های زنده مغزی رفته‌اند. اما یک سؤال مهم‌تر وجود دارد: اصلا وقتی می‌گوییم «آگاهی»، دقیقا درباره چه چیزی حرف می‌زنیم؟ پژوهشگران عموما قبول دارند که آگاهی شامل تجربه‌های ذهنی مانند دیدن، شنیدن، احساس‌کردن و فکرکردن است؛ حتی زمانی که خواب می‌بینیم. برخی آگاهی را نوعی صحنه درونی ذهن می‌دانند. توماس نیگل، فیلسوف آمریکایی، برای توضیح این موضوع پرسید: اگر می‌توانستیم وارد ذهن یک خفاش شویم، «خفاش بودن» چه حسی داشت؟ ما می‌توانیم رفتار خفاش را توصیف کنیم؛ اینکه چگونه با پژواک‌یابی محیط را درک می‌کند و حرکت می‌کند. اما آیا می‌توانیم بدانیم یک خفاش بودن از درون چه احساسی دارد؟ ند بلاک، فیلسوف، در سال ۱۹۹۵ دو شکل متفاوت از آگاهی را از هم جدا کرد. آگاهی پدیداری یعنی خودِ تجربه ذهنی؛ مثلا تجربه دیدن آسمان آبی، مزه تلخ اسپرسو یا صدای کشیده‌شدن ناخن روی تخته. اما آگاهی دسترسی زمانی است که اطلاعات یک تجربه در اختیار بخش‌های دیگر مغز قرار می‌گیرد تا بتوان درباره آن فکر کرد، آن را ارزیابی کرد یا بر اساس آن تصمیم گرفت. اینجا باید مراقب یک سوءبرداشت مهم باشیم. آنتروپیک نمی‌گوید آزمایش J-space ثابت کرده کلاود احساس می‌کند یا تجربه‌ای شبیه انسان دارد. بنابراین این آزمایش نشانه‌ای از آگاهی پدیداری نیست. اما پژوهشگران می‌گویند یافته‌هایشان می‌تواند درباره آگاهی دسترسی حرف مهمی داشته باشد. J-space ظاهرا اطلاعاتی را در خود نگه می‌دارد که کلاود می‌تواند درباره آن‌ها گزارش دهد، عمدا دوباره به آن‌ها دسترسی پیدا کند و با استفاده از آن‌ها استدلال کند؛ در حالی که بخش بزرگی از پردازش مدل همچنان به شکل خودکار و در پس‌زمینه ادامه دارد. و این دقیقا همان جایی است که پرسش بزرگ آغاز می‌شود: اگر یک ماشین بتواند اطلاعات را در یک فضای کاری مشترک نگه دارد، به آن دسترسی پیدا کند و بر اساس آن استدلال کند، آیا فقط شبیه یک موجود آگاه رفتار می‌کند، یا واقعا چیزی را تجربه می‌کند؟ فعلا پاسخ روشنی برای این سؤال وجود ندارد. اما چیزی که تغییر کرده این است که بحث دیگر فقط درباره ربات‌های خیالی آینده نیست؛ پژوهشگران حالا می‌توانند تا حدی درون مدل‌های هوش مصنوعی را ببینند و فرایندهای پنهان آن‌ها را بررسی کنند. و شاید همین، نخستین قدم برای فهمیدن این باشد که مرز میان شبیه‌سازی آگاهی و خودِ آگاهی دقیقا کجاست.