قطعه قطعه کردن جامعه؛ هشدار تند استاد هاروارد در مورد تاثیر تاریک هوش مصنوعی

زومیت: جیل لپور، مورخ دانشگاه هاروارد، در کتاب جدید خود هشدار داده است که نخبگان فناوری در حال شکل‌دهی به دولت مصنوعی هستند. جیل لپور، مورخ و استاد دانشگاه هاروارد، هشدار می‌دهد که گسترش هوش مصنوعی و واگذاری هرچه بیشتر تصمیم‌های اجتماعی و سیاسی به سامانه‌های تحت کنترل شرکت‌های فناوری، می‌تواند ساختار دموکراسی و زندگی عمومی را به‌تدریج تضعیف کند. لپور این وضعیت را با اصطلاح «دولت مصنوعی» توصیف می‌کند؛ نظمی که در آن بخشی از وظایف و اختیاراتی که زمانی در اختیار نهادهای عمومی و دولت‌های منتخب بود، به شرکت‌ها، پلتفرم‌های دیجیتال و سامانه‌های خودکار منتقل می‌شود. او در گفت‌وگو با پادکست «هارد فورک» نیویورک تایمز گفت در چنین مدلی، تصمیم‌ها بیش از آنکه با رضایت شهروندان گرفته شوند، تحت تأثیر ماشین‌ها و شرکت‌هایی قرار می‌گیرند که مالک یا کنترل‌کننده آن‌ها هستند. لپور تأکید می‌کند که جهان هنوز به‌طور کامل وارد چنین وضعیتی نشده است، اما بسیاری از زیرساخت‌های لازم برای آن درحال شکل‌گیری هستند. به باور او، برخی از مدیران و سرمایه‌گذاران صنعت فناوری نیز دیدگاهی را دنبال می‌کنند که در آن قدرت شرکت‌های فناوری می‌تواند از نهادهای عمومی و خواسته رأی‌دهندگان فراتر برود. لپور در کتاب آینده خود با عنوان «ظهور و سقوط دولت مصنوعی» این ایده را با جزئیات بیشتری بررسی می‌کند. پرسش اصلی او ساده است: چه کسی تصمیم گرفته که بسیاری از تعاملات روزمره انسان‌ها، از دریافت خدمات گرفته تا دسترسی به اطلاعات، باید از طریق سامانه‌های خودکار انجام شود؟ امروزه تماس با شرکت‌ها، دریافت خدمات، جست‌وجوی اطلاعات و حتی پیگیری برخی امور اداری بیش از گذشته به چت‌بات‌ها و سیستم‌های خودکار وابسته شده است. لپور معتقد است این تغییر فقط مسئله‌ای مربوط به راحتی یا فناوری نیست، بلکه می‌تواند بر نحوه توزیع قدرت در جامعه نیز اثر بگذارد. در تعریف او، «دولت مصنوعی» الزاماً به معنای حکومتی نیست که مستقیماً توسط هوش مصنوعی اداره شود. مسئله اصلی، انتقال تدریجی کارکردهای عمومی به شرکت‌هایی است که زیرساخت‌های ارتباطات دیجیتال را در اختیار دارند. امروزه بخش بزرگی از اخبار، اطلاعات سیاسی و تبلیغات انتخاباتی از طریق پلتفرم‌های خصوصی به دست مردم می‌رسد. الگوریتم‌های این پلتفرم‌ها نیز تعیین می‌کنند کاربران چه محتوایی را بیشتر ببینند و چه مطالبی کمتر در معرض دیدشان قرار گیرد. به اعتقاد لپور، این واسطه‌گری می‌تواند رابطه مستقیم شهروندان با نهادهای عمومی، رسانه‌ها و حتی یکدیگر را ضعیف کند. لپور پیش‌تر در مقاله‌ای در سال ۲۰۲۴ در نشریه نیویورکر، گسترش این ساختار را با عبارتی تند، نوعی «پرورش صنعتی زندگی عمومی» توصیف کرده بود. منظور او دسته‌بندی و تفکیک انسان‌ها، انزوا و بیگانگی، و نابودی اجتماع انسانی است. هوش مصنوعی از نگاه لپور یکی از فناوری‌هایی است که می‌تواند این روند را سرعت دهد. کاربران اکنون می‌توانند از چت‌بات‌ها درباره مسائل سیاسی سؤال کنند، درحالی‌که بخشی از پیام‌های سیاسی، تبلیغات و محتوایی نیز که در فضای آنلاین می‌بینند، ممکن است با کمک هوش مصنوعی تولید شده باشد. هم‌زمان، سامانه‌های هوش مصنوعی در تحلیل حجم عظیمی از داده‌های کاربران، سیستم‌های نظارتی و فرایندهای تصمیم‌گیری خودکار به کار گرفته می‌شوند. به همین دلیل، لپور نگران است که تصمیم‌های بیشتری بدون مشارکت مستقیم انسان‌ها و بدون سازوکارهای شفاف پاسخ‌گویی گرفته شوند. یکی دیگر از محورهای انتقاد لپور، ایده‌ای است که توسعه سریع هوش مصنوعی را امری اجتناب‌ناپذیر معرفی می‌کند. او این نگاه را نوعی جبرگرایی فناورانه می‌داند؛ یعنی این تصور که فناوری مسیر مشخصی دارد و جامعه چاره‌ای جز پذیرش آن ندارد. به گفته لپور، چنین استدلالی اغلب با ادعای دیگری همراه می‌شود: اینکه مقررات دولتی مانع نوآوری خواهد شد و در نتیجه باید محدودیت‌های توسعه هوش مصنوعی تا حد امکان کاهش پیدا کند. لپور همچنین با این تصور مخالفت می‌کند که فناوری ذاتاً به تقویت دموکراسی منجر می‌شود. او یادآوری می‌کند که ادعاهای مشابهی درباره کامپیوترهای شخصی، اینترنت و شبکه‌های اجتماعی نیز مطرح شده بود، اما پیامدهای واقعی این فناوری‌ها پیچیده‌تر از وعده‌های اولیه از آب درآمد. به باور لپور، فناوری به‌خودی‌خود نه دموکراتیک است و نه ضددموکراتیک؛ نتیجه به نحوه طراحی، مالکیت، مقررات و میزان پاسخ‌گویی شرکت‌ها و نهادهایی بستگی دارد که آن را در اختیار دارند. هشدار اصلی لپور بیش از آنکه درباره خود فناوری باشد، به تمرکز قدرت مربوط است. او می‌پرسد اگر بخش بزرگی از ارتباطات، اطلاعات، تصمیم‌گیری‌ها و حتی خدمات عمومی به سامانه‌هایی سپرده شود که شرکت‌های خصوصی کنترل می‌کنند، چه سازوکاری برای پاسخگو نگه‌داشتن صاحبان این فناوری‌ها باقی خواهد ماند؟