جعل صدا و هویت سیاسی با هوش مصنوعی | افشای عملیات «ویکتور» گروهک منافقین | ۵۰۰ کانال، ۵۲ هزار پیام و یک دستیار مجازی | عکس

گزارش تازه شرکت آنتروپیک، سازنده مدل هوش مصنوعی کلاد، از شناسایی یک عملیات سازمان‌یافته برای استفاده از ابزارهای هوش مصنوعی در فعالیت‌های سیاسی و اثرگذاری بر مخاطبان خبر می‌دهد؛ عملیاتی که این شرکت آن را به شبکه‌ای مرتبط با گروهک منافقین نسبت داده است. به گزارش ، بر اساس این گزارش، دست‌کم چهار نفر از افرادی که در این عملیات نقش داشته‌اند، با رسانه‌های رسمی منافقین همکاری می‌کردند. گردانندگان این شبکه از یک ایجنت هوش مصنوعی با نام «ویکتور» استفاده کرده بودند؛ ابزاری که برای جمع‌آوری، تحلیل و پردازش حجم قابل‌توجهی از اطلاعات مربوط به کاربران و مخاطبان سیاسی به کار گرفته می‌شد. یکی از بخش‌های قابل‌توجه این عملیات، رصد گسترده شبکه‌های اجتماعی بود. گردانندگان شبکه بیش از ۵۰۰ کانال را رصد و اطلاعات کاربران داخل ایران را جمع‌آوری کرده بودند. این افراد بر اساس شاخص‌هایی مانند شهر محل زندگی، سن، شغل، گرایش سیاسی و حتی سابقه بازداشت دسته‌بندی می‌شدند؛ روشی که نشان می‌دهد هدف صرفا انتشار محتوا نبوده، بلکه تلاش برای شناخت دقیق‌تر مخاطبان و طراحی پیام‌های متناسب با ویژگی‌های آنان نیز در دستور کار قرار داشته است. بیشتر بخوانید: در بخش دیگری از گزارش آنتروپیک آمده است که حدود ۵۲ هزار پیام برای ایجاد پرونده‌های روان‌شناختی درباره ده‌ها نفر مورد تحلیل قرار گرفته است. چنین داده‌هایی می‌تواند به شبکه‌های سیاسی امکان دهد واکنش افراد، علایق، حساسیت‌ها و الگوهای رفتاری آنان را بهتر شناسایی کرده و پیام‌های هدفمندتری تولید کنند. اما یکی از جنجالی‌ترین موارد، استفاده از هوش مصنوعی برای تقلید از هویت و سبک نوشتاری یک فعال سیاسی واقعی عنوان شده است. طبق گزارش، حدود ۸۴۰۰ پست تلگرامی این فرد به مدل هوش مصنوعی داده شد تا سبک نگارش او بازسازی شود. هدف آن بود که سامانه هوش مصنوعی بتواند به جای این فرد، با مخاطبانش وارد گفت‌وگوی سیاسی زنده شود؛ بدون آنکه مخاطبان از استفاده از هوش مصنوعی و جایگزین‌شدن فرد واقعی با یک سامانه مصنوعی اطلاع داشته باشند. در بخش دیگری از این عملیات، آواتارهای فارسی‌زبان برای تبلیغ برنامه ده‌ماده‌ای مریم رجوی تولید و مجموعه‌ای از حساب‌های هماهنگ در اینستاگرام اداره شده است. برخی از این حساب‌ها نیز در مراحل نخست، ارتباط خود با منافقین آشکار نمی‌کردند و تلاش داشتند تصویری مستقل از یک جریان سیاسی ارائه دهند. گزارش آنتروپیک بار دیگر یکی از نگرانی‌های مهم درباره هوش مصنوعی را برجسته می‌کند: این فناوری تنها ابزار تولید محتوا نیست و می‌تواند برای شناسایی مخاطب، ساخت هویت‌های جعلی، تقلید از افراد واقعی و اجرای عملیات گسترده و هدفمند در شبکه‌های اجتماعی نیز مورد استفاده قرار گیرد. در چنین شرایطی، مرز میان فعالیت سیاسی واقعی و محتوای تولیدشده یا هدایت‌شده توسط هوش مصنوعی، بیش از گذشته در معرض ابهام قرار گرفته است.