محتوای دستکاری شده و گمراه کننده پدیده جدیدی نیست. اما هوش مصنوعی امکان تولید محتوایی به طور فزاینده در دسترس، پیچیده و فراواقعی را فراهم کرده که هم می‌توان از آن استفاده مفید و خوب، مثلا در ایجاد اثر هنری و آموزشی یا بهبود دسترسی داشت و یا همچنین بهره‌بردای برای ایجاد شک و شبهه در رویدادهای سیاسی یا بدنام کردن افراد و برندها، آزار و اذیت و سوءاستفاده از دیگران، داشت.
عموما مردم خیلی زود به محتوای جعلی اعتماد می‌کنند و پنجاه درصد استفاده از این اطلاعات غلط در چند دقیقه اول اتفاق می‌افتد و بخاطر همین است که وقتی متوجه می‌شویم محتوایی غلط است، چند ساعت و حتی چند روز از آن گذشته و همه‌گیر شده است. جفری هینتون، پدرخوانده هوش مصنوعی در این رابطه می‌گوید: «احتمالا خطر این وجود دارد که اینقدر اخبار جعلی تولید شود که دیگر هیچکس متوجه درست و غلط اخبار نشود!!»
تشخیص محتوای جعلی از واقعیت اصلا کار ساده‌ای نیست. اما در واقع این حق مخاطبان است که برای حفاظت از شواهد وکاهش اطلاعات نادرست، بدانند چه زمانی محتوا با هوش مصنوعی دستکاری یا تولید شده است. شکی نیست که اگر بخواهیم بین واقعی یا جعلی بودم، تفاوت قائل شویم، به شفافیت بیشتری نیاز داریم. مثلا در ماه‌های گذشته تصاویری جعلی از آتش‌سوزی در پنتاگون، پخش ویروس در کاخ سفید، تصاویر جعلی در انتخابات ترکیه، درگیری‌هایی از کلمبیا و … منتشر شد که همگی جعلی بودند، حال اگر این محتواها حاوی نشانه‌هایی بود که مشخص می‌کرد توسط هوش مصنوعی تولید شده، پلتفرم‌های فناوری می‌توانستند سریعتر اقدام کنند. آنها می‌توانستند سرعت توزیع آن را کاهش یا شاید به محتوا برچسب بزنند تا مخاطبان بتوانند جعلی بودن آن را تشخیص دهند و ممکن بود از سردرگمی و افت بازارهای مالی جلوگیری شود.
این تاثیرگذاری به قدری زیاد است که مجله اکونومیست روی جلد خود به اثر هوش‌مصنوعی بر انتخابات ۲۰۲۴ آمریکا نیز پرداخته است.برای کاهش خطرات و ایجاد شفافیت نسبت به محتوای تولید شده توسط این فناوری نوظهور، اقداماتی در سراسر جهان شکل گرفته است که به برخی از آنها اشاره می‌کنیم.
فناوری سینت آی‌دی گوگل
بنا بر اطلاعات منتشر شده اینستاگرام روی برچسب‌گذاری پست‌های تولید و یا ویرایش شده با هوش مصنوعی کار می‌کند و گوگل نیز فناوری «سینت آی‌دی» (SynthID) را فعلا برای نسخه بتا معرفی کرده که قرار است با اعمال تغییراتی ظریف در پیکسل‌های تصاویر آنها را اسکن کرده و موارد تولیدی توسط هوش مصنوعی را برچسب‌گذاری کند. البته گوگل قبل از این فناوری نیز ابزاری به نام «درباره این تصویر» را معرفی کرده بود. این ابزار به کاربران امکان می‌داد تا ببینند تصاویری که در گوگل پیدا می‌کنند برای اولین بار در کجا ظاهر شده‌اند.
هر کشور ممکن است سیاست‌ها و محدودیت‌هایی برای استفاده از هوش مصنوعی در تولید محتوا تعیین کند. اما در هر صورت، در تولید محتوا با هوش مصنوعی، لازم است به مسائل امنیتی، حفظ حریم خصوصی و احترام به قوانین و مقررات مربوط به استفاده از داده‌ها و اطلاعات شخصی کاربران توجه ویژه‌ای شود و کاربران با آگاهی کامل و اندکی تامل نسبت به اخبار و محتواهای تولیدی در فضای مجازی، آنها را نشر دهند
آمریکا
کنگره آمریکا از شرکت‌های توسعه‌دهنده هوش مصنوعی مثل اوپن ای‌آی، آلفابت، متا، آنتروپیک، اینفلکشن، آمازون و مایکروسافت تعهد گرفته تا تمام اشکال محتوا، از متن، تصویر و صدا گرفته تا ویدیو‌های تولید شده توسط هوش مصنوعی را برچسب‌گذاری کند، تا کاربران بدانند چه زمانی از این فناوری استفاده شده است.
سنگاپور
در سنگاپور نیز بر اساس قانون جدید، سکوهای مختلف رسانه‌های اجتماعی مثل فیسبوک باید صفحاتی را که محتوای غلط منتشر می‌کنند، خطرناک اعلام کرده و نظرات مغایر با منافع عمومی را حذف کند.
اتحادیه اروپا
اتحادیه اروپا نیز چند سالیست برنامه‌ای برای مبارزه با اطلاعات غلط تدوین کرده و در آن جنبه‌های مختلفی مثل افزایش آگاهی مخاطب، شفافیت و اعتبار سکوها را بررسی می‌کند. همچنین برچسب‌گذاری محتواهای تولیدی هوش مصنوعی را اجباری کرده و توصیه می‌کند که مخاطبان در مواجهه با محتوای منتشر شده در فضای مجازی، بیشتر مکث کنند تا ببینند آن محتوا واقعیست یا جعلی.
چین
دولت چین نیز اعلام کرده که انتشار محتوای تولید شده توسط هوش مصنوعی بدون استفاده واضح از واترمارک یا علامت‌هایی که نشان‌دهنده استفاده از این فناوری باشند، ممنوع است. همچنین از شرکت‌هایی که به نوعی این فناوری را ارائه می‌دهند می‌خواهد تا گزارشات خود را تابع قانون نگه دارند و افراد را ملزم به ثبت‌نام با نام و اطلاعات واقعی خود کنند تا امکان ردیابی وجود داشته باشد.
در کشورهای دیگر نیز از برچسب‌گذاری تولید محتوا با هوش مصنوعی استفاده می‌شود. این فرآیند ممکن است بر اساس قوانین و مقررات محلی کشورها تنظیم شده و بسته به شرایط محیطی، فرهنگی و حقوقی متفاوت باشد. هر کشور ممکن است سیاست‌ها و محدودیت‌هایی برای استفاده از هوش مصنوعی در تولید محتوا تعیین کند. اما در هر صورت، در تولید محتوا با هوش مصنوعی، لازم است به مسائل امنیتی، حفظ حریم خصوصی و احترام به قوانین و مقررات مربوط به استفاده از داده‌ها و اطلاعات شخصی کاربران توجه ویژه‌ای شود و کاربران با آگاهی کامل و اندکی تامل نسبت به اخبار و محتواهای تولیدی در فضای مجازی، آنها را نشر دهند.
مهسا زحمتکش
