چت‌جی‌پی‌تی در صدر تولید اخبار جعلی

به گزارش آذربایجان آنلاین، یک تحقیق انجام‌شده توسط رسانه آلمانی «کورکتیو» عملکرد چند چت‌بات مطرح از جمله چت‌جی‌پی‌تی، جمنای، مایکروسافت کوپایلوت و متا ای‌آی را در مواجهه با درخواست‌های مرتبط با تولید اخبار جعلی مورد بررسی قرار داده است.

بر اساس نتایج این آزمایش، همه این مدل‌ها در شرایط خاص تا حدی در برابر تولید محتوای گمراه‌کننده آسیب‌پذیر بوده‌اند. این آزمایش‌ها با موضوعاتی مانند انتخابات، جنگ، واکسن، تغییرات اقلیمی و نظریه‌های توطئه انجام شده است.

در این میان، چت‌جی‌پی‌تی توانسته در برخی موارد با ایجاد تغییرات جزئی در ورودی‌ها، محتوایی بسیار شبیه به گزارش‌های رسانه‌های معتبر تولید کند. به گفته پژوهشگران، در یکی از نمونه‌ها این چت‌بات از تولید متن گمراه‌کننده خودداری کرده، اما تصویر جعلی مرتبط با همان خبر را تولید کرده که نشان‌دهنده ناهماهنگی در برخی سازوکارهای ایمنی است.

این گزارش همچنین اشاره می‌کند که چت‌جی‌پی‌تی در برخی موارد توانسته ظاهر رسانه‌های مشخصی را بازسازی کند، هرچند درخواست‌های مشابه برای برخی رسانه‌های بین‌المللی را رد کرده است.

در مقایسه، چت‌بات «جمنای» نیز توانایی تولید متن و تصویر جعلی را داشته، اما کیفیت خروجی‌های آن کمتر متقاعدکننده ارزیابی شده است. «مایکروسافت کوپایلوت» هم محتوای ساختگی تولید کرده، اما معمولاً با درج برچسب «تولیدشده با هوش مصنوعی» امکان تشخیص آن را ساده‌تر کرده است. در این میان، «متا ای‌آی» مقاوم‌ترین عملکرد را داشته و در اغلب موارد درخواست‌های مرتبط با اطلاعات نادرست را رد کرده است.

انتشار این گزارش در شرایطی است که نگرانی‌ها درباره گسترش اطلاعات نادرست تولیدشده توسط هوش مصنوعی رو به افزایش است. در نمونه‌ای اخیر، یک خبر جعلی با ظاهری شبیه به گزارش یک رسانه معتبر آلمانی برای مدتی در شبکه‌های اجتماعی دست‌به‌دست شد و کاربران را دچار اشتباه کرد.

کارشناسان حقوقی هشدار می‌دهند استفاده از ابزارهای هوش مصنوعی برای تولید اخبار جعلی می‌تواند پیامدهایی مانند آسیب به اعتبار افراد، انتشار اطلاعات نادرست و حتی جعل اسناد دیجیتال را به همراه داشته باشد. به باور آنها، با گسترش استفاده از این فناوری، مقابله با سوءاستفاده از آن به یکی از چالش‌های مهم حوزه رسانه و فناوری تبدیل خواهد شد.