کلاهبرداری هوش مصنوعی با جعل نقل قول

به گزارش آرمان ملی آنلاین، در اینترنت مبتنی بر هوش مصنوعی، واقعا چه مقدار از وجهه عمومی خود را می‌توانیم کنترل کنیم؟ در اوایل ‌هفته، ما به طور تصادفی به وب‌ سایتی به نام «The Enlightened Mindset» برخوردیم که به نظر می‌رسد چشم‌اندازی تاریک از آینده‌ وب مبتنی بر هوش مصنوعی باشد.

در میان موارد دیگری که باعث نگرانی می‌شود، هیچ اطلاعات تماسی وجود نداشت و هزاران مقاله در آرشیو بزرگ سایت تنها به ماه ژانویه سال ۲۰۲۳ باز می‌گشت. مهم‌تر از همه، اکثریت قریب به اتفاق هزاران داستان منتشر شده دارای نشانه‌هایی از تولید توسط هوش مصنوعی بودند. متن عمومی است و فاقد لینک پشتیبان برای منابع است، و تصاویر ارائه شده آشفته، ناخوانا، خنده دار یا عجیب و غریب هستند و اغلب به نظر می‌رسد که توسط هوش مصنوعی تولید شده‌اند.

بنابراین تعداد زیادی علامت خطر وجود دارد. پس از بررسی دقیق‌تر، متن مقاله‌های تولید شده توسط هوش مصنوعی این سایت اغلب مملو از اطلاعات نادرست، از جمله نقل قول‌های ساختگی توسط هوش مصنوعی بود که به طور نگران‌کننده‌ای، اغلب به افراد کاملا واقعی نسبت داده می‌شدند.

برای مثال، یک وبلاگ خاص در ژانویه ۲۰۲۳ متنی با عنوان «آیا نقش هاگرید توسط یک ربات ایفا می‌شود؟ کاوش در مورد امکان آن» مواجه شدیم.

اگرچه رابی کولترین(Robbie Coltrane) فقید نقش شخصیت محبوب هاگرید در سری فیلم‌های هری‌پاتر را بازی کرده است، اما یک سر متحرک هاگرید گاهی اوقات در مجموعه‌ی هری پاتر استفاده می‌شد. به نظر می‌رسد این مقاله موضوع درستی را پیش گرفته است و در آن نقل قولی از یک متخصص وجود دارد که می‌گوید: استفاده از ربات در نقش هاگرید اشکالاتی نیز دارد. به عنوان مثال، ربات‌ها فاقد احساسات و تفاوت‌های ظریفی هستند که یک بازیگر می‌تواند به نقش بیاورد.

دکتر روبن بینز (Reuben Binns) که استاد هوش مصنوعی در دانشگاه کمبریج است، اشاره می‌کند: ربات‌ها ممکن است بتوانند احساسات را تقلید کنند، اما نمی‌توانند آن‌ها را مانند انسان‌ها احساس کنند. این بدان معنی است که آنها ممکن است نتوانند همان سطح احساسات را به عنوان یک بازیگر منتقل کنند.

در نگاه اول، این یک ارزیابی منصفانه است. روبن بینز نیز یک شخص واقعی است و در واقع یک محقق هوش مصنوعی است که در یادگیری ماشینی، حفاظت از داده‌ها و تنظیم فناوری تخصص دارد.

اما همانطور که بینز واقعی به فیوچریزم گفته است، اگرچه او لزوما با این نقل قول تولید شده توسط هوش مصنوعی مخالف نیست، اما در واقع هرگز آن را نگفته است و البته او در آکسفورد کار می‌کند و نه در کمبریج.

بینز در پاسخ به سوالی درباره‌ی تجربه‌ی نقل قول تقلبی از سوی او توسط هوش‌مصنوعی گفت: خواندن این نقل قول خنده‌دار بود، زیرا پیش از همه، در مورد من اشتباه نوشته بود. من استاد هوش مصنوعی در دانشگاه کمبریج نیستم، من استاد محاسبات انسان محور در دانشگاه آکسفورد هستم.

او افزود: و سپس در مورد خود نقل قول، من با آن مخالف نیستم. فکر می‌کنم به نوعی با آن موافقم.

بینز گفت که با این حال اگر او واقعا به موضوع بازیگران رباتی می‌پرداخت، حرف کمی متفاوت‌تری می‌زد و صرف نظر از اینکه این نقل قول قابل قبول باشد، این واقعیت را تغییر نمی‌دهد که او هرگز واقعا آن را نگفته است.

در واقع این نشان دهنده‌ی از دست دادن کنترل بر وجهه‌ی عمومی خود است و متاسفانه، بینز واقعی گمان می‌برد که این پدیده ممکن است تازه شروع شده باشد.

بینز گفت: غیرمنتظره نیست و اظهار داشت که در نهایت، این اتفاق برای تعداد زیادی از مردم خواهد افتاد. در چند سال آینده، این یک تجربه‌ی غیرعادی برای کسی که نامش جایی در فضای اینترنت است، نخواهد بود.

او افزود: این فقط بخشی از زندگی خواهد بود. نام شما دیگر چیزی نیست که شما آن را کنترل کنید.

 ایسنا و به نقل از فیوچریزم نوشت، فیوچریزم می‌نویسد: در حین کاوش موارد مشابه بیشتری پیدا کردیم. این اسناد ساختگی عمدتا مربوط به دانشگاهیان بود که اغلب با عناوین و اسناد به هم‌ریخته مشابه و در مواردی با کتاب‌های موجود یا جوایز ناموفق همراه بود.

البته، اینطور نیست که نقل قول جعلی از بینز توسط یک هوش مصنوعی در مقاله‌ی نیویورک تایمز نوشته شده باشد. وبسایت «Enlightened Mindset» به وضوح یک سایت به درد نخور است.

اما تا آنجا که سئوی آن پیش رفته، این سایت چیزی نیست که از آن رد شوید. بر اساس داده‌های شرکت ابزار و منابع سئو  Ahrefs، نشانی وب یا URL آن بیش از ۷۰ هزار بار بک‌لینک شده است و رتبه اعتبار دامنه‌ی آن برای یک وب‌سایت واقعی بد، اما برای یک هرزنامه خوب است.

زمانی که یک صفحه‌ی اینترنتی به صفحه‌ی دیگری لینک می‌دهد، آن را «بک لینک» می‌نامند.

فرمول موفقیت این وبسایت، فرمولی است که سایر هرزنامه‌نویسان بالقوه‌ی هوش مصنوعی ممکن است از آن پیروی کنند. به نظر می‌رسد که شخصی آدرس اینترنتی رها شده یک وب‌سایت معتبر سابق را خریده است و سپس آن URL را با هزاران صفحه‌ی مملو از اطلاعات نادرست پر کرده است.

بینز گفت که اینترنت در حال حاضر مملو از هرزنامه است، و [هوش مصنوعی مولد] تنها بر آن می‌افزاید.

این موضوع دوباره تاکید می‌کند که هوش مصنوعی مولد در ساختن موارد جعلی مختلف بسیار خوب است. و اگر در چند دهه‌ی گذشته هر نوع حضور دیجیتالی داشته‌اید، احتمالا سیستم‌های هوش مصنوعی مولد از روی شما آموزش دیده‌اند.