کلاهبرداری از کاربران از طریق پاسخهای هوش مصنوعی
بررسیها نشان میدهد برخی چتباتهای هوش مصنوعی ممکن است کاربران را به وبسایتهای جعلی فروشگاهی هدایت کنند؛ روشی که کلاهبرداران با سوءاستفاده از آن، اطلاعات بانکی و پول قربانیان را سرقت میکنند.
به گزارش ایسنا، فرض کنید شما میخواهید یک کیف جدید بخرید و از چتبات هوش مصنوعی «چتجیپیتی»(ChatGPT) کمک میگیرید و از آن میپرسید که در حال حاضر چه محصولاتی در فروشگاه مورد علاقه شما وجود دارد. این دستیار هوش مصنوعی گزینههای کیفهای دوشی، غیررسمی و رسمی را به همراه قیمتهای ذکرشده در کنار آنها در اختیار شما قرار میدهد. شما از طریق منابع به وبسایتی که شبیه به وبسایت رسمی فروشگاه مورد علاقه شماست، هدایت میشوید و کیف جدید خود را که در حراج است، خریداری میکنید.
به نقل از گاردین، با وجود طی کردن این مراحل، کالا هرگز به دستتان نخواهد رسید. شما پول را به یک کلاهبردار دادهاید و اطلاعات بانکی شما از طریق یک کلاهبرداری پیچیده که در آن وبسایتهای جعلی به طرز متقاعدکنندهای شبیه به خردهفروشان واقعی به نظر میرسند، لو رفته است.
سرویس بررسی کلاهبرداری «Ask Silver» میگوید وبسایتهای کپیشده در نتایج جستوجوی چتجیپیتی نمایش داده میشوند. این احتمال وجود دارد که مدل زبانی بزرگ پشتیبان چتجیپیتی مسموم شده باشد. مسمومیت هوش مصنوعی زمانی رخ میدهد که محتوای مخرب در اطلاعاتی که هوش مصنوعی از آنها یاد میگیرد، وارد میشوند؛ مانند صفحات وب شبیهسازیشده توسط کلاهبردار. این واقعیت که وبسایتهای کلاهبرداری میتوانند در نتایج تولیدشده توسط هوش مصنوعی ظاهر شوند، نگرانکننده است و یادآوری میکند که کلاهبرداران از هر فناوری جدیدی برای دسترسی به قربانیان بالقوه سوءاستفاده خواهند کرد.