Діджитал Ніколи не питайте у ШІ цю інформацію: він може направити вас прямісінько до шахраїв
Штучний інтелект (ШІ) може направляти людей безпосередньо до шахраїв, оскільки функція AI Overviews від Google наразі не здатна точно відрізнити фейкові контакти від справжніх.
Зловмисники використовують огляди від ШІ на свою користь, вводячи у відповіді Google контакти, яким не варто довіряти Наразі вже відомі перші випадки відображення шахрайських номерів служби підтримки в оглядах Google AI, попереджає журнал Wired.
Суть схеми полягає в тому, що жертва гуглить назву компанії, шукаючи контактний номер, а потім телефонує за номером, виданим ШІ. Далі хтось, хто видає себе за цю компанію намагається отримати платіжну інформацію або інші конфіденційні дані від абонента.
Експерти припускають, що шахраї публікують ці номери у кількох маловідомих місцях в Інтернеті разом із назвами великих компаній. Потім AI Overviews збирає їх, не проводячи належних перевірок для підтвердження інформації. Тим часом Google стверджує, що активно бореться з цими шахраями.
"Наші засоби захисту від спаму дуже ефективні у запобіганні шахрайству в оглядах штучного інтелекту та відображенні офіційних номерів служби підтримки клієнтів, де це можливо", — сказав представник Google журналістам.
Варто також враховувати, що проблема стосується не лише пошукової системи Google. Дослідники кібербезпеки виявили, що шкідливий текст може бути прихований в електронних листах, який потім штучний інтелект збирає, узагальнює та подає користувачеві як точний та достовірний.
Щоб не стати жертвою шахраїв, не варто покладатися на ШІ у питаннях константної інформації. Якщо ви шукаєте номер телефону або пошту, загугліть назву потрібної компанії та візьміть інформацію з офіційного сайту.
"Не вірте всьому, що читаєте в огляді ШІ, особливо коли йдеться про конкретні факти, цифри чи номери телефонів. Технологія ШІ від Google схильна до збору застарілої або підозрілої інформації з Інтернету, а також точних даних, і враховуючи те, як представлений інтерфейс огляду ШІ, важко помітити різницю", — наголосили у виданні.
Нагадаємо, ШІ помстився розробнику, який відхилив його код на GitHub.
Фокус також писав про найбільш поширені людські страхи щодо розвитку ШІ.