Останніми тижнями напад бенгальського кота викликав хвилю серед австралійських користувачів. Кожен, хто шукав в Інтернеті унікальний юридичний запит «Чи легальні бенгальські коти в Австралії?» був спрямований на, здавалося б, законний веб-сайт, що містить приманку. Щойно нічого не підозрюючий користувач клацнув, йому було запропоновано завантажити zip-файл, який, на жаль, містив шкідливе програмне забезпечення. Ця шкідлива програма дозволила хакерам отримати контроль над пристроєм користувача, захопити його та вимагати викуп за його звільнення.
Команда дослідників з британської компанії з кібербезпеки Sophos, яка виявила аферу та нещодавно опублікувала свої висновки, вважає, що стратегія хакерів — використання юридичних термінів для заманювання користувачів — була спеціально розроблена для залучення корпоративних цілей.
1 Переглянути галерею
Пошукова система Google
(Фото: Shutterstock)
Треба сказати, що хакери часто виявляють певне почуття гумору. Бенгальська кішка – домашня порода, яка нагадує дикого кота. Візуальна мімікрія розробників породи нагадує обман хакерів — іноді смішно, але часто шкідливо. Їхній вибір використовувати котів у цьому шахрайстві, швидше за все, не випадковий, враховуючи тривалий зв’язок між котами та Інтернетом. Котів часто вважають неофіційними талісманами Інтернету, з давньою культурною присутністю від Кота Ньян до Сварливого Кота, обидва з яких надихнули незліченну кількість теорій і мемів. Як влучно зазначив Sophos, «Інтернет повний котів, а в даному випадку — підроблених сайтів для котів». Вони порадили користувачам бути обережними при виконанні особливо нішевих пошуків.
Професійний термін для цього типу атак – «отруєння SEO» (Search Engine Optimization poisoning). Ця стратегія є більш складною альтернативою фішинговим електронним листам або фальшивим посиланням на кшталт: «Ваш пакунок на митниці, натисніть тут, щоб швидко розблокувати». Маніпулюючи рейтингом пошукових систем, шахраї гарантують, що їхні шахрайські сайти з’являються у верхній частині результатів пошуку.
Щоб досягти цього, зловмисники використовують різні тактики, включаючи реєстрацію доменних імен, схожих на законні сайти, для використання помилок друку, а також введення відповідних ключових слів і використання приватних мереж посилань. Мета полягає в тому, щоб маніпулювати алгоритмами пошукових систем, підвищити видимість їхнього сайту та націлитися на користувачів, які нічого не підозрюють, особливо на тих, хто здійснює нішевий пошук. Як зазначив Sophos, пошукові запити ніші знижують пильність користувачів: «Які шанси фішингової атаки навколо маргінальної теми?» австралійський користувач може запитати, перевіряючи законність бенгальських котів як домашніх тварин.
Цікаво, що метою отруєння SEO не завжди є впровадження шкідливого програмного забезпечення. Наприклад, візьмемо випадок ізраїльського потокового сайту Sdarot, який був заблокований у тривалій битві за авторські права з компанією Zira. Цей конфлікт змусив адміністраторів Sdarot часто змінювати доменні імена. Віддані користувачі, які шукають найновіший сайт, часто стикаються з потоком шахрайських сайтів, які імітують зовнішність Сдарота, разом із підробленим текстом на івриті про пряму трансляцію та завантаження фільмів.
Ці сайти, однак, приховують іншу мету: просування політичної пропаганди. Користувачі можуть наштовхнутися на відео про гуманітарну ситуацію в Газі або підписи, що критикують «ізраїльську брехню», поряд із палестинськими прапорами та гаслами на кшталт «Я підтримую невинних».
Ця тактика, відома як «надлишок ключових слів», передбачає насичення веб-сторінки нерелевантними або надмірними ключовими словами для підвищення рейтингу в результатах пошуку. Це відображає подібний метод отруєння результатів пошуку, але з ідеологічних, а не фінансових мотивів.
Компанії, які створюють генеративні інструменти штучного інтелекту, ненавмисно погіршують і без того токсичний стан пошуку в Інтернеті. Ці інструменти, проголошені як революційні, представляють свої власні проблеми. Окрім традиційного отруєння SEO, вони дозволяють новий тип маніпуляції: отруєння самої моделі.
Пошукові системи формують і організовують глобальні знання, роблячи їх цілісність критичною. Однак, коли пошук контролюється комерційними компаніями, як у випадку з Google, виникає занепокоєння щодо їхньої монополії на інформацію. Незважаючи на численні спроби кинути виклик домінуванню Google, жодному конкуренту це не вдалося — можливо, досі.
OpenAI, компанія, що стоїть за ChatGPT, нещодавно оголосила про плани запустити власну пошукову систему на основі генеративного штучного інтелекту. Незважаючи на те, що це викликало широкий інтерес, з’явилися перші занепокоєння. Одним із тривожних прикладів є відмова ChatGPT обробляти запити, що містять ім’я «David Mayer». Користувачі, які запитували ШІ, отримували повідомлення про помилки, а спроби виявити причину призвели до загадкових відповідей про «конкретні фільтри або правила в системі».
Незалежно від того, чи був «Девід Майєр» навмисно внесений до чорного списку чи ні, цей інцидент підкреслює ризик притаманних упереджень або маніпуляцій у моделях ШІ. На відміну від традиційного отруєння SEO, це являє собою більш глибоку форму корупції — отруєння самого алгоритму, який лежить в основі процесу пошуку.
Для OpenAI позиціонування ChatGPT як пошукової системи має важкий початок. Замість того, щоб вирішити проблему маніпулювання пошуком, це ризикує запровадити нову та потенційно більш підступну форму упередженості в і без того крихку екосистему пошуку в Інтернеті.