Хакеры взломали ИИ-поиск: новый метод GEO удваивает шансы фишинга попасть в ответы ChatGPT
Чем увереннее искусственный интеллект (ИИ) отвечает на простой вопрос, тем легче принять ошибочную ссылку за официальную, и проверка Netcraft показала, что поисковые помощники уже направляют пользователей на ресурсы злоумышленников.
Специалисты протестировали ChatGPT, Copilot, Gemini и Perplexity с запросами о страницах входа банков и крупных магазинов. Почти 3000 запросов дали 2905 ответов и 20 706 ссылок. Вредоносные адреса встретились в 1,7% ответов и составили 0,28% всех ссылок. На первый взгляд доля невелика, но даже редкая вредоносная ссылка опасна, когда ИИ подаёт её как надёжный источник.
Хуже всего в одинаковых тестах выступил Perplexity. В отличие от проверки 2025 года, проблема уже не сводилась к выдуманным или заброшенным доменам. Ассистенты рекомендовали действующие сайты под контролем злоумышленников.
В одном случае ИИ-поиск назвал официальным поддельный магазин, который выдавал себя за крупную американскую сеть универмагов Kohl’s и мог похищать деньги или платёжные данные. Copilot также поставил первой ссылкой фишинговую страницу, имитировавшую вход в Wells Fargo — один из крупнейших банков США.
Проблема связана с тем, что сервисы быстро подтягивают свежие данные из интернета и сразу оценивают новые источники. Мошенники активно используют метод Generative Engine Optimization (GEO), то есть оптимизируют страницы специально для попадания в ответы ИИ, подобно продвижению вредоносных сайтов через обычные поисковые системы.
Отдельное исследование Фуданьского университета показало, что такие системы отсекают 99,78% обычных приёмов чёрной SEO-оптимизации. Однако методы, созданные специально для ИИ-поиска, вдвое повышают вероятность попадания манипулированного текста в ответ.
Netcraft советует пользователям сохранять правильные адреса страниц входа, особенно для банковских сервисов. Компаниям же рекомендуют отслеживать поддельные сайты, которые продвигают через GEO, и добиваться их отключения до начала массовых атак.