ИИ Google продвигает мошеннические номера, AI переводы scams угрожают безопасности данных пользователей

Google уже не первый год заменяет привычную выдачу ссылок так называемыми AI Overviews — сводками, сгенерированными искусственным интеллектом. Звучит удобно: задал вопрос, получил готовый ответ. Но что если этот ответ содержит мошеннический номер телефона? Именно это сейчас происходит, и масштаб проблемы растёт.

Как мошенники попадают в ИИ-ответы Google

Механизм на удивление прост. Злоумышленники размещают фальшивые номера поддержки на множестве малоизвестных сайтов, связывая их с названиями крупных компаний — банков, кредитных союзов, сервисов. Когда пользователь ищет контактный номер через Google, система AI Overviews собирает информацию из этих источников и выдаёт поддельный номер как факт.

Человек звонит, попадает не в компанию, а к мошенникам, которые представляются службой поддержки. Дальше — классика: у жертвы выманивают платёжные данные, пароли, персональную информацию.

Почему это опаснее обычного фишинга

Дезинформация в интернете существовала всегда. Разница в том, что раньше пользователь видел список ссылок и мог сам оценить надёжность источника. Теперь ИИ подаёт информацию как проверенный факт, оформленный в аккуратную сводку. Критическое мышление при этом отключается — зачем сомневаться, если «Google сказал»?

Издания The Washington Post и Digital Trends зафиксировали конкретные случаи. Банки начали предупреждать клиентов. А исследователи безопасности продемонстрировали, что вредоносный текст можно спрятать даже в письмах и документах, откуда ИИ его подхватит и перескажет пользователю.

Проблема AI переводы scams выходит за рамки одного Google — аналогичные уязвимости обнаружены и в других ИИ-поисковиках, где автоматическая обработка и перевод контента из непроверенных источников создают новые векторы атак.

Как защитить себя

Google заявляет, что активно борется с такими схемами и обновляет антиспам-системы. Но компания сама рекомендует перепроверять номера дополнительным поиском. Вот что это говорит нам о реальном уровне доверия к собственному продукту.

Практические рекомендации

• Не доверяйте контактным данным из ИИ-сводок. Ищите номер на официальном сайте компании — это лишний клик, но он того стоит.
• Проверяйте любой номер вторым поиском, прежде чем звонить.
• Никогда не сообщайте платёжные данные или пароли по телефону, если вы не уверены на 100%, с кем разговариваете.
• Отключить AI Overviews пока нельзя, но можно просто пролистать их и перейти к обычным результатам.

Когда ИИ полезен, а когда нет

Для вдохновения, мозгового штурма или общих вопросов — генеративный ИИ работает неплохо. Но для поиска точных данных: номеров телефонов, адресов, реквизитов — лучше действовать по старинке. Природа генеративных моделей такова, что они не просто воспроизводят информацию, а дополняют и «приукрашивают» её. Для контактных данных это критично.

Если ваш бизнес сталкивается с подобными угрозами или вы хотите выстроить безопасные автоматизации с использованием ИИ — от чат-ботов до аналитики данных — мы в Фабио Де Лука разрабатываем решения, где проверка источников и безопасность данных заложены на уровне архитектуры. Больше материалов о пересечении ИИ и безопасности можно найти в нашем блоге.

Ситуация с мошенническими номерами в Google AI Overviews — наглядное напоминание: чем больше мы полагаемся на ИИ, тем важнее сохранять привычку проверять информацию самостоятельно. Технологии ускоряют доступ к данным, но ответственность за их достоверность пока остаётся на нас.