Никогда не спрашивайте у ИИ эту информацию: он может направить вас прямо к мошенникам
Искусственный интеллект (ИИ) может направлять людей непосредственно к мошенникам, поскольку функция AI Overviews от Google пока не способна точно отличить фейковые контакты от настоящих.
Злоумышленники используют обзоры от ИИ в свою пользу, вводя в ответы Google контакты, которым не стоит доверять Сейчас уже известны первые случаи отображения мошеннических номеров службы поддержки в обзорах Google AI, предупреждает журнал Wired.
Суть схемы заключается в том, что жертва гуглит название компании, ища контактный номер, а затем звонит по номеру, выданному ИИ. Далее кто-то, кто выдает себя за эту компанию пытается получить платежную информацию или другие конфиденциальные данные от абонента.
Верите ли вы, что ИИ несет угрозу человечеству?
Эксперты предполагают, что мошенники публикуют эти номера в нескольких малоизвестных местах в Интернете вместе с названиями крупных компаний. Затем AI Overviews собирает их, не проводя надлежащих проверок для подтверждения информации. Между тем Google утверждает, что активно борется с этими мошенниками.
"Наши средства защиты от спама очень эффективны в предотвращении мошенничества в обзорах искусственного интеллекта и отображении официальных номеров службы поддержки клиентов, где это возможно", — сказал представитель Google журналистам.
Стоит также учитывать, что проблема касается не только поисковой системы Google. Исследователи кибербезопасности обнаружили, что вредоносный текст может быть скрыт в электронных письмах, который затем искусственный интеллект собирает, обобщает и подает пользователю как точный и достоверный.
Чтобы не стать жертвой мошенников, не стоит полагаться на ИИ в вопросах константной информации. Если вы ищете номер телефона или почту, загуглите название нужной компании и возьмите информацию с официального сайта.
"Не верьте всему, что читаете в обзоре ИИ, особенно когда речь идет о конкретных фактах, цифрах или номерах телефонов. Технология ИИ от Google склонна к сбору устаревшей или подозрительной информации из Интернета, а также точных данных, и учитывая то, как представлен интерфейс обзора ИИ, трудно заметить разницу", — отметили в издании.
Напомним, ИИ отомстил разработчику, который отклонил его код на GitHub.
Фокус также писал о наиболее распространенных человеческих страхах относительно развития ИИ.