Google заклеймил преступником мужчину, который пытался спасти больного сына

Google, смартфон, телефон
Фото: Shutterstock | Google на смартфоне

По вине алгоритмов компании житель США потерял доступ к своим данным и стал фигурантом полицейского расследования.

Google заблокировал учетную запись программиста Марка из Сан-Франциско, который отправил интимные фотографии своего сына врачу для обследования. Такую историю рассказало издание The New York Times.

Еще в 2000-х годах Марк завел себе электронный ящик в сервисе Gmail и с тех пор стал активным пользователем Google: он синхронизировал встречи со своей женой в Календаре Google, сохранял резервные копии фотографий и видео в облаке, и даже подключил себе телефонную связь Google Fi для совершения звонков и мобильного Интернета.

В февраля 2021 американец заметил, что пенис его сына опух и, по словам мальчика, болел. Марк вместе со своей женой обратился в больницу и по просьбе медсестры сфотографировал на свой Android-смартфон гениталии сына, придерживая рукой для лучшей видимости. Благодаря фотографиям врач быстро поставил диагноз и прописал ребенку антибиотики, которые устранили воспаление.

Google Fullscreen
Программист Марк, который пострадал из-за ошибки Google
Фото: The New York Times

Два спустя на телефон Марка пришло уведомление о том, что его учетная запись была отключена из-за "вредного контента", который "может быть незаконным". Среди возможных причин Google указал сексуальное насилие и эксплуатацию детей. Компания заблокировала пользователю доступ к его электронной почте, контактам друзей и коллег, документам сына и даже аккаунт Google Fi. Без номера телефона и email Марк не мог войти в учетные записи на других сайтах и сервисах.

Американец вспомнил снимки своего больного сына: "О Боже, Google, наверное, думает, что это детское порно". Программист работал над автоматизированным инструментом крупной технологической компании для удаления видеоконтента, отмеченного пользователями как проблемный, а потому знает, что в IT-компаниях обычно есть люди, которые проверяют работу компьютеров и устраняют их ошибки. Марк в специальной форме объяснил ситуацию с ребенком и попросил пересмотреть решение о блокировке.

Несколько дней спустя Google ответила, что не будет восстанавливать учетную запись, не предоставив каких-либо дополнительных объяснений. Кроме того, компания пометила кадры, как преступное поведение, и полиция Сан-Франциско начало расследование в отношении Марка. Следователь Николас Хиллард запросил данные со всех аккаунтов мужчины в Google: поисковые запросы в Интернете, историю его местоположений, его сообщения и любые документы, фото или видео, хранящиеся на серверах, и вскоре закрыл дело.

Марк, Google Fullscreen
Марк с сыном
Фото: The New York Times

"Я установил, что никакого преступления не было", — написал Хиллард в своем отчете.

Несмотря на то, что полиция признала Марка невиновным, Google не разблокировал аккаунты. Более того, через несколько месяцев компания уведомила о полном удалении учетных записей. Мужчина решил было подать в суд, но не захотел тратить на процесс $7000 — именно в такую сумму адвокат оценил свои услуги, и смирился.

Изображения детей, подвергающихся эксплуатации или сексуальному насилию, помечаются технологическими гигантами миллионы раз в год. В 2021 году только Google подал более 600 тыс. сообщений о материалах, связанных с жестоким обращением с детьми, и в результате заблокировал учетные записи более 270 тыс. человек. Обнаружив подозрительные данные, компания блокирует аккаунт, ищет у пользователя другие подобные материалы и отправляет отчет в сервис CyberTipline в Национальном центре пропавших без вести и эксплуатируемых детей, который, в свою очередь, анализирует кадры и уведомляет правоохранителей.

Ранее оккупанты украли телефон и сняли компромат на себя, забыв отключить Google. Благодаря автоматическому сохранению фотографий, владелица аппарата и полиция увидели, чем занимались российские военные на временно оккупированной территории Украины.