Google затаврував злочинцем чоловіка, який намагався врятувати хворого сина

Google, смартфон, телефон
Фото: Shutterstock | Google на смартфоні

З вини алгоритмів компанії мешканець США втратив доступ до своїх даних та став фігурантом поліцейського розслідування.

Google заблокував обліковий запис програміста Марка із Сан-Франциско, який надіслав інтимні фотографії свого сина лікарю для обстеження. Таку історію розповіло видання The New York Times.

Ще в 2000-х роках Марк завів собі електронну скриньку в сервісі Gmail і відтоді став активним користувачем Google: він синхронізував зустрічі зі своєю дружиною в Календарі Google, зберігав резервні копії фотографій і відео в хмарі, і навіть підключив телефонний зв'язок Google Fi для здійснення дзвінків та мобільного інтернету.

У лютому 2021 року американець зауважив, що пеніс його сина опух і, за словами хлопчика, хворів. Марк разом зі своєю дружиною звернувся до лікарні та на прохання медсестри сфотографував на свій Android-смартфон геніталії сина, притримуючи рукою для кращої видимості. Завдяки фотографіям лікар швидко поставив діагноз та прописав дитині антибіотики, які усунули запалення.

Google Fullscreen
Програміст Марк, який постраждав через помилку Google
Фото: The New York Times

Через два роки на телефон Марка надійшло повідомлення про те, що його обліковий запис відключено через "шкідливий контент", який "може бути незаконним". Серед можливих причин Google вказав сексуальне насильство та експлуатацію дітей. Компанія заблокувала користувачеві доступ до його електронної пошти, контактів друзів та колег, документів сина і навіть облікового запису Google Fi. Без номера телефону та email Марк не міг увійти в облікові записи на інших сайтах та сервісах.

Американець згадав знімки свого хворого сина: "О Боже, Google, мабуть, думає, що це дитяче порно". Програміст працював над автоматизованим інструментом великої технологічної компанії для видалення відеоконтенту, позначеного користувачами як проблемний, а тому знає, що в IT-компаніях зазвичай є люди, які перевіряють роботу комп'ютерів та усувають помилки. Марк у спеціальній формі пояснив ситуацію з дитиною та попросив переглянути рішення про блокування.

Через кілька днів Google відповів, що не відновлюватиме обліковий запис, не надавши жодних додаткових пояснень. Крім того, компанія помітила кадри як злочинну поведінку, і поліція Сан-Франциско почала розслідування щодо Марка. Слідчий Ніколас Хіллард запросив дані з усіх облікових записів чоловіка в Google: пошукові запити в інтернеті, історію його розташування, його повідомлення та будь-які документи, фото або відео, що зберігаються на серверах, і незабаром закрив справу.

Марк, Google Fullscreen
Марк із сином
Фото: The New York Times

"Я встановив, що жодного злочину не було", — написав Хіллард у своєму звіті.

Попри те, що поліція визнала Марка невинним, Google не розблокував облікові записи. Щобільше, за кілька місяців компанія повідомила про повне видалення облікових записів. Чоловік вирішив було подати до суду, але не захотів витрачати на процес $7 000 — саме таку суму адвокат оцінив свої послуги, — і змирився.

Зображення дітей, які зазнають експлуатації чи сексуального насильства, позначають технологічні гіганти мільйонами на рік. У 2021 році лише Google подав понад 600 тис. повідомлень про матеріали, пов'язані з жорстоким поводженням з дітьми, і в результаті заблокував облікові записи понад 270 тис. осіб. Виявивши підозрілі дані, компанія блокує обліковий запис, шукає у користувача інші такі матеріали та надсилає звіт до сервісу CyberTipline у Національному центрі зниклих безвісти та експлуатованих дітей, який, зі свого боку, аналізує кадри та повідомляє правоохоронців.

Раніше окупанти вкрали телефон і зняли компромат на себе, забувши відключити Google. Завдяки автоматичному збереженню фотографій, власниця апарату та поліція побачили, чим займалися російські військові на тимчасово окупованій території України.