"Siri і iCloud я відключив": експерт з кібербезпеки пояснив, чим небезпечні сервіси Apple
Прагнення компанії протистояти насильству над дітьми — мета благородна, але вся суть впровадження ШІ-сканера фотоконтенту зводиться до банального стеження за користувачами.
Нещодавно Фокус повідомляв про те, що компанія Apple планує використовувати нові криптографічні технології, щоб обмежити поширення Child Sexual Abuse Material (CSAM) в Інтернеті, зберігаючи при цьому конфіденційність джерел. Іншими словами, ШІ-алгоритм, вбудований за замовчуванням в операційні системи iOS і iPadOS, скануватиме всі файли, які відправляються користувачами в хмарне сховище iCloud, на предмет CSAM-контенту. Також відомо, що виробник планує задіяти віртуального помічника Siri, завдання якого — перешкоджати пошуку контенту, пов'язаного з насильством над дітьми.
Згідно з офіційним повідомленням, опублікованим у блозі компанії, за таким принципом працюватимуть ОС iOS 15, iPadOS 15, watchOS 8 і macOS Monterey, поновлення яких вийдуть наприкінці 2021 року.
Багато айтішників та експертів з кібербезпеки висловлюються проти впровадження таких "нововведень", незважаючи на переслідувану благородну мету. Так, рішення Apple розкритикував професор Кембриджського університету Росс Андерсон, що спеціалізується на шифруванні. У своєму коментарі Financial Times він назвав це "жахливою ідеєю", що призводить до "масового стеження" за користувачами смартфонів і ноутбуків.
Керівник WhatsApp Вілл Кеткарт написав у соцмережах, що підхід, обраний Apple, викликає тривогу, і краще б компанія надала користувачам можливість скаржитися на неналежний контент.
Меттью Грін, фахівець з шифрування з Університету Джона Хопкінса, написав колонку, де пояснив, як можна підробити будь-які дані таким чином, щоб ШІ-система вважала їх небажаними і позначила як CSAM.
Українські експерти з кібербезпеки теж вважають, що американська BigTech-компанія порушує права користувачів на конфіденційність, і що її дії у цьому напрямку не обіцяють користувачам нічого хорошого. Зокрема, про це написав Андрій Баранович у своєму Facebook.
"Як тільки хтось починає вам розповідати про чергову чудову технологію для захисту дітей — не цільтеся навіть, орієнтуйтеся на звук. Криптовійна ніколи не змінюється. З кінця 1980-х шифрування використовується все частіше і частіше, і з завидною впертістю уряди скиглять, що їм кров з носу потрібен "чорний хід" для прослуховування. По-перше, для захисту дітей, по-друге, для анти-терору, потім — для всього підряд. Практично в усіх конституціях такий "захист" називається інакше — необґрунтований, несанкціонований обшук", — ділиться Андрій.
Баранович вважає, що техно-компанії, на кшталт Apple, "не хочуть псувати шифрування", тому йдуть на "компроміс", і полягає він у тому, щоб сканувати дані до відправлення ("точно так само, як працюють спам-фільтри і антивіруси", — пояснює експерт). За його словами, "Apple збирається додати такий фільтр у телефони, щоб шукати дитячу порнографію".
"І ніяка це не "слизька доріжка", ми вже стрімголов скотилися з гори в яму масового прослуховування. Ніяке machine learning не дасть точного результату, а витівники з adversarial ML (Adversarial Machine Learning — "шкідливе машинне навчання", — технологія, здатна обдурити МО-алгоритми, ред.)... надішлють вам такі картинки, що поліція виб'є ваші двері тараном перш, ніж ви зрозумієте що взагалі сталося (таке вже було і до Apple)", — попереджає фахівець.
Для користувачів важливо знати ще й те, що "пошуковий алгоритм можна натренувати на що завгодно, наприклад, на жарти про найбільших лідерів сучасності типу "китайського Вінні Пуха". "Зараз в КНР іноді намагаються встановлювати spyware (шкідлива програма, яка без згоди користувача збирає і передає інформацію з пристрою, — ред.) на кордоні, репресивні режими використовують софт на кшталт того, який робить NSO (йдеться про програму для шпигунства Pegasus, — ред.). І тут Apple відкриває їм прямий доступ до пристроїв користувачів", — міркує Андрій.
А буквально днями відбулася витік, в результаті якого ЗМІ опублікували зміст внутрішньої записки Apple про те, що всі, хто противиться руйнування таємниці особистого життя — в меншості, і що борців зі CSAM їм не перемогти.
"Не розумію як вони збираються забезпечити безпеку системи масового стеження, якщо не можуть захистити навіть внутрішню переписку", — іронізує експерт і додає, — "Siri і iCloud я вже відключив, сподіваюся, що і плани по скануванню пристроїв вийде зірвати або зіпсувати якимось іншим чином. Тому що так не має бути".
Раніше ми повідомляли про те, які оновлення чекають операційну систему iOS 15.