Заплутався у свідченнях: в США "поліцейський" ШІ помилково відправив чоловіка до в'язниці за вбивство

Житель США Майкл Вільямс рік провів у в'язниці через помилку "секретного" алгоритму штучного інтелекту ShotSpotter.

Про це стало відомо агентству Associated Press.

У травні 2020 року 65-річний Майкл Вільямс погодився підвести Сафаріана Херрінга — тоді в Чикаго спалахнули масові заворушення і на вулицях міста було небезпечно. На перехресті поряд з авто Вільямса зупинився автомобіль, і людина, що сиділа на передньому сидінні, вистрілила в Херрінга. Майкл Вільямс доставив свого пораненого пасажира в лікарню, але той, на жаль помер. А в підсумку у вбивстві звинуватили Майкла.

Головними доказами у справі став відеозапис з автомобілем на перехресті, а також гучний звук, який вловили мікрофони камер спостереження. За словами прокурорів, штучний інтелект ShotSpotter проаналізував шум і дійшов висновку, що саме Вільямс застрелив жертву.

"Я все намагався зрозуміти, як вони можуть уникнути покарання за використання такої технології проти мене? Це нечесно", — поділився засуджений з AP. — "Вони просто сказали, що звинувачують мене у вбивстві першого ступеня. Коли я почув мені це, в мені щось померло".

У серпні чоловіка відправили під арешт, а через майже рік прокуратура попросила суд закрити справу за недостатністю доказів. За місяці, проведені за ґратами, Майкл Вільямс зневірився і хотів накласти на себе руки, накопичивши великий запас таблеток. Але, на щастя, він живий.

Як з'ясувала AP, в ту фатальну ніч, датчики ShotSpotter зафіксували гучний шум за тією ж адресою, де поранили Херрінга, система відразу ж повідомила про це поліції. Ці дані підтвердили версію слідства про те, що Вільямс застрелив пасажира, хоча не було ні мотиву, ні очевидців. Додатковим доказом стало відео, на якому інша машина проїхала на червоне світло нібито з піднятими вікнами. Пістолета у Вільямса не знайшли.

Пізніше з'ясувалося, що спочатку система ShotSpotter ідентифікувала шум як вибух феєрверку з імовірністю 98%. Однак співробітник компанії після прослуховування аудіофайлу позначив шум як постріл. Крім того, в процесі постобробки алгоритм змінив місце розташування джерела шуму.

Алгоритм ShotSpotter використовує 14 млн звуків, щоб відрізняти постріли від інших шумів і допомагати поліції у розслідуванні злочинів. Такі системи виявлення встановлюють у багатьох містах США та все частіше використовують в якості доказів на судах — приблизно 200 разів у 20-ти штатах з 2010 року, причому 91 випадок з усіх стався за останні три роки. Робота ShotSpotter обходиться США приблизно у $95 тис. За кожну квадратну милю, яку прослуховують мікрофони.

Associated Press досліджувало тисячі документів і взяло інтерв'ю у десятків державних захисників, які працювали з доказами від ShotSpotter. Журналісти виявили низку серйозних недоліків і визначили, що "свідчення" ШІ не варто приймати в якості доказів. Як виявилося, система може не помічати стрілянину, яка відбувається прямо біля її мікрофонів, оскільки визначає їх як звуки феєрверків або сильні вихлопи автомобілів. Крім того, співробітники часто змінюють "вердикт" ШІ, самостійно прослуховуючи аудіозаписи.

Висновки судово-медичної експертизи, підготовлені співробітниками ShotSpotter, використовувалися в суді для неправомірного звинувачення у нападі на поліцейських або для отримання підрахунків кількості пострілів, імовірно зроблених обвинуваченими. Судді по низці справ відкидали такі висновки. При цьому компанія-розробник не розкриває, як саме працюють її технології.

"Свідоцтво експерта про те, що з пістолета стріляли у певному місці у певний момент часу, засноване на технології ShotSpotter, зараз не прийнятне в суді, тому що нині воно не отримало загального визнання наукової спільноти", — заявив суддя Верховного суду Contra Costa Джон Кеннеді.

Раніше блогер створив ШІ-систему для боротьби з крадіями посилок. Помітивши пропажу, алгоритм запускає гучну сирену і поливає зловмисників з водометів.