Не хуже Нобелевки: ученая получила премию в $1 млн за "возможность заглядывать внутрь ИИ"

Ученая из Университета Дьюка (США) удостоилась премии за достижения в области разработки интерпретируемых алгоритмов машинного обучения и за создание ИИ, работающего на благо человечества. Награду ей вручили члены Ассоциации Развития искусственного интеллекта (AAAI).

Об этом сообщает scitechdaily.com.

Работу профессора Рудин в области интерпретируемых и прозрачных систем искусственного интеллекта научное сообщество считает новаторской. Благодаря ее разработкам, удалось усовершенствовать функции ИИ-систем, задействованных в таких сферах, как медицинская диагностика, и в тех сферах, где крайне важно соблюдать принципы социальной справедливости.

"Работа профессора Синтии Рудин подчеркивает важность того, что ИИ-системы должны быть прозрачными, особенно при использовании в областях повышенного риска. Ее смелость в решении спорных вопросов подчеркивает важность исследований для решения критических проблем в области ответственного и этичного использования ИИ", — сказала председатель комитета по наградам AAAI Иоланда Гил.

Ученая сотрудничала с энергетической компанией Con Edison, отвечающей за энергоснабжение Нью-Йорка. Ее задача заключалась в том, чтобы при помощи алгоритмов машинного обучения "предсказать", какие люки могут взорваться из-за деградации и перегрузки электрических схем. При усовершенствовании кода, она заметила, что ИИ-система намеренно пытается повысить свою производительность, из-за чего искажались интерпретируемые данные. Это натолкнуло Синтию на мысль о том, что прогностические модели необходимо усовершенствовать, сделав их менее "предвзятыми".

Рудин применила свой подход к интерпретируемому машинному обучению во многих проектах. Вместе с сотрудниками Массачусетской больницы общего профиля она разработала простую систему на основе баллов, которая может предсказать, какие пациенты наиболее подвержены риску деструктивных припадков после инсульта или другой черепно-мозговой травмы.

Для Департамента полиции Кембриджа она разработала модель, помогающую выявить общие черты разных преступлений, чтобы определить, могут ли они быть частью серии, совершенной одними и теми же преступниками. Эта программа с открытым исходным кодом в конечном итоге стала основой алгоритма Patternizr, которой сегодня пользуется Департамент полиции Нью-Йорка.

"Алгоритм искусственного интеллекта COMPAS, используемый в нескольких штатах для принятия решений об условно-досрочном освобождении под залог, — также ее детище. И хотя эта ИИ-система была обвинена изданием ProPublica в расизме, доказать ее вину не получилась, так как многие данные, которыми располагает нейросеть, являются конфиденциальной информацией, а некоторые важные аспекты анализа, проведенного ProPublica, вызывают сомнения", — пишет scitechdaily.com.

Ранее мы сообщали о том, какие ученые стали лауреатами Нобелевской премии в 2021 году.