Синтия Рудин, профессор информатики и инженерии Университета Дьюка, стала лауреатом AAAI Squirrel AI Award.
Ученая из Университета Дьюка (США) удостоилась премии за достижения в области разработки интерпретируемых алгоритмов машинного обучения и за создание ИИ, работающего на благо человечества. Награду ей вручили члены Ассоциации Развития искусственного интеллекта (AAAI).
Об этом сообщает scitechdaily.com.
Работу профессора Рудин в области интерпретируемых и прозрачных систем искусственного интеллекта научное сообщество считает новаторской. Благодаря ее разработкам, удалось усовершенствовать функции ИИ-систем, задействованных в таких сферах, как медицинская диагностика, и в тех сферах, где крайне важно соблюдать принципы социальной справедливости.
"Работа профессора Синтии Рудин подчеркивает важность того, что ИИ-системы должны быть прозрачными, особенно при использовании в областях повышенного риска. Ее смелость в решении спорных вопросов подчеркивает важность исследований для решения критических проблем в области ответственного и этичного использования ИИ", — сказала председатель комитета по наградам AAAI Иоланда Гил.
Ученая сотрудничала с энергетической компанией Con Edison, отвечающей за энергоснабжение Нью-Йорка. Ее задача заключалась в том, чтобы при помощи алгоритмов машинного обучения "предсказать", какие люки могут взорваться из-за деградации и перегрузки электрических схем. При усовершенствовании кода, она заметила, что ИИ-система намеренно пытается повысить свою производительность, из-за чего искажались интерпретируемые данные. Это натолкнуло Синтию на мысль о том, что прогностические модели необходимо усовершенствовать, сделав их менее "предвзятыми".
Рудин применила свой подход к интерпретируемому машинному обучению во многих проектах. Вместе с сотрудниками Массачусетской больницы общего профиля она разработала простую систему на основе баллов, которая может предсказать, какие пациенты наиболее подвержены риску деструктивных припадков после инсульта или другой черепно-мозговой травмы.
Для Департамента полиции Кембриджа она разработала модель, помогающую выявить общие черты разных преступлений, чтобы определить, могут ли они быть частью серии, совершенной одними и теми же преступниками. Эта программа с открытым исходным кодом в конечном итоге стала основой алгоритма Patternizr, которой сегодня пользуется Департамент полиции Нью-Йорка.
"Алгоритм искусственного интеллекта COMPAS, используемый в нескольких штатах для принятия решений об условно-досрочном освобождении под залог, — также ее детище. И хотя эта ИИ-система была обвинена изданием ProPublica в расизме, доказать ее вину не получилась, так как многие данные, которыми располагает нейросеть, являются конфиденциальной информацией, а некоторые важные аспекты анализа, проведенного ProPublica, вызывают сомнения", — пишет scitechdaily.com.
Ранее мы сообщали о том, какие ученые стали лауреатами Нобелевской премии в 2021 году.