Не гірше Нобелівської премії: вчена отримала премію $1 млн за "можливість заглядати всередину ШІ"

Вчена з Університету Дьюка (США) отримала премію за досягнення у сфері розробки інтерпретованих алгоритмів машинного навчання і за створення ШІ, що працює на благо людства. Нагороду їй вручили члени Асоціації Розвитку штучного інтелекту (AAAI).

Про це повідомляє scitechdaily.com.

Роботу професорку Рудін у сфері інтерпретованих і прозорих систем штучного інтелекту наукова спільнота вважає новаторською. Завдяки її розробкам, вдалося вдосконалити функції ШІ-систем, задіяних у таких сферах, як медична діагностика, і у тих сферах, де вкрай важливо дотримуватися принципів соціальної справедливості.

"Робота професорки Синтії Рудін підкреслює важливість того, що ШІ-системи повинні бути прозорими, особливо під час використання у сферах підвищеного ризику. Її сміливість у вирішенні спірних питань підкреслює важливість досліджень для вирішення критичних проблем у сфері відповідального та етичного використання іноземними інвестиціями", — сказала голова комітету з нагород AAAI Іоланда Гіл.

Вчена співпрацювала з енергетичною компанією Con Edison, яка відповідає за енергопостачання Нью-Йорка. Її завдання полягало у тому, щоб за допомогою алгоритмів машинного навчання "передбачити", які люки можуть вибухнути через деградацію і перевантаження електричних схем. Під час удосконалення коду, вона помітила, що ШІ-система навмисно намагається підвищити свою продуктивність, через що спотворювалися інтерпретовані дані. Це наштовхнуло Синтію на думку про те, що прогностичні моделі необхідно вдосконалити, зробивши їх менш "упередженими".

Рудін застосувала свій підхід до інтерпретованого машинного навчання у багатьох проєктах. Разом зі співробітниками Массачусетської лікарні загального профілю вона розробила просту систему на основі балів, яка може передбачити, які пацієнти найбільш схильні до ризику деструктивних нападів після інсульту або іншої черепно-мозкової травми.

Для Департаменту поліції Кембриджа вона розробила модель, що допомагає виявити загальні риси різних злочинів, щоб визначити, чи можуть вони бути частиною серії, здійсненої одними і тими самими злочинцями. Ця програма з відкритим вихідним кодом у підсумку стала основою алгоритму Patternizr, яким сьогодні користується Департамент поліції Нью-Йорка.

"Алгоритм штучного інтелекту COMPAS, який використовується у декількох штатах для прийняття рішень про умовно-дострокове звільнення під заставу, — також її дітище. І хоча ця ШІ-система була звинувачена виданням ProPublica в расизмі, довести її вину не вийшло, оскільки багато даних, якими володіє нейромережа, є конфіденційною інформацією, а деякі важливі аспекти аналізу, проведеного ProPublica, викликають сумніви", — пише scitechdaily.com.

Раніше ми повідомляли про те, які вчені стали лауреатами Нобелівської премії у 2021 році.