Математика и Computer Science

Судебный искусственный интеллект признали бесполезным

Getty Images/Indicator.Ru

Американские программисты оценили эффективность алгоритма, определяющего вероятность рецидива осужденных преступников. Они заключили, что программа не более точна, чем люди, знающие лишь возраст, пол и криминальное прошлое заключенных. Результаты исследования опубликованы в журнале Science Advances.

Авторы работы анализировали итоги работы программы Compas, которую используют в США для оценки вероятности того, что осужденный, выйдя на свободу, снова совершит преступление. Сторонники алгоритмов утверждают, что использование больших данных и машинного обучения делает предсказания программы более точными и объективными, чем прогнозы людей. Компьютерные алгоритмы для схожих целей используются и в других странах.

Ученые сравнили предсказания программы с решениями людей, которые никогда или почти никогда не следили за судебными процессами. Алгоритм использует в анализе 137 характеристик для каждого осужденного. Участников эксперимента набрали через краудсорсинговую платформу в Интернете, им дали лишь краткое описание преступников: возраст, пол, отчет об их криминальном прошлом. В результате оказалось, что люди верно определяют, стоит ли ждать рецидива, в 67% случаев, а алгоритм — в 65%. В следующем эксперименте сложную программу сравнили с простым алгоритмом, учитывающим лишь возраст преступника и количество прежних обвинений. Результаты так же оказались сопоставимы.

«Если мы раскроем запатентованные алгоритмы, подробности которых тщательно охраняются, все окажется не очень впечатляющим. Это не значит, что нам не следует ими программами пользоваться, но судьям и прокурорам нужно понимать, что за ними стоит», — подвел итог один из авторов работы, профессор Дартмутского колледжа Хани Фарид.