Судебный искусственный интеллект признали бесполезным

Американские программисты оценили эффективность алгоритма, определяющего вероятность рецидива осужденных преступников. Они заключили, что программа не более точна, чем люди, знающие лишь возраст, пол и криминальное прошлое заключенных. Результаты исследования опубликованы в журнале Science Advances.

Авторы работы анализировали итоги работы программы Compas, которую используют в США для оценки вероятности того, что осужденный, выйдя на свободу, снова совершит преступление. Сторонники алгоритмов утверждают, что использование больших данных и машинного обучения делает предсказания программы более точными и объективными, чем прогнозы людей. Компьютерные алгоритмы для схожих целей используются и в других странах.

Ученые сравнили предсказания программы с решениями людей, которые никогда или почти никогда не следили за судебными процессами. Алгоритм использует в анализе 137 характеристик для каждого осужденного. Участников эксперимента набрали через краудсорсинговую платформу в Интернете, им дали лишь краткое описание преступников: возраст, пол, отчет об их криминальном прошлом. В результате оказалось, что люди верно определяют, стоит ли ждать рецидива, в 67% случаев, а алгоритм — в 65%. В следующем эксперименте сложную программу сравнили с простым алгоритмом, учитывающим лишь возраст преступника и количество прежних обвинений. Результаты так же оказались сопоставимы.

«Если мы раскроем запатентованные алгоритмы, подробности которых тщательно охраняются, все окажется не очень впечатляющим. Это не значит, что нам не следует ими [программами] пользоваться, но судьям и прокурорам нужно понимать, что за ними стоит», — подвел итог один из авторов работы, профессор Дартмутского колледжа Хани Фарид.