Новая программа позволяет человеку принимать за беспилотный автомобиль решение о жертвах аварии

Исследователи из Массачусетского технологического института разработали онлайн-площадку «Машина морали», предназначенную для сбора информации о том, как люди решают этическую дилемму, известную как «проблема вагонетки». Предполагается, что это поможет при разработке программного обеспечения для беспилотных автомобилей.

Ресурс предлагает подборку из 13 сценариев, так или иначе основанных на «проблеме вагонетки» — этической дилемме, в которой человеку приходится выбирать меньшее из двух зол. Программа предлагает человеку поставить себя на место беспилотного автомобиля в экстремальной ситуации, когда ему приходится решать, кем пожертвовать (например, двумя пассажирами или тремя пешеходами).

Целью площадки является создание основанного на мнении многих людей представления о том, как автомобиль должен принимать решения в ситуации моральной дилеммы. «Расширение применения машинного интеллекта может привести к ситуациям, когда он будет принимать решения, касающиеся здоровья и жизни человека. Это требует более ясного понимания не только того, как люди делают выбор, но и того, как люди воспринимают решения, сделанные машиной», — говорится на странице ресурса.

Знание границ «приемлемого» (по мнению человека) необходимо при разработке алгоритмов для автомобилей с автопилотом. В аварийной ситуации беспилотный автомобиль может оказаться в положении, описываемом одним из сценариев.