Google оценил склонность искусственного интеллекта к агрессии

Исследование лаборатории Google DeepMind показало, что выбор искусственного интеллекта между соперничеством и сотрудничеством сильно зависит от внешних условий, в которых он действует, сообщает Bloomberg. С текстом исследования можно ознакомиться здесь.

Авторов исследования интересовало, при каких условиях искусственный интеллект предпочитает сотрудничество, а в каких — борьбу с противником. Ученые рассчитывают, что она поможет понять, насколько применим искусственный интеллект для решения задач в сложных областях, например экономике, дорожной политике и в сфере защиты окружающей среды.

Принятие решений искусственным интеллектом тестировали на двух играх. В первой из них два компьютера-игрока должны были собрать максимальное количество «яблок». При этом они могли атаковать соперника, тем самым выводя его на время из игры. Если яблок было много, то игроки предпочитали мирное сосуществование, однако, если их не хватало, игроки быстро включались в борьбу. С ростом мощности используемой нейросети уровень агрессии повышался вне зависимости от количества «яблок».

Вторым экспериментом стала игра, в которой «волки» должны были научиться ловить «добычу». При этом удачная охота приносила вознаграждение не только охотнику, но и всем остальным волкам, находящимся поблизости. В этом опыте, в отличие от первого, большие возможности нейросети давали уклон в сторону сотрудничества. Как объясняют авторы исследования, в первой игре борьба была более сложной стратегией, а во второй игре сложнее было сотрудничать.

В дальнейшем исследователи рассчитывают опробовать алгоритмы на более сложных играх, наподобие компьютерных стратегий.