Компьютерный алгоритм научился отделять слухи от правды

Американские ученые разработали компьютерный алгоритм, который может проверять слухи в Интернете. Препринт статьи с результатами исследования доступен на сайте ArXiv.org.

В социальных сетях и на некачественных новостных сайтах иногда распространяются сообщения, которые искажают факты или вовсе лгут. Часто такие фейковые новости сопровождаются картинкой или видео, которые либо не имеют никакого отношения к сообщению, либо были отредактированы и поэтому тоже не полностью достоверны. Визуальная информация усиливает «эффект» и слух расходится по Интернету быстрее. Исследователи из Калифорнийского университета в Дейвисе разработали алгоритм, который позволит проверять такие слухи и отслеживать их на разных платформах.

Разработанная программа отыскивает похожие сообщения на различных сайтах. При этом статьи и посты могут быть на разных языках, а связующим звеном выступает именно медиаконтент: фотография или видео. В результате каждый слух представляется в программе в виде 300-мерного вектора, в котором содержится информация о том, на каких платформах, когда и как появилось то или иное сообщение.

Для обучения алгоритма авторы использовали 453 000 пар новостей на английском и китайском языках. После этого программа смогла отличить слух от правдивой новости. Например, некоторое время назад в твиттере распространилось сообщение о том, что в Арканзасе выловили рыбу-свинью — животное с телом рыбы и головой свиньи. Сообщение сопровождалось реалистичной фотографией гибрида. Если загрузить эту фотографию в поисковик, он выдаст аналогичные сообщения, опубликованные на других ресурсах. Алгоритм сравнивает все эти посты и выносит вердикт, правдива новость или нет.

В дальнейшем разработчики планируют усовершенствовать программу. Она сможет не только определять правдивость сообщения, но и объяснять, почему доверять ему нельзя. Алгоритм будет выдывать объяснения вроде «этот пост — фейк, потому что картинка в нем взята из новости о другом событии и не имеет отношения к делу».

Понравился материал? Добавьте Indicator.Ru в «Мои источники» Яндекс.Новостей и читайте нас чаще.