В Сколково обозначили основные вызовы робототехники

Должны ли мы давать машине возможность самостоятельно принимать решения? На международном робототехническом форуме SkolkovoRobotics, который состоялся 24 апреля в Технопарке «Сколково», обсудили главные вызовы современной робототехники.

Вопросы на стыке этики, философии и робототехники обсудили специалисты разных профилей. Ли Суен, директор Центра изучения мозга Корейского института передовых технологий (KAIST), сейчас работает в области понимания скрытых намерений человека на основе мультимодальных данных (функциональная магнитно-резонансная томография, электроэнцефалография и данные сканирования глаз). Он обозначил первую проблему, которая встает при попытках наладить общение человека с машиной, — невербалику. «Есть несколько каналов, по которым мы получаем информацию от другого человека. Это само содержание речи, интонации и невербальные проявления. Человек не всегда выражает эмоции вербально, поэтому другому человеку нужно уметь понимать его внутреннее состояние. Мы должны внутри себя сделать предположение и потом проверить его по нескольким другим признакам». Профессор Ли с коллегами в 2015 году занял первое место в конкурсе по распознаванию эмоций по изображениям лица: их программа набрала 61% распознавания. Но любой человек бессознательно анализирует гораздо большее количество признаков, чем просто выражение лица. «Наша задача понять, как думает человек, и вложить этот способ мышления в машину», ― рассказал Ли Суен.

Эмилио Фраццоли, профессор кафедры динамических систем и контроля Швейцарской высшей технической школы Цюриха, соучредитель и технический директор компании nuTonomy, занимается разработкой современного программного обеспечения для беспилотных транспортных средств. Он подчеркнул, что машины не должны во всем копировать людей, в некоторых случаях это может быть вредно. Например, человек подвержен эмоциям, которые влияют на его стиль вождения. И если робот будет водить машину как человек ― это может быть опасно и плохо предсказуемо. Гораздо продуктивнее, если робот будет водить машину согласно четким алгоритмам — правилам дорожного движения. Сложности начинаются при взаимодействии на дороге робота и человека. «Мне кажется, основной вызов в том, что мы сами не можем понять, как, по-нашему, машины должны вести себя, и не только беспилотные. Правил дорожного движения не всегда достаточно. Например, машина может двигаться согласно ПДД, учитывая, что другие участники движения тоже соблюдают правила. Непонятно, что делать, если кто-то действует не по ПДД», ― пояснил Фраццоли. Он также отметил, что невербальный контакт на дороге играет важную роль. Например, водитель может снизить скорость в аварийной ситуации, а в случае с беспилотником машина не будет останавливаться, так как ПДД этого не предполагают. «Поэтому мы все вместе должны сесть и решить, как машины будут двигаться», ― заключил он.

Павел Раснер, профессор кафедры урологии МГМСУ имени А.И. Евдокимова, заведующий 4-м урологическим отделением московской ГКБ имени С.И. Спасокукоцкого, в настоящее время часто использует на практике роботизированный хирургический комплекс «Да Винчи». С его помощью Павел выполняет робот-ассистированные операции и знает все о плюсах и ограничениях применения роботов в медицине. Он заявил, что доверять роботам делать операции пока рано. «Есть три стадии робототехники, мы сейчас на первой, когда робот — это манипулятор, очень точный инструмент, действующий по алгоритмам. Например, сейчас в медицине операции выполняют люди, но можно использовать камеру, чтобы что-то приблизить или сделать очень точный разрез… Сейчас мы приближаемся ко второму шагу, когда роботы будут помогать нам принимать решения, анализируя много факторов (например, рентген, МРТ, другие показатели)». Но все-таки, если робота можно научить делать что-то с помощью большого количества повторений, то медицинская манипуляция остается уникальным процессом, в котором отличающихся факторов больше, чем повторяющихся. Существующие алгоритмы слишком узкоспециализированные, что приводит к парадоксу Моравека (программа может выиграть в шахматы у чемпиона, но не может достигнуть уровня развития даже младенца). Для того чтобы сделать даже второй шаг, нужны новые алгоритмы, новая парадигма и новые исследования, заявил Раснер.

Эмир Шапиро, доцент и директор лаборатории робототехники Департамента инженерной механики Университета имени Бен-Гуриона в Негеве, на сегодняшний день изучает процессы сложного движения у роботов. Он утверждает, что, хотя у человеческой руки 20 степеней свободы, а у руки робота пока всего одна, многократное увеличение степеней свободы движения робота не обязательно приблизит нас к функционалу человеческой конечности. «Мы сможем их увеличить, но нам придется просчитывать, что каждая часть конечности (например, палец) должна делать в какой момент. Это очень затратно. Можно пойти другим путем: не увеличивая степени свободы, усложнять задачи, которые робот может выполнять. Например, подбрасывать и ловить предметы». К тому же, как отметили спикеры, несмотря на такое количество степеней свободы, человек обычно использует сильно ограниченный набор паттернов движения.

В заключение спикеры затронули философский вопрос «Должны ли мы давать машине возможность принимать решения?». Используя системы искусственного интеллекта и алгоритмы самообучения, мы не можем до конца предсказать реакцию робота. Давая машине возможность самообучаться, мы подвергаем себя опасности, потому что от того, какую информацию он получит, будут зависеть его действия. «Мы растим детей, хотя понимаем, что в дальнейшем они не всегда могут быть согласны с нами. Вопрос в том, как к ним относиться ― как к друзьям или врагам. Я выбираю первое. Тоже самое и с роботами», ― резюмировал Ли Суен.

Понравился материал? Добавьте Indicator.Ru в «Мои источники» Яндекс.Новостей и читайте нас чаще.