«Информационные системы должны быть способными помочь людям в самоорганизации»

Сейчас многие участники «Острова 10-21» и «Острова 10-22» (образовательных программ интенсивной подготовки кадров для цифровой экономики и Национальной технологической инициативы) говорят о том, что эти мероприятия стали для них подготовкой к тем стремительным изменениям, которые происходят в мире. «Острова» действительно во многом были экспериментом, где отрабатывались новые форматы цифрового взаимодействия, системы управления персональными траекториями развития людей в большом сообществе на основе данных цифрового следа. Организация и управление «Островами» стали уникальным опытом, которым команда Университета «20.35» считает важным поделиться именно сейчас, когда для общества вопрос повышения социальной ответственности и принятия новых моделей поведения напрямую связан с вопросом жизни и здоровья сотен тысяч людей.

«Остров 10-21» и технооптимизм

«Остров 10-21», состоявшийся во Владивостоке в 2018 году, стал первым в мире массовым мероприятием, где участники (1021 человек) принимали обязательства по сбору данных о своем местоположении и иных показателях, фиксируемых с помощью датчиков частоты сердечных сокращений. Из 1021 участника только десять человек тем или иным способом явно отказались от сбора данных (отказ в подписании общей формы соглашения об использовании данных, неустранимые проблемы с устройствами, непереносимость контакта кожи с материалами датчиков).

Однако реальная готовность действительно носить устройства и обеспечивать непрерывный сбор данных в течение всего дня оказалось не такой высокой: только для 80% пользователей были собраны датасеты, пригодные для анализа. Более 70% людей хотя бы в один из дней забыли или надеть датчик, или зарядить его, или проверить работу приложения на телефоне. Социальным ответом на призыв к обязательному ношению датчиков стали предложения другим участникам интенсива «поносить датчик» вместо его владельца (вместе с личным телефоном) за скромное вознаграждение — этим пользовались участники, желающие выехать за пределы кампуса.

Выводы:

1. Сам факт процесса сбора данных для значительной доли участников стал дополнительным стимулом к выполнению правил (в нашем случае — нахождение в рабочее время на «Острове»).
2. Для фиксации нарушений нужна инфраструктура (стабильная сотовая или Wi-Fi сеть) и централизованно выданные устройства, которые обеспечивают условия для выполнения правил участниками.
3. В первые несколько дней (или даже недель) основными нарушителями будут люди с низкой цифровой культурой и те, кто успешно под них маскируются.

О цифровой диктатуре ИИ

Второй важный эксперимент, проведенный на «Острове 10-21», — это эксперимент с «цифровой диктатурой искусственного интеллекта» в плане формирования индивидуальных траекторий обучения и организации расписания. Программа каждого «Острова» предельно насыщенная: в каждый момент времени в кампусе проходит не менее 40 мероприятий, любое из которых каждый обучающийся может включить в свою траекторию. Для того чтобы обеспечить справедливое распределение тысячи участников без переполненных аудиторий и с максимальным образовательным эффектом, был спроектирован механизм рекомендаций и автоматического формирования расписаний. Участник выбирал приоритетное направление своего развития, алгоритм формировал рекомендации, а участник использовал модель аукционов, позволяющих получить право участия даже в тех мероприятиях, которые не были рекомендованы.

В реальности люди разделились на тех, кто следует рекомендациям «бездушного ИИ», и тех, кто их явно игнорирует. Изначально выбранный жесткий подход к распределению участников на первых этапах поставил под угрозу модель проведения интенсива. Отказ от цифровых инструментов управления (переход к полной самоорганизации или бумажным форматам работы) тоже был невозможен — слишком сложной была структура мероприятий и высока вероятность конфликта.

Прямо в процессе интенсива была выработана и реализована новая модель, в рамках которой ИИ не предопределяет, куда человек может пойти, а рекомендует ему наиболее подходящие для него мероприятия с учетом прогноза загруженности аудиторий и фактического наличия свободных мест (механизм аукционов продолжал гарантировать места в аудиториях для победителей). Такой механизм перестал вызывать отторжение (основное раздражение вызывал запрет перейти в соседнюю полупустую аудиторию), но позволил управлять процессом, избегать массовых конфликтов из-за наличия мест, сформировал осознанное отношение участников к своей траектории.

Выводы:

1. Очень важно нащупать баланс во взаимодействии человека и искусственного интеллекта, чтобы люди не чувствовали себя ущемленными в возможности выбора, но при этом понимали ценность, обеспечиваемую контролем со стороны ИИ.
2. Коллапс системы поддержки деятельности в цифровом мире приводит к дезориентации с последующей попыткой самоорганизации людей. Информационные системы должны быть способными помочь людям в самоорганизации, и тогда получится вернуть контроль над процессом.

«Остров 10-22» и социальные рейтинги

Во время «Острова 10-22», который прошел в Сколтехе в 2019 году с учетом предыдущего опыта, были сделаны другие акценты:

1. Важна динамика не только отдельных участников, а работа с командами — обеспечение их совместного продуктивного участия в программе.
2. Мотивация участников к соблюдению правил, которые помогают сообществу использовать возможности «Острова» максимально эффективно, например через справедливое распределение возможности доступа к востребованным мероприятиям (нельзя приходить на мероприятие с переизбытком желающих, на которое для тебя не забронировано место, и нельзя бронировать места и не приходить).
3. Для мониторинга посещения мероприятий была выбрана гибридная технология — одновременно использовались данные геопозиционирования, Wi-Fi сети, регистрации на входе в помещения и видеоконтроль. Из этических соображений сбор данных с датчиков стал опциональным — желающим получить дополнительные данные о себе предоставлялась такая возможность. Для контроля соблюдения правил была реализована система красных и зеленых «карточек», которая поощряла за правильные действия и начисляла штрафные баллы командам за неправильные. Рейтинг команд был публичен в рамках сообщества «Острова».

Гибридная система мониторинга в целом повысила точность данных, однако выяснилось, что при наличии достаточно больших групп людей, при нечетком разделении пространств для работы и гибком индивидуальном расписании для каждого участника неизбежны погрешности. Проще говоря, был ли человек на конкретном мероприятии в течение какого-то времени, мы можем определить только вероятностно.

Сочетание достаточно строгих правил публичного начисления карточек, с одной стороны, и неизбежной погрешности, с другой, привело к ожидаемым «народным возмущениям» и борьбе за справедливость. Решение было найдено через установление пороговой вероятности нарушения (карточки выдавались только на основании нескольких подтверждающих данные источников), введение системы апелляции и смещение информационного фона в сторону зеленых карточек за правильные действия. При этом стоит отметить, что, в отличие от автоматической раздачи красных карточек, апелляции проводились вручную и требовали достаточно много сил в первые дни.

Отдельно хочется сказать, что практически любая система мотивации (в нашем случае — система зеленых карточек) с большей вероятностью, чем репрессивная система, может быть «взломана». С этим мы столкнулись на второй неделе: люди находили способы получать зеленые карточки и все свои усилия сосредотачивали на этом. Это казалось им проще, чем исключить получение красных карточек. При этом есть два варианта. Первый — участники выявляют стратегию, которая близка той, что задумали организаторы, и достигают предельных результатов в ущерб более осмысленной деятельности. Второй — участники убеждаются в несправедливости системы или не соглашаются с предложенной стратегией и ищут способы препятствовать работе системы или явно фальсифицировать результаты. Выявление таких случаев требует работы ситуационного центра, который способен на основе данных проводить мониторинг происходящего и имеет возможности для управления процессом — налаженные каналы коммуникации, изменения в программном обеспечении «на лету», управление распределением ресурсов, ценных для участников.

Выводы:

1. Важна динамика не только отдельных участников, а работа с командами — обеспечение их совместного продуктивного участия в программе.
2. Мотивационные механизмы и понятная для участников система ограничений, явно обеспечивающая повышение эффективности для самих участников, работают гораздо эффективнее, чем жесткие репрессивные системы.
3. Введение системы контроля и мотивации позволяет сильно ускорить процесс вхождения людей в новую среду, объединить их вокруг новых вызовов, повысить осознанность в принятии решений.
4. Создавая репрессивные инструменты, опирающиеся на автоматизированные системы оценки, нужно сразу планировать действия в тех случаях, когда система ошибается, и проводить оценку ресурсов, которые потребуются на корректировку и минимизацию последствий ошибок.
5. Очень важно правильное проектирование и экспериментальное подтверждение того, что система мотивации ведет к желаемому социальному поведению. Если единственный способ — провести эксперимент в процессе работы, то надо иметь ресурсы для быстрой модификации системы, в том числе через изменения в информационных системах.

Как использовать опыт «Островов» сейчас:

1. Для создания цифровой системы контроля и мотивации людей на уровне компании или даже региона для быстрого введения новых моделей поведения — от самоизоляции до культуры удаленной работы (мы готовы делиться опытом, программными решениями, апробированными моделями).
2. Для введения систем мотивации на активное развитие в период самоизоляции, поощрения прохождения онлайн-курсов, работы с образовательными ресурсами, передачи образовательного опыта другим людям, в том числе внутри компании (набор инструментов для этого мы планируем запустить в самое ближайшее время).

Автор: Василий Третьяков

Понравился материал? Добавьте Indicator.Ru в «Мои источники» Яндекс.Новостей и читайте нас чаще.

Подписывайтесь на Indicator.Ru в соцсетях: Facebook, ВКонтакте, Twitter, Telegram, Одноклассники.