Известно, что в мире, в частности, в США, уже полным ходом разрабатываются проекты по улучшению физической и психической формы военных с помощью биотехнологий: от фармакологических препаратов до генетического профилирования, от «умных» мундиров и экзоскелетов до расширения чувств и восприятия. Областью, которая имеет особый потенциал в создании «суперсолдата» будущего, являются нейротехнологии. Так называемый интерфейс замкнутой петли ((closed-loop) позволяет солдату автоматически и бессознательно модулировать свои когнитивные, эмоциональные и поведенческие состояния, например, предотвращая снижение концентрации или настроения, усиливая бдительность и рабочую память. Однако, объединение искусственного интеллекта и нейротехнологий с человеческим разумом вызывает этические вопросы. Можно ли смириться с нарушением автономии и свободы личности? Кто несет ответственность за действия таких солдат? Готовы ли мы принять киборгизацию? Об этом говорилось на дискуссии «Солдат будущего» в Центре науки Коперник с участием политолога, доктора наук Лукаша Каменьского из Ягеллонского университета.
Я тоже пригласила Лукаша Каменьского к нашему микрофону.
- В футуристических произведениях, в фильмах в жанре фантастики образ солдата предстаёт как сращивание человека и робота. Как вы отметили в своем докладе, мышление о солдате как о человеке со сверхвозможностями существовало еще с древних времен. Сегодня такой ход мысли влияет на развитие биотехнологий, нацеленных на создание «суперсолдата» или «сверхчеловека». Почему включается антропологический аспект, разве недостаточно прогресса технических средств обороны?
Лукаш Каменьский: Мне кажется, что главной причиной развития американцами, но не только ими, но и китайцами, систем, нацеленных на укрепление, апгрейд человека-солдата, является именно растущая пропасть между технологическими возможностями систем оружия и коммуникации, которые действуют в ритме машины, и способностями обычного, пусть и тренированного человека. Думаю, что уже достигнут такой этап, когда можно исключить человека из цепи принятия решения в военной ситуации, поскольку он уже является тормозом. Но исключение человека означает подчинить его воле алгоритмов. Поэтому способом спасения – хоть это может прозвучать парадоксально – человека в «уравнении» войны является попытка приспособить его к системам, управляемым алгоритмами машинного обучения. Хотя такое решение годится лишь на определенное время.
- А какие дополнительные способности мог бы приобрести такой суперсолдат кроме само собой разумеющихся?
Лукаш Каменьский: Палитра таких результатов огромна. Кроме физических, укрепление способности выживания в ситуации сильного стресса, расширения возможности принятия решений, ускоряя процесс анализа данных, повышения когнитивной способности с точки зрения усиления сосредоточенности, нивелирования последствий дефицита сна, увеличение автоматизма действий, чтобы солдат не должен был долго задумываться над тем, что он должен сделать. Кстати, это одна из целей военного обучения, умения манипулировать собственными эмоциями с целью предотвращения или ограничения влияния сильных чувственных стимулов, чтобы они не превращались в военную травму, которая до сих пор считается неизлечимой и дает последствия в некоторых случаях в виде постравматического стресса. Но есть также решения, которые не требуют такого активного вмешательства в физическое и психическое состояние человека. Экзоскелет является одним из них, и он уже находится в оснащении вооруженных сил США. Очередным этапом будет наделение их «сообразительностью», включение в них алгоритмов машинного обучения, чтобы экзоскелет сам брал на себя контроль и управление телом солдата. Качества можно долго перечислять, в зависимости от того что нас интересует. Например, переносимость боли, сопротивление болевым ощущениями, выносливость – всего этого можно достичь, как бы «обманывая» мозг и мозговые центры. А значит, мы входим на путь нейростимуляции или нейромодуляции.
- А могли бы Вы приблизить суть интерфейса замкнутой петли? Думаю, для многих, да и для меня это новая тема.
Лукаш Каменьский: Интерфейс может служить двум основным функциям: непосредственному контролю приборов, в частности, дронов или целого роя дронов с помощью передачи мысли на расстоянии, а значит, в обход мышечной и костной систем. Это управление с помощью только лишь нейросигнала, или улучшение когнитивных и бихевиоральных способностей. Интерфейс мониторит нейронную активность пользователя, и если обнаружит снижение некоторых заданных учеными параметров, например, появления у солдата критической усталости или снижения концентрации внимания, или приближение излишнего волнения, страха, он автоматически активирует электроды, имплантированные в человека или вмонтированные в солдатские шлемы, с целью возвращения уровня параметров до желаемого уровня. Важно, что эти системы действует вне сознания и контроля пользователя. То есть, до момента, когда пользователь почувствует, скажем, усталость, система несколькими секундами ранее подействует. Внедрение интерфейсов, кажется, будет неизбежным процессом. Они очень развились не только в медицинских и терапевтических целях для пациентов с болезнью Паркинсона и другими заболеваниями. Крупные фирмы пытаются создать такие вещи, которые смогут преобразовывать мысли пользователя в непосредственное управление приборами, алгоритмами или программами.
- Конечно, можно поставить вопрос о том, допустимо ли такое вмешательство в человека, хоть и военного?
Лукаш Каменьский: Ну да. Но прежде всего, надо понимать, что речь идет о методах очень ограниченных в применении, и пока еще в начальной стадии. В ближайшем будущем это не будет касаться целой армии, всех солдат. Это слишком тонкие технологии, их применение потребует сознательного согласия солдата. Хотя можно представить себе ситуацию чрезвычайного положения и угрозы национальной безопасности, когда сознательное согласие может быть отменено. Но общий процесс интерфейсизации сдержать невозможно. То, что может вызывать наибольшие опасения, это тенденция, которую называют конвергенцией наук, технологий, в данном случае, развивающаяся конвергенция нейротехнологий с искусственным интеллектом. Всё это связано со многими дилеммами в отношении неприкосновенности личности. Такие вопросы исследует область науки под названием нейроэтика. А что касается предсказуемости алгоритмов, защиты нейроданных, то интересно, что они рождают новые дилеммы на линии этики искусственного интеллекта.
Автор передачи: Ирина Завиша