Источник: Перейти

Краткое содержание

Промышленный дизайнер из Лос-Анджелеса, Альберто Эссеси, представил концептуальный проект трехроторного беспилотника под названием Aurora Drone. Разработка велась по заказу неназванной аэрокосмической компании и отличается нестандартной конструкцией.

Ключевая особенность аппарата — его гибридный функционал. Благодаря аэродинамической форме корпуса, выполненного из легких композитных материалов (углеволокно, пластик, алюминий), дрон способен как планировать в горизонтальной плоскости, так и зависать в вертикальном положении. Такая конструкция призвана обеспечить максимальную маневренность и скорость реакции, делая его пригодным для выполнения сложных задач в динамичных условиях.

Комментируют

Маршалл Маклюэн: Господа, вы снова смотрите на содержание, а не на форму. Этот дрон — не просто летающая машина. Это ампутированная и вынесенная вовне центральная нервная система человечества. Мы расширяем наше зрение, наше присутствие, нашу способность быть «везде» одновременно. Медиум и есть сообщение. А сообщение здесь — это тотальное упразднение фиксированной точки зрения, свойственной человеку эпохи Гутенберга. Мы входим в эпоху акустического пространства, где все происходит здесь и сейчас, где нет ни центра, ни периферии. Этот дрон — не камера в небе, а новый синтаксис реальности. Он превращает ландшафт в базу данных, а город — в живую, постоянно обновляемую карту. Мы создали ангела-хранителя и шпиона в одном лице, и теперь он будет формировать наше восприятие мира, хотим мы того или нет. Пространство перестает быть преградой, оно становится интерфейсом.

Мишель Фуко: Нас пытаются убедить, что речь идет об «инновациях» и «маневренности». Это дискурс эффективности, скрывающий за собой лишь одно — усовершенствование механизмов надзора. Этот аппарат — идеальная реализация идеи паноптикума, но выведенная за пределы тюремных стен и распространенная на все социальное поле. Его способность переключаться между «планированием» и «зависанием» — это метафора современной власти: она может быть рассеянной, почти невидимой, осуществляя фоновый мониторинг («планирование»), а может мгновенно сфокусироваться на конкретном индивиде, превращаясь в дисциплинарный инструмент («зависание»). Конструкция из легких материалов делает его не просто быстрым, но и незаметным. Власть больше не нуждается в громоздкой архитектуре тюрьмы или больницы; она становится летучей, вездесущей и анонимной. Мы наблюдаем рождение новой дисциплинарной геометрии, где каждый гражданин — потенциальный объект наблюдения с бесконечного числа ракурсов.

Ник Бостром: Сам по себе этот концепт — лишь незначительная итерация в развитии беспилотных систем. Однако его следует рассматривать не как отдельное изобретение, а как еще один шарик, извлеченный из гигантской урны технологических возможностей. Некоторые из этих шариков — белые и несут благо, другие — черные и несут экзистенциальный риск. Этот дрон, с его акцентом на маневренность и скорость, является шагом к созданию более совершенных физических агентов. Проблема не в самом дроне, а в его потенциальной интеграции с продвинутым ИИ. Мы совершенствуем «руки» и «глаза» для будущего сверхинтеллекта, еще не решив фундаментальную проблему его контроля. Каждое такое усовершенствование — повышение инструментальной сходимости. Автономные, быстрые, физические агенты — это мощный инструмент для достижения любой цели, и мы должны быть предельно осторожны, прежде чем вручать его системам, чьи цели могут не совпадать с нашими.

Что делать?

Маршалл Маклюэн: Перестаньте думать о том, для чего будут использовать этот дрон — для доставки пиццы или для слежки. Спросите себя: что он делает с вашим восприятием? Он упраздняет понятие «частного двора», «укромного места». Он превращает трехмерный мир в двухмерную карту на экране оператора. Чтобы не стать марионеткой этого нового медиума, развивайте «грамотность восприятия». Учитесь видеть не изображение с дрона, а саму структуру, которую он навязывает. Создавайте «зоны тишины», свободные от электронного глаза, не для того, чтобы спрятаться, а чтобы помнить, каким мир бывает без посредников. Ваша задача — не сопротивляться технологии, а понять ее грамматику и не позволить ей говорить за вас.

Мишель Фуко: Сопротивление должно начинаться на уровне дискурса. Не принимайте на веру риторику об «эффективности» и «безопасности». Каждый раз, когда вам представляют подобную технологию как нейтральное благо, ищите за этим властные отношения. Кто получает право смотреть? Кто становится объектом взгляда? Документируйте и предавайте гласности случаи злоупотреблений. Создавайте практики «непрозрачности» — не как уход в подполье, а как осознанный отказ быть легко читаемым для системы. Поддерживайте технологии шифрования и анонимности. Единственный способ противостоять тотальному надзору — это сделать его экономически и политически невыгодным, создавая контрзнание о его истинных целях и последствиях.

Ник Бостром: Необходимо применять принцип дифференциального технологического развития. Мы должны активно поддерживать и ускорять исследования в области безопасности ИИ, этики и механизмов контроля, одновременно призывая к осторожности и, возможно, даже к мораториям на разработки, которые могут усилить глобальную нестабильность. Это касается, в первую очередь, автономных систем, способных к физическому воздействию. Обсуждайте проблему контроля не тогда, когда автономные дроны-убийцы появятся на поле боя, а сейчас, на стадии концептов. Поддерживайте международные соглашения, ограничивающие разработку и распространение потенциально опасных автономных систем. Наша задача — не остановить прогресс, а направить его в наиболее безопасное для человечества русло.

Что будет дальше?

Маршалл Маклюэн: В ближайшее десятилетие такие дроны станут бытовыми. Они превратятся в продолжение наших смартфонов и социальных сетей. Мы будем транслировать наши пикники и прогулки с высоты птичьего полета, превращая личную жизнь в кинематографическое зрелище. Небо над городами станет новым экраном, гигантским браузером дополненной реальности. Возникнет новая эстетика и новый тип художника — оператор дрона, дирижирующий восприятием. Глобальная деревня превратится в глобальный улей, где каждый будет одновременно и зрителем, и актером в непрерывном перформансе, транслируемом миллионами этих жужжащих электронных насекомых. Мы обменяем остатки приватности на красивый ракурс для селфи.

Мишель Фуко: Монополия государства на легитимное насилие и наблюдение будет подорвана. Корпорации, частные охранные агентства и даже обеспеченные граждане получат доступ к подобным технологиям. Это приведет к фрагментации надзора. Возникнет архипелаг «микро-паноптикумов»: корпорации будут следить за профсоюзными активистами, соседи — друг за другом из-за споров о границах участка. Мы увидим не один «Большой Брат», а тысячи «младших братьев», ведущих локальные войны наблюдения. Ответной реакцией станет появление технологий «анти-дронов» и тактик маскировки, что лишь усилит гонку вооружений в сфере надзора и контрнадзора, окончательно стирая границу между гражданским пространством и полем боя.

Ник Бостром: Развитие пойдет по пути роевого интеллекта. Отдельные дроны малоэффективны. Но представьте себе рой из тысяч таких аппаратов, координируемых единым ИИ. Они смогут выполнять сложнейшие задачи, от строительства до военных операций, с недоступной человеку скоростью и точностью. Это создаст колоссальную проблему контроля. Если такой рой получит ошибочную или враждебную цель, остановить его будет практически невозможно. В долгосрочной перспективе, это еще один шаг к миру, где физическая власть может быть сконцентрирована не в руках государств с их армиями, а у того, кто контролирует наиболее совершенный управляющий ИИ. Это сценарий резкого и, возможно, необратимого изменения баланса сил на планете.