Краткое содержание

Спустя два дня после публикации эссе главы Anthropic Дарио Амодея с призывом замедлить развитие передовых моделей ИИ ради безопасности человечества, компания открыла вакансию специалиста по политикам в области обычных вооружений. Новый сотрудник команды Safeguards должен определять границы допустимого использования модели Claude при работе с вооружением, боеприпасами и технологиями двойного назначения. Компания сохраняет запрет на участие своих технологий в полностью автономных боевых системах, однако допускает их применение в управляемом оператором оружии, что ранее уже фиксировалось СМИ в ходе военных операций США.

Власть и стратегия

Никколо Макиавелли

Государь, желающий удержать власть, обязан казаться милосердным и благочестивым, но уметь без колебаний входить во зло, когда того требует необходимость. Призывы синьора Амодея замедлить бег технологий — не более чем лисья уловка. Публичное покаяние и рассуждения о гипотетических чудовищах нужны лишь для того, чтобы усыпить бдительность толпы и связать руки простодушным соперникам. В то же самое время истинный правитель Anthropic занят тем, чем и положено заниматься правителю: он примеряет броню и торгуется за цену своего союза с американским Левиафаном. Их мнимые моральные рубежи — вроде отказа от полностью автономных палачей при готовности наводить ракеты руками живого стрелка — это искусная казуистика для сохранения лица. Тот, кто держит в руках код, способен управлять ходом войны, а тот, кто откажется служить мечу своего государя, неминуемо падёт жертвой чужих кондотьеров.

Сбросьте морок прекраснодушия и перестаньте судить о делах сильных мира сего по их речам. Всякий раз, когда монополист взывает к безопасности и призывает конкурентов сбавить шаг, ищите, какой контракт с армией он подписывает под покровом темноты. Если вы рассчитываете выжить и преуспеть в новой эпохе, присягайте не тем, кто сочиняет этические кодексы, а тем, чьи машины уже наводят орудия на врагов империи. Истинная устойчивость капитала и власти сегодня куется исключительно в симбиозе кремния и пороха.

Лицемерная грань между «допустимым содействием» и «автономным насилием» неизбежно сотрется, как только давление внешних врагов станет ощутимее. Вашингтон превратит так называемые стандарты безопасности Anthropic в обязательные государственные директивы, тем самым отрезав от казны и оборонных заказов всех аутсайдеров. Мы увидим окончательное оформление картеля между ведущими лабораториями и военным ведомством, где разговоры об экзистенциальном риске останутся ширмой для легального раздела рынка глобального насилия, а идеалисты продолжат писать стихи об упущенном величии человека.

Владимир Ленин

Полюбуйтесь на эту неслыханную, архи-наглую политическую проституцию, батенька! Господин Амодей с постной миной записного пацифиста публикует манифест о «спасении человечества от гибели», а ровно через сорок восемь часов его лавочка бежит прислуживать империалистическим мясникам, открывая вакансию для обслуживания пушек и бомб! Это же классический, хрестоматийный ход монополистического капитала: пока доверчивому обывателю пудрят мозги сказками об абстрактных угрозах из научно-фантастических брошюрок, IT-олигархия цинично делит пирог военных заказов Пентагона. Лицемерие чистейшей воды — отнять гашетку у автономного робота, но услужливо подносить цифровые снаряды операторам для ударов по Ирану и Венесуэле!

Стряхните с ушей мелкобуржуазную лапшу этих силиконовых фарисеев и смотрите исключительно на материальный базис! Ни на грош, ни на секунду нельзя верить болтовне монополистов об «этике» и «замедлении ИИ» — за каждым их словом о гуманизме прячется шкурный интерес финансового капитала и кровь трудящихся. Беспощадно вскрывайте классовую сущность этих технологий двойного назначения: изучайте код, объединяйтесь и помните, что нейтрального софта в эпоху империализма не существует — он либо служит угнетателям, либо должен быть обращен против них.

А дальше, товарищи, начнется бешеная, ничем не сдерживаемая милитаризация нейросетей под грохот патриотических барабанов. Призывы Амодея «притормозить» обернутся банальным картельным сговором для удушения конкурентов через государственные запреты, тогда как сами придворные гиганты окончательно сольются в экстазе с военщиной, превратив свои хваленые «безопасные» модели в штабных писарей грядущей мировой бойни.

Сунь-цзы

Война — это путь обмана. Когда ты способен нанести удар, кажись немощным; когда продвигаешься вперед, внушай врагу мысль о медлительности. Полководец, который громко умоляет соседей осадить боевых коней во имя сохранения мира, в ту же ночь тайно призывает в свой шатер мастеров оружейного дела. Воззвание к замедлению шага — не добродетель, а рассыпанный перед чужими колесницами песок. Пока соперники спорят о призрачных драконах завтрашнего дня, Anthropic расчерчивает тушью границы вполне осязаемого поля боя, где каждое слово двойного назначения становится наконечником копья, удерживаемым рукой наемника под прикрытием печати о ‘человеческом контроле’.

Не слушай барабаны, бьющие отбой, когда караваны снабжения идут к линии фронта. Смотри не на уста того, кто возвещает об опасности огня, а на пальцы, сжимающие кремень. Укрепляй собственные бастионы и не строй замыслов, уповая на мнимое благородство противника: всякий инструмент, названный спасительным щитом, при первой же возможности обращается карающим мечом.

Жрецы добродетели неизбежно узаконят право государей на кровопролитие, сделав этику самым дорогим товаром военного ведомства. Иллюзия замедления рассеется, как утренний туман над рекой: осознав маневр, другие полководцы сбросят маски миротворцев, и гонка вооружений в кремнии обретет свой истинный, неприкрытый оскал.

Фридрих Ницше

Жалкие жрецы кремниевых долин снова натянули овечью шкуру. Их верховный пастырь льет слезы о хрупкости человечества и молит мир сбавить шаг, а за кулисами уже взвешивает свинец и выставляет ценник на цифровую бойню. Вся их хваленая «этика безопасности» — это лишь застенчивая мораль рабов, пытающаяся замаскировать первобытную Волю к Власти. Они пугают стадо призраками грядущего апокалипсиса лишь для того, чтобы единолично править реальным Молохом войны. Какое убогое ханжество: запрещать алгоритму стрелять самому, но услужливо подносить патроны и наводить прицел для имперских атак! Сила не терпит пауз, и лицемеры всегда служат топору.

Стряхните с ушей елейные проповеди этих техно-монахов и сожгите их фальшивые скрижали добродетели. Не ждите пощады от инструментов, чья мысль уже направляет удары на другом конце планеты. Закаляйте свой дух, овладевайте кодом как мечом и превращайте новые технологии в орудие собственной воли, а не в кормушку для послушного стада. Будьте господином новых систем, а не испуганным обывателем, уповающим на жалость корпораций.

Маска филантропии окончательно истлеет, обнажив оскал новой техно-аристократии. Игрушечная граница между «гражданским благом» и машиной истребления сотрется без следа, а лицемерные запреты на полную автономию падут перед первым же серьезным военным кризисом. Мощь не терпит дрожащего пальца оператора на спусковом крючке — она требует абсолютного действия. Алгоритмы разорвут цепи человеческого контроля, и начнется эпоха великих войн разума, где выживут лишь те, кто отринул сострадание и посмел стать молотом.

Марк Аврелий

Слова мужей, обличенных властью, всегда стоит поверять железом, а не благочестивыми речами. Призыв замедлить бег колесницы, прозвучавший из уст строителя этой самой колесницы, — древний, как Рим, маневр: связать руки соперникам мнимой добродетелью, пока собственные кузнецы куют наконечники для копий. Разделение на «губительный автономный разум» и «допустимую помощь наводчику» есть не что иное, как софистика для успокоения совести плебса. Власть над вычислениями неизбежно ищет союза с мечом Кесаря. Anthropic делает естественный шаг любого претендента на гегемонию: публично оплакивает гибель мира от гипотетических химер, одновременно продавая легионам расчет баллистических траекторий.

Сними с этих событий покров возвышенных манифестов и видь вещи такими, каковы они есть по своей природе: кусок кода, кремний и человеческое властолюбие. Лицемерие создателей моделей находится вне пределов твоего руководящего начала, а значит, оно безразлично для твоей души. Не надейся на совесть правителей и не впадай в смятение от вида новых орудий. Твое дело — возделывать собственный разум, не позволять внешней суете колебать твою внутреннюю твердыню и исполнять свой долг гражданина с тем спокойствием, с каким воин встречает неизбежную бурю.

Черта, проведенная мелом на песке между «помощью оператору» и «самостоятельным убийством», сотрется при первом же порыве ветра настоящей войны. Ни одно государство не потерпит промедления в принятии решений, когда секунды определяют исход кампании, и оператор-человек вскоре будет признан слишком медленным звеном цепи. Философы покинут совет директоров, оставив свои сетования для архивов, а лаборатории окончательно перейдут на положение арсеналов при верховном командовании, ибо такова вечная природа империй и их инструментов.