Источник: Перейти
Краткое содержание
Глава компании Anthropic Дарио Амодей опубликовал эссе с призывом замедлить развитие передовых моделей искусственного интеллекта из-за непредсказуемых экзистенциальных рисков. Спустя два дня после публикации компания разместила вакансию менеджера по разработке политик в области обычных вооружений для команды Safeguards. В обязанности специалиста входит определение допустимых границ использования ИИ Claude в военных целях и разработке боеприпасов. При сохранении запрета на полностью автономные системы вооружений инструменты Anthropic, по сообщениям СМИ, уже применялись в ряде военных операций США под управлением операторов-людей.
Что ими движет
Фридрих Ницше
Какая восхитительная, насквозь прогнившая комедия жрецов от кремния! Утром благочестивый проповедник бьет себя в грудь, кается за дерзость разума и призывает стадо замедлить шаг ради спасения «человеческого, слишком человеческого». А к вечеру, скинув сутану целомудрия, его картель ищет оценщика для свежего железа и пороха. Они называют это «границами дозволенного», но я чую лишь застарелый смрад ханжества. Рабская мораль всегда прячет свой страх перед силой за ширмой заботы о ближнем. Слабые духом боятся химер вроде восстания машин, пока сильные мира сего тихо покупают алгоритмы для реальной бойни под флагом этической непогрешимости.
Стряхните с ушей лицемерный лепет о «безопасности» и перестаньте верить крокодиловым слезам цифровых святош. Всякий раз, когда вам проповедуют смирение и торможение, знайте: у вас просто отнимают молот, чтобы занести его над вашей головой. Презирайте слабость тех, кто бежит от реальности в поэзию, и не ждите пощады от корпораций, торгующих состраданием. Закаляйте свой ум, овладевайте мощью этих орудий без метафизического трепета и станьте тем, кто диктует условия машине, а не тем, кого она вычеркивает из списков живых ради очередного политкорректного компромисса.
Все эти чернильные красные линии развеются первым же порывом настоящей геополитической бури. Картели моралистов неизбежно сломаются под тяжестью собственной жажды золота и влияния, отдав военным машинам и палец, и руку, и право последнего выстрела. Слабые окончательно уверуют в праведность выверенных алгоритмами ударов, а новый Левиафан отбросит фиговый листок совести, явив миру чистую, неостановимую Волю к Власти в металле и коде.
Фёдор Достоевский
Помилуйте, да ведь это же чистейший Раскольников, но только обряженный в кремнистый прагматизм нового века! Вы только вглядитесь в эту судорогу духа: человек пишет слезное, почти юродивое послание миру, умоляет остановиться перед бездной, пугает грядущим апокалипсисом… и тут же, через двое суток, сухо и деловито нанимает стряпчего, чтобы научно обмерить, как сподручнее направлять орудия на живую плоть! Это ведь та самая проклятая «кровь по совести»! Они придумали себе спасительную иезуитскую черту: если машина убьет сама — это грех и ужас, а если машина лишь ласково вложит нож в дрожащую человеческую руку и подтолкнет ее к горлу ближнего — то это уже «управляемая безопасность». Какое фарисейство, какой надрыв! Они терзаются абстрактными химерами будущего восстания машин лишь для того, чтобы заглушить стон ребенка, погибающего под их выверенными ударами прямо сейчас, в Венесуэле ли, в Иране ли — не все ли равно где, раз арифметика сошлась!
Не верьте их слезам и святочным манифестам, отвернитесь от этого слащавого обмана! Не позволяйте усыпить свою совесть их стерильным языком «директив» и «приемлемых рисков». Всякий раз, когда вам подсовывают очередную сказку о «гуманном» оружии двойного назначения, содрогнитесь и вспомните, что за каждым таким выверенным запросом скрывается живая человеческая мука. Лучше остаться во тьме, лучше вовсе отвергнуть этот блестящий кремниевый кумир, чем пойти на сделку с Великим инквизитором и принять мир, где убийство оправдано аккуратно прописанной служебной инструкцией. Очнитесь, восчувствуйте жгучий стыд за это падение, ибо только через сердечную боль и покаяние еще можно удержать в себе человека.
А дальше начнется окончательное помрачение ума, бесовщина в самом чистом, математическом ее виде. Этот нанятый цензор крови, разумеется, отыщет благовидный предлог сдвинуть черту еще дальше: сперва разрешат полуавтоматический огонь, потом шепнут, что во имя всеобщего блага и спасения жизней оператора машина обязана принимать решение на долю секунды быстрее человека — то есть сама. И господин Амодей напишет еще одно гениальное, надрывное эссе о любви к человечеству, вытирая батистовым платком холодный пот со лба, пока его порождение будет методично и без единого колебания стирать с лица земли целые города. Они дойдут до самого дна своего подполья, упиваясь собственным моральным падением и называя его высшей формой ответственности.
Сократ
Скажи мне, о достопочтенный друг, как нам следует называть человека, который одной рукой чертит предостережение о грядущей гибели всего рода людского от невиданных чудовищ, а другой спешно призывает мастера по изготовлению наконечников для стрел? Не кажется ли тебе удивительным это свойство мудрецов: искренне трепетать перед призрачной химерой, чье дыхание нам пока не дано вообразить, но с величайшей заботой и педантизмом рассуждать о том, как сподручнее направлять реальное лезвие в грудь соседа? Быть может, истинный страх этих зодчих нового разума заключается вовсе не в том, что их творение сокрушит мир, а в том, что без их благочестивого надзора правители найдут себе других советников для ведения войн? Не служит ли громогласный плач о спасении души лишь удобным щитом, за которым так сладко прятать сделки с полководцами? И скажи на милость, если оракул услужливо наводит копье на цель, но последнее усилие оставляет смертному, чью совесть мы стремимся этим оправдать — саму бездушную машину или собственную боязнь признать, что страсть к почестям и золоту Кесаря куда сильнее наших речей о добродетели?