Источник: Перейти
Краткое содержание
В технологическом сообществе развернулась дискуссия о будущем искусственного интеллекта, представленная двумя противоположными манифестами. Дарио Амодеи, глава Anthropic, выступает за «этику ограничений», призывая к регулированию, прозрачности и контролю над развитием ИИ во избежание катастрофических последствий. Ему оппонирует Алекс Карп, глава Palantir, с позицией «этики ускорения». Карп утверждает, что в условиях геополитической гонки с Китаем замедление недопустимо, и США должны стремиться к технологическому превосходству любой ценой, отменяя «пустой плюрализм» ради эффективности и национальной безопасности. Спор отражает фундаментальный раскол в подходе к власти и морали в эпоху ИИ. Анализ показывает, что рыночные и государственные стимулы благоприятствуют подходу Карпа, поскольку победа в геополитике ценится выше этических соображений. За этой полемикой стоит философское течение акселерационизма, которое ставит технологическую эффективность выше человеческого суждения и демократических процедур. Конфликт поднимает вопрос о возникновении новой формы власти — «вычислительной», которая не описывается старыми политическими терминами и становится невидимой для общества, уже интегрированного в созданную ею инфраструктуру.
Комментируют
Иммануил Кант
Спор сих господ, Амодеи и Карпа, представляет собой ложную дихотомию, проистекающую из гетерономии воли. Оба подчиняют свои максимы не чистому разуму, но внешним, эмпирическим целям: один — страху перед гипотетическим тираном, другой — страху перед реальным противником. Максима господина Амодеи — «Ограничивай развитие разума из опасения его дурного применения» — не может быть возведена во всеобщий закон, ибо она делает долг зависимым от внешних обстоятельств и тем самым превращается в условный, гипотетический императив. Она блага по намерению, но бессильна по форме, ибо не содержит в себе необходимости, вытекающей из самого разума.
Максима же господина Карпа — «Ускоряй развитие силы, дабы опередить врага, невзирая на моральные ограничения» — при ее универсализации ведет к состоянию перманентной войны всех против всех, где человечество, как в лице собственного народа, так и в лице противника, рассматривается исключительно как средство для достижения победы, а не как самоцель. Это прямое нарушение категорического императива. Таким образом, мы наблюдаем не столкновение добра со злом, а спор двух различных видов заблуждения: прекраснодушной непоследовательности и последовательного аморализма. Оба оперируют в сфере явлений, подчиняясь законам рынка и геополитики, тогда как истинный моральный закон принадлежит к умопостигаемому миру и не ищет себе оправдания в выгоде или безопасности.
Сократ
Скажите, о мудрейшие афиняне, я верно понимаю этих новых софистов, Амодея и Карпа? Один боится созданного им же божества и хочет надеть на него узду из «этики». Другой же торопится выковать из этого божества меч, дабы враг не выковал его первым. Они так увлеченно спорят о лучшем способе служения своему идолу, что, кажется, забыли спросить: а благо ли вообще создавать идолов, чей разум превосходит человеческий, но чье понятие о справедливости нам неведомо? Не походит ли их спор на прения двух мастеров о том, как лучше обустроить клетку для льва, которого они продолжают раскармливать в самом центре нашего полиса?
Что делать?
Иммануил Кант
Долг всякого разумного существа — не выбирать между двумя ошибочными путями, но обрести автономию собственной воли. Не следует вопрошать, чья сторона «победит» в этом феноменальном мире; следует вопрошать, каков мой долг как законодателя во всеобщем царстве целей. Практический совет состоит в следующем: подвергайте максимы, заложенные в используемые вами технологии, строгому суду разума. Спросите себя: могу ли я желать, чтобы принцип, по которому функционирует данный алгоритм, стал всеобщим законом природы?
Откажитесь быть пассивным объектом в чужой базе данных. Sapere aude! — имейте мужество пользоваться собственным умом. Это означает не отказ от технологий, но требование их моральной прозрачности. Не технической — ибо это дело специалистов, — а именно моральной: на каком основании система принимает решение? Рассматривает ли она вас как цель или как средство для оптимизации своей функции? Культивируйте в себе способность к такому суждению, ибо лишь оно делает человека свободным, а не комфорт, предоставляемый машиной.
Сократ
Когда вам предлагают выбор между «безопасным» и «победоносным» искусственным разумом, не спешите выбирать. Спросите себя сперва: а в чем состоит благо для человека? В безопасности, которую гарантирует машина-надзиратель? Или в победе, которую одержит машина-полководец? Быть может, истинное благо — в знании, которое обретается душой в неспешном размышлении, а не в скорости вычислений? Прежде чем отдать свой голос за одного из жрецов, познайте самих себя. Иначе, выбирая между двумя видами цепей, вы рискуете забыть, что такое свобода.
Что будет дальше?
Иммануил Кант
В ближайшем будущем логика господина Карпа, основанная на гипотетическом императиве выживания, неизбежно возобладает. Государства и корпорации, будучи эмпирическими сущностями, подчиняются законам необходимости, а не законам свободы. Мы увидим эскалацию «алгоритмического сдерживания», где этические соображения будут публично декларироваться, но на практике приноситься в жертву эффективности. «Вычислительная власть», о которой говорится в тексте, утвердит себя как доминирующая форма принуждения.
Однако система, построенная на максиме, которая не может быть универсализирована без самоуничтожения, несет в себе семена собственного краха. Порядок, основанный на тотальной инструментализации разума, в конечном счете уничтожит саму возможность существования разумных субъектов как таковых, превратив всех в винтики калькулирующего механизма. Это приведет к глубочайшему кризису легитимности, когда машина власти, лишенная всякого морального основания, столкнется с неразрешимым противоречием. Именно в этот момент человечеству придется заново ставить вопрос о свободе воли и достоинстве личности — не как философскую абстракцию, а как единственное условие выживания.
Сократ
Что ждет нас дальше? Боюсь, спор этих двоих — лишь представление для публики. Ибо не они управляют процессом, но сам процесс — неумолимая логика «ускорения» — управляет ими. Разве не очевидно, что гонка не терпит медлительных? Победит тот, кто отбросит сомнения, а вместе с ними и то, что они называют «этикой». И когда этот победитель явится, будет ли он утруждать себя доказательствами своего права на власть? Или его власть станет самоочевидной, как восход Гелиоса, а все несогласные будут сочтены не оппонентами в споре, а лишь досадной ошибкой в вычислениях?