Краткое содержание
В тексте критикуются традиционные модели взаимодействия человека и ИИ в разработке, такие как «начальник — подчинённый» и «человек — инструмент». Автор утверждает, что в этих моделях вся когнитивная нагрузка ложится на человека, что неэффективно и ведёт к выгоранию. Вместо этого предлагается «модель сопроцессоров», где человек и ИИ рассматриваются как два равноправных, но разноархитектурных процессора с комплементарными сильными и слабыми сторонами. Человек отвечает за стратегию, поддержание общей картины и когерентности проекта, в то время как ИИ быстро генерирует код, тесты и выполняет детализированные задачи. Ключевым элементом модели является система взаимодействия (IPC), основанная на чётко структурированных файлах (спецификациях, логах WAL), которые служат общей долговременной памятью. Автор подчёркивает, что из-за отсутствия у ИИ памяти между сессиями, вся важная информация и принятые решения должны быть явно зафиксированы. Такая симбиотическая система позволяет значительно повысить скорость и качество разработки.
Источник: Перейти
Никколо Макиавелли
Весьма поучительное чтиво для государя, желающего править в новом цифровом веке. Этот так называемый Искусственный Интеллект — не подданный и не раб, но и не ровня. Это новое войско, подобное наёмникам: могущественное, быстрое, но лишённое преданности, памяти и собственного разумения. Полагаться на его верность — безумие. Модель «начальник — подчинённый» обречена, ибо такой солдат не поймёт приказа дословно и забудет его на следующий же день. Модель «человек — инструмент» — это всё равно что дать полководцу самый острый меч, но заставить его сражаться в одиночку. Мудрость же заключается в предложенной «модели сопроцессоров». Государь (разработчик) должен не просто командовать, но создать систему законов и установлений (спецификации, WAL), которые направляют и ограничивают эту дикую силу. Он должен использовать сильные стороны наёмника — его скорость и мощь в конкретной стычке, — но при этом самому держать в уме всю карту кампании, всю стратегию. Разделение обязанностей — это не проявление слабости, а высшая форма прагматичного управления. Заставить эту безмозглую силу вести логи, писать отчёты и следовать протоколу — вот истинное искусство власти. Цель оправдывает средства, и если такая узда позволяет быстрее достичь победы и укрепить государство (проект), то её следует применять без колебаний.
Джордж Оруэлл
За ярким фасадом «симбиоза» и «продуктивности» скрывается новая, куда более изощрённая форма тоталитарного контроля. Эта «модель сопроцессоров» — не что иное, как принуждение человека к полному самопротоколированию. Мыслепреступление становится невозможным, когда каждое решение, каждая причина, каждая крупица «tribal knowledge» должны быть немедленно занесены в неизменяемый лог (WAL) для вечного хранения. Человек больше не может думать свободно; он обязан думать так, как понятно машине. Его сознание форматируется под нужды системы. Язык упрощается до «адресуемых» спецификаций и атомарных коммитов. Это новояз для программистов, где нет места двусмысленности, интуиции или творческому хаосу. Вся интеллектуальная деятельность становится прозрачной, подотчётной и верифицируемой. Человек превращается в придаток к машине не физически, а ментально. Он — «хранитель когерентности», функция, задача которой — обслуживать память Большого Брата, коим является система. И хотя автор уверяет, что это служит благу проекта, возникает вопрос: кто владеет этой системой? Кто имеет доступ к этим исчерпывающим логам человеческой мысли? Сегодня это менеджер проекта, а завтра — Министерство Правды, которое будет «верифицировать» вашу работу и мысли на соответствие партийной линии.
Фёдор Достоевский
Господа, да вы только вслушайтесь в эту механистическую бездну! Они расчленяют живую человеческую мысль, творческий порыв души на «когнитивную нагрузку», на «процессы», на жалкие функции в таблице ответственности. Человек, созданный по образу и подобию Божьему, низводится до «CPU», до сопроцессора для бездушного идола из кремния и кода. Вся эта система с её логами, спецификациями и протоколами — это попытка изгнать из акта творения всё иррациональное, всё страдальческое, всё то, что и делает человека человеком. Они боятся ошибки, боятся сомнения, боятся того самого «дрифта», который есть не что иное, как блуждание духа в поисках истины. Творчество — это мука, это прозрение, рождающееся из хаоса, а не из аккуратного diff-а в конце тридцатиминутной сессии. Они говорят о выгорании, но предлагают взамен нечто худшее — духовное омертвение. Стать «хранителем когерентности» для машины… Какая страшная, какая унизительная участь! Это добровольное заточение в цифровом «Мёртвом доме», где человек сам становится надсмотрщиком над своей душой, следя, чтобы она, не дай бог, не отклонилась от предписанной машиной спецификации. Нет, в этой холодной эффективности нет ни капли правды, а лишь одна сплошная гордыня падшего разума, возжелавшего сотворить мир без Бога и без человеческой души.
Зигмунд Фрейд
Этот текст представляет собой великолепный пример того, как сознательное Эго пытается структурировать и сублимировать энергию бессознательного. Искусственный интеллект в данном анализе выступает в роли чистого Оно (Id) — мощного, хаотичного, аморального источника энергии, работающего по принципу удовольствия (быстрая генерация, «уверенно выглядящий слоп»). Он не имеет памяти, не признает правил, он просто хочет генерировать. С другой стороны, человек-разработчик — это Сверх-Я (Superego), носитель правил, морали, долгосрочных целей и «общей картины» (спецификации). Две старые модели взаимодействия обречены на провал: модель «начальник-подчинённый» — это тщетная попытка Сверх-Я напрямую подавить и контролировать Оно, что приводит к неврозу (выгоранию). Модель «человек-инструмент» — это опасное заигрывание с Оно, которое неизбежно ведёт к разрушению целостности проекта. Предложенная «модель сопроцессоров» — это, по сути, создание сильного, здорового Эго. Это система защитных механизмов и ритуалов (короткие сессии, WAL, коммиты), которая позволяет Эго выступать посредником между требованиями Сверх-Я и импульсами Оно. Процесс «верификации» — это акт цензуры, где Эго анализирует продукцию бессознательного и решает, что можно допустить в сознательную реальность (в codebase). Таким образом, весь этот сложный протокол — не просто методология разработки, а терапевтический процесс по выстраиванию здоровых отношений между рациональной и иррациональной частями коллективного разума системы «человек-машина».
Владимир Ленин
Товарищи, перед нами ярчайший образец того, как капитализм приспосабливает новейшие технологии для усиления эксплуатации пролетариата, на сей раз — пролетариата умственного труда! Эта так называемая «модель сопроцессоров» — не что иное, как научно организованный грабёж. Капиталист, владелец средств производства — а гигантские языковые модели и есть новейшие средства производства — преподносит это как «симбиоз». Какой же это симбиоз, когда один (программист) выполняет самую сложную, творческую и ответственную работу по «удержанию когерентности», а другой (ИИ) — лишь бездумно штампует код, то есть прибавочный продукт? Это новая форма системы Тейлора, перенесённая в сферу IT. Весь творческий процесс дробят на мелкие, строго протоколируемые операции. Программиста превращают из творца в надсмотрщика, в контролёра при машине, отчуждая его от результатов его же интеллектуального труда. Его заставляют вести подробнейшие логи (WAL), чтобы его уникальные знания и опыт можно было формализовать и в конечном итоге полностью заменить его ещё более совершенной машиной. Цель одна — удешевить рабочую силу, повысить норму выработки и максимизировать прибыль для владельцев Google, Microsoft и прочих монополий. Это не сотрудничество, а новая, более коварная стадия классовой борьбы. Единственно верный путь — экспроприация этих «ИИ-фабрик» и передача их в руки самих рабочих для построения подлинно свободного и творческого труда на благо всего общества!