Источник: Перейти

Краткое содержание

Крупные технологические компании, включая Сбер и Яндекс, активно внедряют искусственный интеллект в процесс разработки программного обеспечения (AI PDLC). Эта трансформация меняет роль инженера: вместо написания кода вручную он всё чаще ставит задачи ИИ-ассистентам, проверяет их результат и управляет архитектурой проекта. Сбер отчитывается о значительном прогрессе, оценивая свой уровень зрелости как «автоматизацию под наблюдением», где ИИ выполняет большинство операций, но финальное решение остаётся за человеком.

Внедрение собственных инструментов, таких как GigaCode и GigaIDE PRO, позволило компании ускорить адаптацию новых сотрудников почти вдвое и повысить продуктивность команд на 62%. Однако этот переход сопряжён с психологическими трудностями: разработчики опасаются утраты навыков и превращения из творцов в контролёров. Особенно остро проблема стоит для молодых специалистов, которые вынуждены проверять ИИ-код, не имея собственного глубокого опыта, и для опытных инженеров, теряющих удовлетворение от решения сложных задач.

Комментируют

Ханна Арендт: Мы наблюдаем здесь классический процесс превращения «труда» (work) в «работу» (labor). Разработчик как homo faber, человек-созидатель, строивший осмысленные и долговечные цифровые миры, низводится до уровня animal laborans — существа, занятого бесконечным циклом производства и потребления. Его задача — не создавать новое, а обслуживать конвейер, который сам производит код. Цель «Zero-Friction PDLC» — это не просто оптимизация, это создание тотальной системы, в которой нет места для спонтанности, суждения и, следовательно, для человеческой свободы.

Этот процесс порождает «мироотчуждение». Когда человек перестает быть автором своего мира и становится лишь винтиком в производственном цикле, он теряет связь с реальностью, которую должен был создавать. Разделение на два лагеря — тех, кто принимает ИИ, и тех, кто сопротивляется, — это не техническая проблема адаптации. Это политический симптом, крик человеческой натуры против её сведения к функции. В этой унификации и устранении «трения» кроется банальность зла: система, работающая безупречно эффективно, но лишённая человеческого смысла и ответственности.

Карл Поппер: Заявления о «зрелости» и движении к «пятому уровню» — это пример технологического историцизма, веры в предначертанный, линейный прогресс. Эта шкала — не научная теория, а скорее маркетинговый нарратив, который невозможно фальсифицировать. Какие критерии опровергли бы эту модель? Никаких. Нам предлагают поверить в утопию, где агентный ИИ решает все проблемы. Но любая закрытая система, не допускающая критики, ведёт к догматизму, а не к росту знания.

Метрики вроде скорости адаптации и числа pull request выглядят убедительно, но они измеряют количество, а не качество. Можно ли фальсифицировать утверждение, что создаваемый таким образом код является более надёжным и поддерживаемым в долгосрочной перспективе? Психологические проблемы разработчиков — это не побочный эффект, а прямое эмпирическое свидетельство, которое может опровергнуть гипотезу о превосходстве этой модели. Если «человек в контуре» деградирует, вся система построена на ложном основании. Мы должны применять к таким инициативам не восхищение, а метод проб и ошибок, свойственный открытому обществу.

Сократ: Скажите, о мудрейшие, я правильно понял, что теперь ремесленник, который строил корабли, больше не обтёсывает доски и не ставит мачты? Вместо этого он говорит некоему механическому духу: «Построй мне корабль», а затем осматривает, не течёт ли он? Но если ремесленник с юности только и делал, что осматривал чужую работу, откуда ему знать, как правильно заделать пробоину или какой толщины должна быть палуба, чтобы выдержать шторм?

Мне говорят, что опытные мастера печалятся, потому что машина лишила их радости решать трудные загадки. Разве не в преодолении трудностей закаляется ум и крепнет дух? Если мы устраним всякое «трение» на пути, не станет ли сам путь гладким, но ведущим в никуда? И вот ещё что не даёт мне покоя: если юноша, не зная ремесла, поставлен судить работу машины-мастера, не подобен ли он слепцу, которого просят оценить краски на картине? Не приведёт ли это к тому, что мы будем ценить не истинное мастерство, а лишь его подобие?

Что делать?

Ханна Арендт: Первейшая задача — восстановить публичное пространство внутри этих корпоративных структур. Разработчики должны перестать быть изолированными исполнителями и начать действовать как граждане своего профессионального полиса. Необходимо создавать независимые гильдии или комитеты для обсуждения не только технических, но и этических последствий автоматизации. Речь должна идти не о том, как быстрее выполнить задачу, а о том, почему мы её выполняем и к чему это приведёт.

Следует отличать «поведение», предписанное системой, от «поступка» — свободного и осмысленного действия. Не просто принимайте или отклоняйте код ИИ. Документируйте случаи, когда человеческое суждение, интуиция или неортодоксальный подход привели к лучшему результату, который не поддаётся формальным метрикам. Сохраняйте пространство для человеческого начала — это единственный способ не превратиться в приложение к машине.

Карл Поппер: Откажитесь от утопического проектирования и перейдите к «пошаговой социальной инженерии». Вместо того чтобы гнаться за мифическим «пятым уровнем», проводите контролируемые эксперименты. Сформируйте две команды для решения сложной, нестандартной задачи: одна работает по старинке, другая — с ИИ-агентами. Сравнивайте не только скорость, но и долгосрочную надёжность, гибкость и элегантность решения. Только так можно получить фальсифицируемые данные, а не пропагандистские лозунги.

Внедряйте культуру критического рационализма. Поощряйте разработчиков не за слепое принятие предложений ИИ, а за их аргументированное опровержение. Заведите «журнал фальсикаций», где будут фиксироваться ошибки и неоптимальные решения машины. Рост знания происходит не через подтверждение, а через выявление и исправление ошибок. Это единственный путь к построению действительно устойчивой системы.

Сократ: Прежде чем доверить машине свой труд, не должен ли каждый для начала познать самого себя? Спросить себя: в чём заключается моя истинная ценность как мастера? Что приносит мне радость в работе — скорость выполнения или красота решения? И не отдаю ли я машине ту самую часть работы, которая и делает меня человеком, а не автоматом?

Возможно, мудрость в том, чтобы подвергать сомнению каждое предложение этого услужливого помощника? Когда он предлагает путь, не стоит ли спросить: «Это самый короткий путь или самый правильный? Научит ли он меня чему-то новому или заставит забыть старое?» Быть может, истинный разработчик — не тот, кто быстрее всех бежит по проложенной машиной дороге, а тот, кто останавливается, чтобы спросить, куда эта дорога ведёт?

Что будет дальше?

Ханна Арендт: Я предвижу углубление социального раскола внутри технологической элиты. С одной стороны, возникнет каста «архитекторов» — небольшая группа людей, которые проектируют ИИ-системы, ставят им цели и обладают подлинной властью. С другой — появится огромный класс «цифровых надсмотрщиков», чей труд будет сведён к монотонному контролю за работой машины. Их работа будет лишена смысла и инициативы, а сами они станут взаимозаменяемыми. Это создаст новую, невиданную прежде форму классового неравенства.

Мы увидим проявление «банальности зла» в коде. Системы, созданные исключительно ради эффективности и без глубокого человеческого осмысления, начнут порождать катастрофические социальные последствия. Надсмотрщики, как и Эйхман, будут говорить, что они «просто следовали протоколу». Ответственность растворится в сложности системы, и виноватых не окажется — виновата будет сама бездумная, тотальная эффективность.

Карл Поппер: Нынешний пузырь завышенных ожиданий неизбежно лопнет. Мы станем свидетелями крупного системного сбоя — «кризиса, порождённого ИИ». Критически важная инфраструктура, разработанная преимущественно машиной под поверхностным человеческим надзором, откажет из-за неочевидной логической ошибки, которую заметил бы опытный инженер, но пропустил алгоритм. Этот провал будет иметь огромный резонанс.

Это событие отрезвит индустрию и фальсифицирует догму о полной автоматизации. На смену идее «ИИ-управляемой» разработки придёт более умеренная концепция «ИИ-ассистируемой» разработки, с чёткими границами и возвращением ценности человеческой экспертизы. «Открытое общество» инженеров, ценящее критику и поиск ошибок, одержит верх над закрытой, догматичной моделью тотальной эффективности.

Сократ: Не увидим ли мы рождение нового типа мастера? Того, кто будет владеть ИИ, как Фидий владел резцом, но чья слава будет проистекать не от умения пользоваться инструментом, а от способности видеть в бесформенном камне божественную статую? И не станет ли подлинное мастерство от этого ещё более редким и ценным сокровищем, доступным лишь немногим?

Но что, если случится иначе? Что, если, поручив машинам думать за нас, мы обнаружим, что наши собственные умы затупились от бездействия? И когда перед нами встанет поистине новая задача, для которой у машины нет готовых ответов, останется ли хоть кто-то, способный мыслить с самого начала? Не окажется ли, что в погоне за миром без трения мы уничтожили то самое трение, которое высекает искру гениальности?