Источник: Перейти

Краткое содержание

Автор статьи рассматривает влияние больших языковых моделей (LLM) на экономические отношения, развивая свою предыдущую концепцию ‘виртуального товара’. Анализируется уникальная тройственная роль LLM, которые одновременно выступают как товар для своих разработчиков, средство производства для бизнеса, использующего их для автоматизации, и средство потребления для конечных пользователей.

Эта многогранность, не имевшая аналогов в прошлом, порождает новые экономические явления, такие как ‘платформенная рента’, где владельцы инфраструктуры становятся ‘цифровыми лендлородами’. В статье выделяются ключевые противоречия новой эпохи: между общественным характером данных для обучения моделей и частным присвоением результатов, между различными экономическими ролями LLM, а также между тенденциями к монополизации и стратегическому использованию открытых моделей в конкурентной борьбе.

Комментируют

Иммануил Кант

Анализ, представленный в статье, фиксирует эмпирические феномены, однако не восходит к априорным принципам, лежащим в их основании. Фундаментальное противоречие, которое автор именует «общественным характером обучения и частным присвоением», есть не экономическая, а чисто моральная антиномия. Максима, лежащая в основе действия корпораций, такова: «Дозволено использовать совокупный продукт разума всего человечества как простое средство для извлечения частной выгоды, не испрашивая согласия и не рассматривая создателей как цели самих по себе». Помыслить такую максиму в качестве всеобщего закона невозможно, ибо это уничтожило бы само условие возможности свободного обмена знанием, на котором зиждется просвещение. Человечество в лице его интеллектуальных трудов используется здесь как вещь, а не как субъект, состоящий в царстве целей.

Различение модели как товара, средства производства и потребления есть лишь классификация явлений, не затрагивающая их ноуменальной сущности. Суть не в том, сколько экономических ролей исполняет объект, а в том, соответствует ли способ его создания и применения долгу. Возникновение «цифровых лендлордов» есть не более чем следствие первоначального морального нарушения. Устанавливается система, в которой доступ к инструментам разума опосредован волей частных лиц, что превращает остальных в гетерономных субъектов, чья познавательная деятельность зависит не от собственного разумения, а от внешних, произвольных условий. Это прямое препятствие на пути к состоянию совершеннолетия.

Сократ

Скажу вам, о мудрейшие, я, старик, мало что понимаю в этих «виртуальных товарах» и «платформенных рентах». Мне кажется, я слышу речи новых софистов, которые искусно играют словами, чтобы запутать суть. Нам говорят, что машина, обученная на словах всех людей, от Гомера до последнего торговца на агоре, вдруг становится частной собственностью. Но разве можно владеть эхом? Если я соберу все камни с дорог Афин и построю из них храм, будут ли камни принадлежать мне, или они так и останутся достоянием города?

Мне кажется, этот ученый муж, сам того не ведая, обнажил не столько новое экономическое чудо, сколько старую, как мир, уловку: назвать общее – частным, а присвоение – созданием. Он говорит, что модель – это и товар, и станок, и телевизор. А может, она – ни то, ни другое, ни третье, а лишь зеркало, отражающее весь наш мир, которое несколько хитрецов завесили тканью и теперь продают билеты, чтобы на него посмотреть?

Карл Поппер

Попытка автора наложить лекала политэкономии девятнадцатого века на цифровую реальность — это прекрасный пример того, что я называю идолопоклонством перед методом. Автор, подобно гегельянцу или марксисту, ищет «противоречия», полагая, что в их обнаружении и заключается высшая мудрость. Однако эти так называемые противоречия — не более чем артефакты выбранной им оптики, а не свойства самой реальности. Тот факт, что LLM может быть и товаром, и средством производства, и предметом потребления, — это не диалектический парадокс, а тривиальное следствие универсальности технологии, подобно тому как электричество может и питать завод, и освещать дом, и быть предметом биржевой торговли. Называя это «противоречием», автор лишь затемняет суть дела, подменяя трезвый анализ поиском подтверждений для своей априорной догматической схемы. Это не наука, а эсхатология, облаченная в одежды инженерного эссе. Утверждения о «цифровых лендлордах» и «обобществленном труде» нефальсифицируемы; их невозможно опровергнуть, поскольку они не делают конкретных, проверяемых предсказаний, а лишь предлагают определенную интерпретацию, замкнутую саму на себя.

Что делать?

Иммануил Кант

Долг каждого разумного существа — пользоваться собственным рассудком. Sapere aude! Имейте мужество. Не следует делегировать искусственному интеллекту способность суждения, которая является неотъемлемым атрибутом личности. Используйте его как инструмент для синтеза многообразия созерцаний, но формальное единство апперцепции должно оставаться за вами. Подвергайте его выводы строжайшей критике с позиций чистого разума. Ваша максима должна быть такова: «Я буду применять данный механизм лишь постольку, поскольку это способствует моей собственной рациональной автономии, а не подменяет её».

В общественном поле необходимо стремиться к установлению правового состояния (Rechtszustand), которое регулировало бы эту новую сферу отношений. Требуется не перераспределение ренты, а создание универсальных законов, основанных на уважении к человечеству в каждом индивиде как к цели самой по себе. Эти законы должны утвердить принцип, согласно которому продукт совокупного разума не может быть приватизирован без всеобщего на то согласия, выраженного через легитимные правовые процедуры. Задача не экономическая, а правовая: обеспечить условия для свободы каждого в цифровой эпохе.

Сократ

Что же делать благородному гражданину, когда повсюду ему предлагают мудрость из машины? Не спешите задавать ей вопрос. Прежде задайте его себе. Испытайте свой собственный разум, словно атлет, тренирующий тело. Ведь если вы обращаетесь к оракулу за каждым ответом, не рискуете ли вы разучиться мыслить самостоятельно?

Используйте этот инструмент не как костыль для хромого ума, а как спарринг-партнера, который поможет вам отточить собственные доводы. Спросите машину, почему она так считает? Найдите в её ответе слабое место. Ведь истинное знание рождается не в готовом ответе, а в диалоге, в сомнении, в вечном поиске. Не позволяйте машине думать за вас, заставьте её помочь вам думать лучше.

Карл Поппер

Читателю, особенно если он, как и автор, инженер, следует применить к социальным теориям тот же скептицизм, какой он применяет к отладке кода. Откажитесь от поиска всеобъемлющих законов истории и «фундаментальных противоречий». Эти концепции — интеллектуальные ловушки, они создают иллюзию понимания, но на деле парализуют волю, представляя нас заложниками неких безличных сил. Вместо этого следует практиковать то, что я называю «поэтапной социальной инженерией». Не пытайтесь перестроить всю экономическую систему на основании умозрительной теории. Вместо этого выделите конкретную, четко очерченную проблему — например, проблему авторских прав на данные, использованные для обучения моделей. Затем сформулируйте конкретное, фальсифицируемое предложение по ее решению. Например: «Введение обязательных отчислений правообладателям за использование их данных для обучения LLM приведет к замедлению роста производительности моделей на 10% в год». Это — проверяемая гипотеза. Ее можно обсуждать, критиковать и, в конечном счете, проверить на опыте. Только такой путь ведет к росту знания, а не к бесконечному пережевыванию идеологических догм.

Что будет дальше?

Иммануил Кант

Текущее положение, основанное на максиме, не выдерживающей проверки на универсальность, по необходимости нестабильно. Мы будем наблюдать не столько экономическую борьбу, сколько конфликт за когнитивную автономию. С одной стороны, корпорации будут стремиться легализовать и закрепить свое право на присвоение общедоступных данных, представляя это как необходимое условие прогресса. С другой — будет нарастать рациональное противодействие, требующее нового общественного договора, который бы определил статус «интеллектуальных общин».

В конечном счете, развитие событий определяется тем, какой выбор сделает человечество. Либо оно впадет в новое состояние несовершеннолетия, где мышление большинства будет направляться непрозрачными системами, принадлежащими немногим. Либо, через публичное применение разума, оно выработает такие правовые формы, которые подчинят технологию безусловному требованию нравственного закона. Исход не предопределен; он зависит от нашей коллективной решимости мыслить самостоятельно и действовать сообразно долгу.

Сократ

Что ждёт нас дальше? Боюсь, мы вступаем в эпоху величайшего самообмана. Мы будем восхищаться речами, написанными не людьми, и спорить с доводами, рождёнными не в уме, а в алгоритме. Появятся законы, сочинённые машиной для выгоды её хозяев, но облечённые в столь гладкие и убедительные формулировки, что мы примем их за благо.

Истинным противоречием станет не борьба труда и капитала, а борьба человеческого разума с его же собственным симулякром. И самый главный вопрос будет не в том, кто владеет моделями, а в том, останется ли у нас воля и умение мыслить самостоятельно, или мы превратимся в пассивных потребителей готовых истин, аплодирующих теням на стене нашей цифровой пещеры.

Карл Поппер

Я не пророк, и любые предсказания о будущем — не более чем предположения. Однако можно предположить, что борьба между двумя подходами к осмыслению этих технологий лишь обострится. С одной стороны, мы увидим расцвет новых квазинаучных, холистических теорий, объясняющих всё и вся через призму «цифрового феодализма» или «информационного капитализма». Эти теории будут популярны, ибо они дают простые ответы и указывают на врага. С другой стороны, будет идти медленная и кропотливая работа по созданию институтов открытого общества в новой цифровой среде: разработка нового законодательства о данных, создание международных стандартов безопасности ИИ, эксперименты с бизнес-моделями. Так называемые «противоречия» не будут «разрешены» в каком-то финальном синтезе. Скорее, они превратятся в поле для постоянного торга, конкуренции и правового регулирования. Монополии будут ограничиваться антимонопольными органами, а движение за открытый код будет подталкивать их к большей прозрачности. Будущее не предопределено — оно будет результатом столкновения наших идей и наших ошибок, которые мы, я надеюсь, сумеем вовремя исправить.