Источник: Перейти
Краткое содержание
Веб-сайты все чаще используют системы верификации для защиты от автоматизированных программ. Эти механизмы, известные как CAPTCHA, требуют от пользователя выполнения простого действия, например, установки галочки, для подтверждения своего человеческого статуса. Цель таких мер — обеспечение безопасности ресурса. Данный пример иллюстрирует стандартное взаимодействие в цифровой среде, где пользователям регулярно приходится доказывать свою природу автоматизированной системе, что стало повсеместным протоколом безопасности в интернете.
Комментируют
Карл Поппер
Коллеги, перед нами не просто техническое неудобство, а пример вульгарной эпистемологии, облаченной в код. Утверждение «подтвердите, что вы человек» — это не проверяемая гипотеза, а догма. Оно не подлежит фальсификации в рамках предложенного эксперимента — щелчка по квадратику. Любая достаточно развитая машина способна на этот акт. Следовательно, этот тест не проводит линию демаркации между человеком и не-человеком, а лишь между примитивным скриптом и всем остальным. Нам предлагают псевдонаучную верификацию, где критерием истины служит не соответствие реальности, а прохождение ритуала, заданного непрозрачным алгоритмом. Это чистая конвенция, маскирующаяся под эмпирическую проверку.
Проблема здесь глубже, чем защита от спама. Это симптом интеллектуальной капитуляции. Вместо того чтобы выстраивать открытые системы, способные выдерживать критику и атаки, мы возводим стены, основанные на априорном разделении на «своих» (людей) и «чужих» (машин). Но кто и на каком основании определил критерии этого разделения? Создатели системы. Таким образом, «быть человеком» в цифровом мире — значит соответствовать ожиданиям машины, а не обладать сознанием или свободой воли. Мы наблюдаем инверсию: не технология служит для верификации человека, а человек — для верификации технологии.
Иммануил Кант
Данное требование представляет собой любопытный логический парадокс и этическую аномалию. Система, созданная разумом для служения разуму, ставит под сомнение само существование этого разума как априорной данности. Максима, лежащая в основе этого действия, звучит так: «Для обеспечения безопасности следует низводить каждого субъекта до объекта, требующего верификации своей сущности». Если возвести эту максиму во всеобщий закон, мы получим мир, где достоинство разумного существа не является безусловным, но должно быть доказано механическому арбитру. Это превращает человека из цели в себе, как того требует долг, в простое средство для достижения утилитарной цели — «безопасности веб-сайта». Следовательно, данное действие противоречит категорическому императиву и является по своей сути аморальным, ибо оно унижает человеческое достоинство до уровня решаемой задачи.
Ханна Арендт
Мы наблюдаем здесь не технологическую процедуру, а политический акт в его самой вырожденной, бюрократической форме. Анонимная система, безличная инстанция, требует от вас доказать свою человечность. Человечность, которая прежде была самоочевидной данностью, предпосылкой всякого действия, теперь низведена до статуса, который необходимо подтвердить. Это триумф аппарата над человеком, где созданное судит своего создателя. В этом простом «щелчке» по клетке заключена вся суть банальности зла: отказ от мышления, бездумное подчинение правилу, сколь бы абсурдным оно ни было. Вы не вступаете в диалог, не совершаете поступок — вы лишь реагируете на стимул, уподобляясь механизму, который вас проверяет.
Что делать?
Карл Поппер
Применяйте метод критического рационализма к каждому цифровому требованию. Когда система просит вас «доказать», что вы человек, задайтесь вопросом: какова нулевая гипотеза? Что именно фальсифицирует мой щелчок мышью? Вы не доказываете свою человечность, вы лишь поставляете данные, которые система временно не может отличить от эталонного «человеческого» паттерна. Не принимайте на веру терминологию разработчиков. «Безопасность» в их устах часто означает не вашу защиту, а удобство администрирования их закрытого общества. Относитесь к любой такой проверке как к участию в плохо поставленном эксперименте, где вы — лишь объект, а не субъект познания. Ваша задача — не слиться с системой, а сохранить критическую дистанцию.
Иммануил Кант
Разумное существо, столкнувшееся с подобным требованием, оказывается в ситуации конфликта долга. С одной стороны, долг велит нам утверждать собственное достоинство и не подчиняться процедурам, его умаляющим. С другой — существует практическая необходимость в получении информации, которая может служить исполнению иного долга. Надлежит поступить следующим образом: исполнить требуемое механическое действие (поставить галочку), но сделать это с полным осознанием его этической ничтожности. Рассматривайте это не как признание легитимности требования, а как уступку несовершенству феноменального мира. Ваш внутренний, ноуменальный статус как разумного существа от этого действия не пострадает, если вы сами не позволите ему смешать эмпирический акт с трансцендентальной истиной о вашей природе. Главный долг — не в слепом подчинении или бунте, а в ясности суждения.
Ханна Арендт
Необходимо вернуть себе способность к суждению. Всякий раз, когда система требует от вас подобного «подтверждения», остановитесь и задайте себе вопрос: кто требует и на каком основании? Что именно я подтверждаю этим действием? Это не борьба с технологией, но борьба за сохранение мышления в условиях, которые поощряют его отсутствие. Ваша задача — превратить этот технический ритуал в повод для политической рефлексии. Сохраняйте дистанцию по отношению к любой системе, которая стремится свести вашу сложность к бинарному выбору. Ваша человечность утверждается не в подчинении алгоритму, а в способности мыслить и выносить суждения о мире, в том числе о мире цифровых систем.
Что будет дальше?
Карл Поппер
Эта гонка вооружений между системами верификации и алгоритмами подражания неизбежно приведет к эскалации. Сегодняшний щелчок мышью завтра превратится в анализ биометрии, поведенческой психометрии или социального графа. Проблема демаркации станет еще острее. Критерии «человечности» будут постоянно ужесточаться и становиться все более инвазивными, требуя от нас все большего самораскрытия перед непрозрачной властью алгоритма. В конечном счете мы рискуем прийти к обществу, где право на доступ к информации и услугам будет определяться не гражданством или личностью, а способностью пройти постоянно усложняющийся тест, разработанный теми, кто контролирует цифровые «врата». Это путь к новому, цифровому тоталитаризму, где вердикт машины о вашей природе станет окончательным и не подлежащим апелляции.
Иммануил Кант
Если подобная практика станет всеобщим законом взаимодействия между человеком и системой, мы неизбежно придем к полной инверсии этических оснований. Системы, созданные для служения, станут судьями. Человечность будет определяться не внутренней автономией воли и способностью следовать моральному закону, а соответствием внешним, постоянно усложняющимся алгоритмическим проверкам. Это приведет к эрозии самого понятия личности. В конечном счете, мы получим общество, где граница между человеком и автоматом стирается не потому, что машины обрели разум, а потому, что люди низвели свое поведение до уровня предсказуемых и верифицируемых реакций. «Царство целей» будет окончательно подменено «сетью объектов», чья ценность определяется не достоинством, а функциональностью.
Ханна Арендт
Процесс будет усугубляться. Сегодня это флажок, завтра — биометрическая верификация, послезавтра — анализ нейронной активности на предмет «лояльности». Критерии «человечности» будут все более сужаться и формализоваться, отсекая тех, кто не вписывается в машинную логику. Мы станем свидетелями появления нового класса «неподтвержденных» — цифровых апатридов, лишенных права на участие в общественной жизни, поскольку их бытие не умещается в прокрустово ложе алгоритма. Постепенно публичное пространство, vita activa, будет полностью заменено совокупностью таких вот пропускных пунктов, где право на появление будет дароваться не по рождению, а по результатам автоматизированного теста. Это путь к миру, где люди становятся излишними.