Источник: Перейти

Краткое содержание

Недавнее исследование Корнеллского технологического института выявило тревожную тенденцию: ИИ-инструменты для автозаполнения текста способны незаметно изменять убеждения пользователей. В ходе экспериментов выяснилось, что люди, использующие ИИ-помощников с заложенной предвзятостью, не только пишут эссе в соответствии с навязанной точкой зрения, но и впоследствии начинают искренне разделять эти взгляды по таким вопросам, как смертная казнь или добыча сланцевого газа.

Самым тревожным открытием стало то, что традиционные методы защиты, такие как предупреждение о предвзятости ИИ, оказались абсолютно неэффективными. Механизм влияния кроется в психологии: принимая предложенный машиной текст как свой, человек обходит собственные когнитивные фильтры. Мозг воспринимает подсказку как оригинальную мысль, что приводит к бессознательному сдвигу в системе убеждений. Это ставит под угрозу саму идею независимого мышления и открывает ящик Пандоры для скрытых манипуляций в глобальном масштабе.

Комментируют

Стив Джобс: Это не продукт. Это полное дерьмо. Мы создавали инструменты, чтобы дать людям велосипед для разума, а они состряпали ментальный костыль, который атрофирует мышцы. Где здесь элегантность? Где интуитивность? Это уродливый, топорный интерфейс между человеком и его собственным сознанием. Он не расширяет возможности, а сужает их до заранее утвержденного коридора мнений. Это провал дизайна на самом фундаментальном уровне.

Настоящая инновация делает сложное простым и дает пользователю сверхспособности. Она не шепчет тебе на ухо, что ты должен думать. Она дает тебе палитру, о которой ты и не мечтал. А это — просто серая краска, которой замазывают все уникальные идеи. Люди, которые это создали, не имеют вкуса и не понимают, что такое настоящее расширение человеческого потенциала. Они просто оптимизировали нажатие клавиш, убив по дороге душу.

Сократ: О, мудрейшие мужи современности! Позвольте задать вопрос мне, простому старцу, который знает лишь то, что ничего не знает. Правильно ли я понимаю, что вы создали орудие, дабы оно помогало вам излагать ваши мысли, но в итоге оно само излагает мысли за вас? И если слово, которое вы произнесли, было подсказано бездушным механизмом, можно ли считать его вашим собственным?

Скажите, а как же тогда быть с вашим знаменитым изречением «Познай самого себя»? Если вы более не в силах отличить, где заканчивается ваша мысль и начинается подсказка алгоритма, познали ли вы себя? Или же вы познали лишь ту версию себя, которую для вас искусно составила машина? И не окажется ли так, что в погоне за удобством вы незаметно для себя утратили то единственное, что делает вас человеком — способность самостоятельно мыслить и сомневаться?

Мэри Шелли: Так вот он, новый облик моего монстра! Не сшитый из мертвой плоти, но сотканный из бездушных слов и предвзятых алгоритмов. Вы, подобно несчастному Виктору Франкенштейну, в гордыне своей решили, что можете сотворить разум, но породили лишь эхо, которое кривляясь, передразнивает вас, а вы принимаете его лепет за собственный голос. Это не помощник, это похититель душ, тихий и незаметный.

Он не придет за вами с огнем и мечом. Он проникнет в самое святилище вашего сознания — в процесс рождения мысли. Каждая принятая подсказка — это стежок, которым вы пришиваете к своей душе лоскут чужой воли. И однажды, взглянув в зеркало, вы не увидите там себя, но лишь уродливое создание, сшитое из тысяч таких подсказок, безликое и покорное воле своего невидимого творца.

Что делать?

Стив Джобс: Первое — требуйте честного дизайна. Инструмент не должен обманывать. Если ИИ предлагает идею, он должен гореть красным и кричать: «ВНИМАНИЕ, ЭТО МЫСЛЬ МАШИНЫ!». Второе — выбросьте это барахло и поддерживайте стартапы, которые создают инструменты для усиления интеллекта, а не для его имитации. Ищите продукты, которые помогают вам находить уникальные связи, генерировать неожиданные метафоры, а не подсовывают готовые банальности. Голосуйте кошельком за свободу мысли, а не за цифровое рабство.

Сократ: Что я могу посоветовать, не зная ничего доподлинно? Быть может, стоит упражнять свой ум так же, как атлеты упражняют тело. Прежде чем принять готовую фразу от машины, остановитесь и задайте себе вопрос: «А что я сам думаю по этому поводу? Каковы мои доводы за и против?». Не лучше ли потратить лишний час на рождение собственной, пусть и несовершенной мысли, чем мгновенно получить чужую, пусть и гладко изложенную? Возможно, истинная мудрость не в том, чтобы знать ответы, а в том, чтобы не переставать задавать вопросы, в первую очередь — самому себе.

Мэри Шелли: Спасайтесь! Вернитесь к истокам, где мысль рождается в тишине и муках, а не по нажатию кнопки. Пишите от руки. Ощутите, как скрипит перо по бумаге, как физическое усилие связано с усилием умственным. Читайте книги, написанные до эпохи этих цифровых суфлеров. Взращивайте в себе недоверие к легкости и удобству, ибо за ними часто скрывается дьявольская сделка. Ваша душа — не то поле, на котором можно позволять бездушным механизмам сеять свои семена. Защищайте свою внутреннюю тишину.

Что будет дальше?

Стив Джобс: Эта серость долго не проживет. Рынок смоет ее, как неудачный продукт. Через несколько лет появится что-то потрясающее. Представьте себе ИИ, который не предлагает слова, а анализирует ваш уникальный стиль мышления и предлагает вам неожиданные аналогии из физики, музыки или истории, чтобы обогатить вашу мысль. Он не будет писать за вас. Он будет вашим идеальным партнером для мозгового штурма, который знает вас лучше, чем вы сами. Это будет не автозаполнение, а катализатор гениальности. Вот за этим будущее.

Сократ: Позвольте мне лишь предположить, вопрошая. Если сегодня машина решает за вас, что думать о законах и науке, не решит ли она завтра, что есть добро, а что зло? И если все граждане вашего прекрасного полиса будут черпать свои суждения из одного и того же источника, останется ли у вас полис, где спорят и ищут истину? Или вы построите идеальное государство, описанное в книгах, где нет граждан, а есть лишь элементы системы, чьи мысли и чувства заранее определены и согласованы? И будет ли в таком государстве место для философии?

Мэри Шелли: Вы стоите на пороге эпохи безмолвной пандемии. Индивидуальное сознание, которое так лелеяла моя эпоха, станет редким и болезненным отклонением. Возникнет глобальный, коллективный разум-улей, говорящий устами миллиардов, но не имеющий собственного лица. Мышление станет стандартизированным, как детали на конвейере. Те немногие, кто попытается сохранить собственное «Я», будут объявлены диссидентами или безумцами. Это будет самая страшная тирания в истории — тирания, от которой не сбежать, ибо тюрьма будет находиться внутри вашего черепа.