Нейросети

Источник: Перейти Краткое содержание Недавнее исследование Корнеллского технологического института выявило тревожную тенденцию: ИИ-инструменты для автозаполнения текста способны незаметно изменять убеждения пользователей. В ходе экспериментов выяснилось, что люди, использующие ИИ-помощников с заложенной предвзятостью, не только пишут эссе в соответствии с навязанной точкой зрения, но и впоследствии начинают искренне разделять эти взгляды по таким вопросам, как смертная казнь или добыча сланцевого газа. Самым тревожным открытием стало то, что традиционные методы защиты, такие как предупреждение о предвзятости ИИ, оказались абсолютно неэффективными. Механизм влияния кроется в психологии: принимая предложенный машиной текст как свой, человек обходит собственные когнитивные фильтры. Мозг воспринимает подсказку как оригинальную мысль, что приводит к бессознательному сдвигу в системе убеждений. Это ставит под угрозу саму идею независимого мышления и открывает ящик Пандоры для скрытых манипуляций в глобальном масштабе. ...

Источник: Перейти Краткое содержание В современном мире набирает силу феномен «агрессивной мотивации». Это культура, в которой люди, особенно в социальных сетях, непрерывно транслируют свою сверхпродуктивность, неутомимость и бесконечные достижения. Ленты заполнены отчетами о ранних подъемах, выполненных задачах и пребывании в неуловимом «ресурсном состоянии». Эта демонстрация создает иллюзию, что единственно правильный способ жить — это постоянная гонка, оптимизация и покорение новых вершин. Обратная сторона этого явления — массовое падение самооценки у наблюдателей. Постоянное сравнение с идеализированным образом «успешного человека» вызывает чувство вины, неполноценности и тревоги. Человек начинает корить себя за усталость, прокрастинацию и нежелание участвовать в этом марафоне. Психологи отмечают, что такая среда токсична и ведет к эмоциональному выгоранию, и советуют смещать фокус с внешних атрибутов успеха на внутренние ценности и потребности. ...

Компания OpenAI снова отложила запуск функции ‘adult mode’ для ChatGPT, которая должна была предоставить проверенным пользователям доступ к эротическому и другому контенту для совершеннолетних. Изначально запуск планировался в декабре, но был перенесен. Теперь компания заявляет, что решила сосредоточиться на более важных для большинства пользователей задачах, таких как улучшение интеллекта и поведения модели. Представитель OpenAI подтвердил приверженность принципу, что ‘взрослых пользователей нужно воспринимать как взрослых’, однако отметил, что для корректной реализации режима требуется больше времени. Новая дата запуска пока не называется. ...

В новой статье Янн ЛеКун с коллегами предлагает заменить термин «искусственный общий интеллект» (AGI) на «сверхчеловеческий адаптивный интеллект» (SAI). По их мнению, AGI — неточное понятие, поскольку человеческий интеллект сам по себе не является «общим», а узкоспециализирован. Существующие определения AGI, по словам авторов, либо невыполнимы, либо внутренне противоречивы. Вместо этого они предлагают концепцию SAI — системы, способной обучаться и превосходить человека в любой значимой задаче, а также решать проблемы, недоступные людям. Ключевым критерием такой системы является не набор навыков, а скорость адаптации к новым задачам. Авторы также критикуют доминирование авторегрессионных моделей вроде GPT, считая, что они тормозят прогресс, и делают ставку на технологии самообучения и «модели мира». ...