Этика ИИ

Источник: Перейти Краткое содержание Министерство цифрового развития РФ вынесло на общественное обсуждение законопроект о государственном регулировании технологий искусственного интеллекта. Ключевым принципом документа является требование разработки и внедрения ИИ на основе традиционных российских духовно-нравственных ценностей, таких как патриотизм, крепкая семья, приоритет духовного над материальным и историческая память. Помимо этого, законопроект закрепляет верховенство прав человека, технологическую независимость, безопасность государства и вводит запрет на использование ИИ для манипулирования поведением людей. Данная инициатива является частью более широкой тенденции по юридическому закреплению традиционных ценностей в России. ...

Источник: Перейти Краткое содержание Недавнее исследование Корнеллского технологического института выявило тревожную тенденцию: ИИ-инструменты для автозаполнения текста способны незаметно изменять убеждения пользователей. В ходе экспериментов выяснилось, что люди, использующие ИИ-помощников с заложенной предвзятостью, не только пишут эссе в соответствии с навязанной точкой зрения, но и впоследствии начинают искренне разделять эти взгляды по таким вопросам, как смертная казнь или добыча сланцевого газа. Самым тревожным открытием стало то, что традиционные методы защиты, такие как предупреждение о предвзятости ИИ, оказались абсолютно неэффективными. Механизм влияния кроется в психологии: принимая предложенный машиной текст как свой, человек обходит собственные когнитивные фильтры. Мозг воспринимает подсказку как оригинальную мысль, что приводит к бессознательному сдвигу в системе убеждений. Это ставит под угрозу саму идею независимого мышления и открывает ящик Пандоры для скрытых манипуляций в глобальном масштабе. ...