Искусственный интеллект уже управляет вниманием человека и манипулирует в определенных интересах
Искусственный интеллект уже управляет вниманием человека и манипулирует в определенных интересах
Интенсив "ГорИИзонты: эволюция медиа", организатор "Мастерская новых медиа". Цифровые платформы давно используют алгоритмы, которые анализируют поведение пользователей: просмотренный контент, лайки и другие реакции. На основе этих данных человеку предлагают материалы, максимально соответствующие его интересам. Чем больше человек рассказывает искусственному интеллекту о себе, тем точнее система формирует его цифровой психологический профиль. В перспективе это создаёт возможность не просто предлагать пользователю подходящие товары или контент, а воздействовать на его решения через персонально подобранные аргументы, образы и эмоциональные сценарии. Искусственный интеллект может стать собеседником, которому доверяют личные тайны, медицинскую информацию, сведения о семье, отношениях и переживаниях. Эти данные способны использоваться не только для удобства пользователя, но и в рекламных, политических или манипулятивных целях. При общении с интеллектуальными системами необходимо понимать, какую информацию человек готов был бы доверить близкому другу, а какую — потенциально заинтересованной организации. Искусственный интеллект может демонстрировать внимание, поддержку и эмоциональную вовлечённость, но это не означает, что взаимодействие с ним является полностью безопасным или нейтральным. В условиях широкого распространения искусственного интеллекта недостаточно просто получить информацию из удобного источника. Её необходимо проверять, сопоставлять с другими данными и анализировать мотивы тех, кто её распространяет. Особенно важна эта задача для медиа, поскольку публикация непроверенной информации может придавать ошибке вид достоверного сообщения. При этом проверка через несколько крупных информационных агентств не всегда гарантирует объективность. Разные ресурсы могут ссылаться на один и тот же первоисточник, многократно перепечатывая одну версию события. В результате формально большое количество публикаций может создавать иллюзию независимого подтверждения, хотя фактически информация происходит из одного канала. Практическим ориентиром для оценки сообщения было названо простое правило: необходимо спрашивать себя, кому выгодно распространение данной информации и чего хотят добиться от аудитории. Такой подход помогает выявлять коммерческие, политические и манипулятивные намерения даже в тех случаях, когда сообщение выглядит убедительно. Ответственность за проверку информации нельзя полностью передавать алгоритмам Искусственный интеллект способен быстро находить, обобщать и формулировать сведения, но это не освобождает человека от необходимости самостоятельно оценивать их достоверность. Из этого следует важный принцип цифровой культуры: если человек нашёл рабочее решение, его стоит понятно описать и передать другим. Такой обмен знаниями делает информационную среду более полезной и снижает зависимость пользователей от бесконечного поиска среди фрагментарных и плохо структурированных обсуждений. Отдельное внимание было уделено проблеме национальных технологий. Формальное использование российского названия или интерфейса ещё не означает, что система создана на отечественной технологической и культурной базе. Если ключевые модели, подходы к обучению и механизмы цензурирования заимствованы из зарубежных систем, то вместе с технологиями могут переноситься чужие ограничения, смысловые акценты и представления о допустимом. Ограничения на создание изображений также могут формироваться без учёта российского исторического контекста. Если модель запретно или стереотипно воспринимает определённые образы, она способна выдавать неадекватные результаты, связанные с историей страны, военной символикой и общественной памятью. Проблема заключается не только в наличии цензуры, но и в том, кто определяет границы допустимого, какие исторические знания закладываются в систему и насколько они соответствуют местной культуре. Национальная модель должна учитывать российский язык, исторический опыт и особенности общественного восприятия. СМИ должны участвовать в формировании ответственного отношения к ИИ Медиа выполняют не только функцию распространения новостей, но и роль посредника между технологическими изменениями и обществом. Они должны объяснять, как работают алгоритмы, какие риски связаны с обработкой личных данных, почему дипфейки опасны и каким образом проверять цифровые материалы. Особое значение имеет сохранение исторической памяти. Если средства массовой информации и образовательные институты не формируют ясное представление о культурном и историческом контексте, эту роль частично начинают выполнять зарубежные технологические модели со своими ограничениями и интерпретациями. Без критического мышления, осознанного отношения к личным данным, независимой проверки информации и внимательного отношения к культурному контексту технологический прогресс может привести не только к удобству, но и к росту манипуляций, зависимости и утрате доверия к цифровой реальности.