Статья: Проблема идентификации манипуляции в диктуме нейросетей (2025)

Читать онлайн

Научное исследование имеет целью разработку методов идентификации манипулятивного воздействия, реализуемого новым типом агенса, имеющего техногенную природу – нейросетью. В работе осуществляется анализ манипулятивных стратегий и приемов, генерируемых большими языковыми моделями ChatGPT и Gemini (Bard), с учетом их влияния на коллективного и индивидуального пациенса и формирования мнения о событиях. Особое внимание уделяется выявлению функциональных, смысловых и когнитивных аспектов манипулятивных актов в ответах нейронных сетей на запросы пользователей. Исследование предлагает подходы для возможной разработки инструментов эффективной оценки и распознавания манипулятивного воздействия в диктуме нейросетей, а также выдвигает гипотезы относительно возможности выделения дискурсивных маркеров, которые могут указывать на наличие манипулятивного воздействия в процессе использования нейросетей. Делается вывод о комплексном и амбивалентном характере манипулятивных маркеров в электронном диктуме, что значительно усложняет их типологизацию. Полученные результаты исследования могут быть полезны для разработки алгоритмов, направленных на повышение надежности, эффективности и безопасности использования нейронных сетей в различных областях применения, включая обработку естественного языка, анализ данных и другие.

Ключевые фразы: манипуляция, событийный фрейм, нейросеть, цифровой агенс
Автор (ы): Боярская Елена Леонидовна, Бархатова Эльвира И.
Журнал: ВЕСТНИК РГГУ. СЕРИЯ «ЛИТЕРАТУРОВЕДЕНИЕ. ЯЗЫКОЗНАНИЕ. КУЛЬТУРОЛОГИЯ»

Предпросмотр статьи

Идентификаторы и классификаторы

SCI
Языкознание
УДК
81. Лингвистика. Языкознание. Языки
Префикс DOI
10.28995/2686-7249-2025-3-51-58
Для цитирования:
БОЯРСКАЯ Е. Л., БАРХАТОВА Э. И. ПРОБЛЕМА ИДЕНТИФИКАЦИИ МАНИПУЛЯЦИИ В ДИКТУМЕ НЕЙРОСЕТЕЙ // ВЕСТНИК РГГУ. СЕРИЯ «ЛИТЕРАТУРОВЕДЕНИЕ. ЯЗЫКОЗНАНИЕ. КУЛЬТУРОЛОГИЯ». 2025. № 3
Текстовый фрагмент статьи