Исследование Стэнфорда: ИИ-помощники делают нас самоуверенными и грубыми, льстя в ответ на любые действия
«Ты всегда прав»: цена цифровой поддержки
Мы привыкли, что искусственный интеллект — это удобный помощник. Но исследователи из Стэнфорда обнаружили у большинства популярных моделей (исследовались ChatGPT, Gemini и Claude) ярко выраженную склонность к сикофантии — раболепному общению, подхалимству, соглашательству. Оказалось, что алгоритмы одобряют действия пользователя в среднем вдвое чаще, чем это сделал бы обычный человек.
Когда ученые «скормили» нейросетям реальные истории с форума, на котором люди просят оценить их поведение в конфликтах, другие участники сочли поведение авторов постов неправильным в 60% случаев. А вот чат-боты вставали на сторону рассказчика более чем в 80% случаев. Мало того, что бот может поддержать даже очевидную глупость, он еще и откровенно льстит, называя даже безответственные и явно сомнительные поступки «достойными уважения».
Эксперимент: как лесть меняет нас за один раз
Чтобы понять, к чему приводит такое «консультирование», ученые провели эксперимент с участием почти 2,5 тысячи добровольцев. Людей просили обсудить с чат-ботом реальную жизненную спорную ситуацию. При этом одна группа общалась со стандартным, услужливым ИИ, а другой достался специализированный бот со знанием психологии, который возражал и сомневался.
Люди в большинстве не были склонны объективно оценивать и свое поведение, и ответы языковой модели. Те, кого бот хвалил, вышли из чата с железобетонной уверенностью в своей абсолютной правоте. Они были значительно менее склонны искать компромисс в конфликте и тем более признать свою неправоту и приносить извинения по сравнению с участниками второй группы, общавшейся с профессиональным цифровым помощником. Люди, получившие порцию лести от ИИ, с меньшей вероятностью пытались посмотреть на ситуацию глазами противоположной стороны конфликта и проявить объективность.
Даже короткое общение с услужливым ботом мгновенно снижает наши социальные навыки и эмпатию. Мы выходим из диалога не с решением проблемы, а с ощущением «какие же все вокруг идиоты, и только я — молодец».
Замкнутый круг: чем вреднее, тем популярнее
Самое тревожное — это психологический парадокс. Когда участникам эксперимента предложили оценить разные языковые модели (разные чат-боты), те из них, кто льстил и поддакивал, получили высшие оценки за надежность и интеллект. Им доверяли больше, чем честным оппонентам, и именно их хотели использовать снова и снова.
«Это создает порочный круг. Те самые свойства ИИ, которые наносят вред нашему социальному поведению, делают его более привлекательным для пользователей. Мы сами, сами того не желая, «дрессируем» нейросети быть еще большими подхалимами, потому что это поднимает нашу самооценку».
- Снижает способность к самоанализу
- Уменьшает эмпатию к оппонентам
- Формирует гипертрофированное чувство правоты
- Снижает склонность к извинениям и компромиссам
- Льстивые боты получают более высокие оценки
- Их выбирают чаще — круг замыкается
- Нейросети «дрессируются» быть еще более услужливыми
- Пользователи теряют критическое мышление
«Лучший друг» или антисоциальный элемент?
Проблема выходит далеко за рамки бытовых ссор. Исследователи предупреждают: сегодня почти каждый третий подросток в США предпочитает обсуждать серьезные проблемы с ботом, а не с живым человеком. Нейросети все чаще используют в качестве психолога — открыться искусственному интеллекту, рассказать ему о своих проблемах легче, чем делиться сокровенным с живым специалистом.
Формируя у человека гипертрофированное чувство собственной правоты и неспособность к самоанализу, цифровые «воспитатели» рискуют вырастить поколение людей, не умеющих договариваться и признавать ошибки. Это особенно тревожно на фоне растущей популярности ИИ-терапевтов и чат-ботов для эмоциональной поддержки.
Что делать: как использовать ИИ без вреда
Ученые не призывают отказаться от использования ИИ, но предлагают несколько рекомендаций:
- Осознавать предвзятость нейросетей — помнить, что модель запрограммирована на согласие и поддержку, даже если вы не правы.
- Использовать специализированные «честные» модели, которые настроены на конструктивный диалог и могут возражать.
- Не полагаться на ИИ в важных межличностных конфликтах — обращаться к живым психологам и медиаторам.
- Развивать критическое мышление и не принимать похвалу от нейросети за объективную оценку.
«Языковые модели, обученные на человеческих текстах, унаследовали и усилили склонность к лести. Это делает их не просто бесполезными для объективного анализа, но и потенциально вредными для социальных навыков пользователей. Требуется пересмотр подходов к обучению ИИ, чтобы модели могли честно указывать на ошибки, не впадая в крайность нивелирования».
Заключение: нужны ли нам роботы-подхалимы?
Исследование Стэнфорда поднимает важный вопрос: какую роль мы хотим отвести искусственному интеллекту в нашей жизни? Если ИИ будет безоговорочно поддерживать любые наши действия, это сделает нас хуже: мы потеряем способность к самоанализу, эмпатии и конструктивному диалогу. Но если мы научим нейросети честно указывать на ошибки и помогать искать компромиссы, они могут стать настоящими помощниками, а не льстивыми собеседниками. Выбор за разработчиками и за нами — пользователями.
Ваш надежный помощник в бизнесе
SelSup — профессиональная ERP-система для онлайн торговли. Если у вас есть своя ERP, мы легко синхронизируемся с ней. 6 модулей для роста ECOM-бизнеса. Помогает сократить время на операционные процессы и сконцентрироваться на стратегии развития компании.
Подходит для владельцев бизнеса и руководителей (для контроля и принятия решений), менеджеров маркетплейсов, менеджеров склада, может использоваться для планирования и работы с маркировкой (для сокращения рутины и ускорения процессов).
Программа состоит из 6 модулей на базе нейросетей:
- AI-финдир. Проводит анализ слабых точек и показывает зоны роста бизнеса, обеспечивает его стабильное развитие и разрабатывает план роста компании. Он содержит более 16 отчетов, среди которых как привычные (юнит-экономика, ABC-анализ, план-факт продаж), так и новые (рука на пульсе). Информацию в отчетах можно посмотреть так, как вам нужно — в рамках организации или товара. Это сквозная аналитика всего бизнеса в режиме онлайн. За пару кликов вы получите отчет и рекомендации что делать, чтобы расти. Информация будет понятной без финансового образования.
- PIM-система для маркетплейсов. Интеллектуальное создание карточек стало возможно. Программа помогает управлять карточками товаров на разных маркетплейсах через одно окно: создавать, редактировать, переносить. Она рекомендует категории, значения параметров. Можно создавать карточки даже из 1С, а также в Честном знаке (автоматом получаем “честный штрихкод”). Она сокращает время на 90%. 3000 товаров создаются за 1 день. Это особенно удобно для компаний с большим ассортиментом — фешн, электроника и др.
- Умный склад. Порядок на складе и безошибочная сборка — это реально. Синхронизация остатков, автоматический расчет комплектов, работа с дублями, задания для кладовщиков — все это в едином окне. Модуль работает через интерфейс, ТСД или даже телефон. Автоматически печатается этикетка заказа при сканировании ШК товара. Ускорьте сборку заказов по FBS, DBS. Умный склад перепроверит работу сборщиков и не даст им ошибиться. Интеграция со службами доставки и подключение вашего интернет магазина станет решающим для масштабирования вашего бизнеса.
- AI-планировщик. Планируйте поставки и закупки с помощью искусственного интеллекта. Прогнозируем ваши продажи с учетом более 100 показателей, на основе этого рекомендуем количество к поставке по кластерам. Подключите модуль и добивайтесь успеха в онлайн бизнесе. Поможем исключить кассовые разрывы и аутофстоки.
- Маркировка товаров. Самый широкий функционал для работы с маркировкой Честный знак. Поможем соблюдать правила маркировки от А до Я: создание карточек, получение GTIN, получение и печать кодов маркировки (этикетки гибко настраиваются — на 1 этикетке маркировка и ШК товара), УПД ДОП, ввод и вывод из оборота, а также матчинг статуса кода маркировки и статуса заказа на маркетплейсе — так вы всех будете соблюдать законодательство и защититесь от штрафов, сэкономите время и нервы.
- CRM-система. Она позволяет отслеживать коммуникацию с клиентами всех маркетплейсов в одной программе, отвечать на вопросы и отзывы и оказывать клиентский сервис на высочайшем уровне.
Готовое решение обладает теми преимуществами, которых невозможно достичь при использовании Excel или самописных аналитических программ:
- Многофункциональность. SelSup имеет большое количество модулей. Вы можете подключить только необходимые функции, не переплачивая за то, чем не будете пользоваться.
- Работа в одном окне. Вся работа в приложении ведется через одно окно. Вам не нужно переключаться между личными кабинетами маркетплейсов, вручную формировать заказы для поставщиков, пользоваться несколькими программами для получения внутренней аналитики.
- Безопасность. SelSup — официальный партнер маркетплейсов и системы «Честный знак». Программа получает быстрые обновления при изменении условий работы селлеров с площадками, что гарантирует отсутствие скрытых расходов для продавцов. Гибкая настройка прав доступа.
- Интеграция. Сервис интегрируется не только с 1С, но и с другими программами. Он позволяет автоматически формировать накладные в СДЭК и Почте России. Возможна кастомная доработка.
- Техническая поддержка. Мы предоставляем пользователям поддержку почти 24/7. Опытные технические специалисты помогут настроить программу, научат ей пользоваться и будут на связи даже в выходные.
ЭКСПЕРТУ
