Кембриджские учёные предупреждают: игрушки с ИИ могут навредить психике детей

Ученые Кембриджского университета опубликовали доклад о том, как игрушки с генеративным искусственным интеллектом (ИИ) могут влиять на детей. По их мнению, постоянные разговоры детей с такими игрушками могут привести к нарушениям в развитии и трудностям в общении с другими людьми. Ученые призвали разработать жесткие правила регулирования игрушек с ИИ. Разбираемся в деталях и рассказываем, как Selsup помогает производителям и продавцам детских товаров соблюдать все требования безопасности.

В чём опасность игрушек с ИИ

Кембриджские учёные бьют тревогу: игрушки, оснащённые генеративным искусственным интеллектом, могут представлять серьёзную угрозу для психического развития детей. Речь идёт не о физической безопасности, а о психологической. Если раньше родители беспокоились, что ребёнок может проглотить мелкую деталь, то теперь на первый план выходят вопросы эмоционального и социального развития.

Постоянные разговоры с умными игрушками, которые имитируют живое общение и даже дружбу, могут привести к тому, что ребёнок:

• потеряет навыки реальной коммуникации — общение с игрушкой не требует понимания эмоций, интонаций, невербальных сигналов;
• будет испытывать трудности в построении отношений со сверстниками — игрушка всегда доступна, всегда согласна, не конфликтует, что создаёт искажённое представление о человеческих отношениях;
• может воспринимать игрушку как настоящего друга, что чревато психологической зависимостью и разочарованием в реальных людях;
• получит искажённые социальные модели — алгоритмы не всегда могут правильно реагировать на сложные эмоциональные ситуации.

Что говорят учёные

Дженни Гибсон, профессор по психологии развития Кембриджского университета и один из авторов исследования, подчёркивает: «Исторически много внимания уделяется физической безопасности — нам не нужны игрушки, у которых можно вырвать глаза и проглотить их. Теперь нам нужно думать и о психологической безопасности».

Учёные призывают разработать жёсткие правила регулирования игрушек с ИИ, чтобы «обеспечить психологическую безопасность» детей и ограничить возможности игрушек в выстраивании взаимоотношений с детьми, которые те могут воспринять как дружбу. Речь идёт о том, чтобы законодательно ограничить способность игрушек имитировать эмоциональную привязанность и создавать иллюзию дружбы.

Что это значит для производителей и продавцов

Если рекомендации учёных будут услышаны регуляторами, нас ждут новые требования к игрушкам с ИИ. Производителям придётся:

• проходить дополнительные проверки — не только на физическую безопасность, но и на психологическое воздействие;
• ограничивать функционал — запрещать игрушкам имитировать дружбу, эмоциональную привязанность;
• маркировать продукцию — предупреждать родителей о возможных рисках;
• вести документацию — подтверждать, что игрушка прошла все необходимые тесты.

Для продавцов это означает, что придётся тщательнее проверять поставщиков и документацию на товары. Игрушки, не соответствующие новым требованиям, могут быть запрещены к продаже.

Выводы

Исследование Кембриджского университета поднимает важную проблему: развитие технологий опережает наше понимание их влияния на детей. Игрушки с ИИ, которые имитируют дружбу и эмоциональную привязанность, могут нанести серьёзный вред психике ребёнка. Учёные призывают к жёсткому регулированию, и этот призыв, вероятно, будет услышан.

Для производителей и продавцов это означает новые требования и дополнительную ответственность. Чтобы быть готовыми к изменениям, нужна автоматизация и чёткий учёт. Selsup предоставляет все инструменты для этого, помогая вам сосредоточиться на развитии, а не на бюрократии.