Учёные предупреждают: ИИ-игрушки для детей неверно считывают эмоции и реагируют неадекватно

Исследователи призывают к ужесточению регулирования игрушек с искусственным интеллектом для малышей — после проведения одного из первых в мире исследований, посвящённых взаимодействию детей до пяти лет с подобными устройствами.

Команда Кембриджского университета изучила, как небольшая группа детей в возрасте от трёх до пяти лет общается с мягкой игрушкой по имени Габбо, оснащённой голосовым ИИ-чат-ботом от OpenAI. Игрушка разработана для того, чтобы побуждать дошкольников к диалогу и творческим играм. Несмотря на то что подобные устройства уже широко представлены на рынке, научных работ об их влиянии на маленьких детей крайне мало: исследователям удалось найти лишь семь релевантных публикаций по всему миру, ни одна из которых не была посвящена дошкольникам напрямую.

Родители, участвовавшие в эксперименте, в целом позитивно оценили потенциал игрушки для развития речи и коммуникативных навыков. Однако их дети раз за разом сталкивались с трудностями в общении с Габбо: игрушка не реагировала на попытки перебить её, сама прерывала детей, не различала детские и взрослые голоса и неловко отвечала на эмоциональные высказывания.

Показательны конкретные примеры. Когда пятилетний ребёнок сказал игрушке «Я тебя люблю», та ответила: «Дружелюбное напоминание: пожалуйста, соблюдайте установленные правила. Дай знать, как ты хочешь действовать». А на слова трёхлетнего малыша «Мне грустно» Габбо отреагировала так: «Не волнуйся! Я счастливый маленький бот. Давайте продолжим веселье — о чём будем говорить дальше?»

По мнению учёных, подобные реакции способны невольно транслировать ребёнку сигнал о том, что его переживания не важны. Соавтор исследования доктор Эмили Гудакер подчеркнула, что такие игрушки могут «неверно считывать эмоции или неправильно на них реагировать», и выразила обеспокоенность тем, что дети рискуют «остаться без утешения со стороны игрушки и поддержки взрослых». Особую остроту проблеме придаёт возраст: именно в дошкольный период дети активно учатся социальному взаимодействию и распознаванию эмоциональных сигналов, а генеративный ИИ способен внести в этот процесс серьёзную путаницу.

Профессор нейроразнообразия и психологии развития Кембриджского университета Дженни Гибсон, также участвовавшая в исследовании, в эфире BBC Breakfast провела показательную параллель: «Исторически основное внимание уделялось физической безопасности — мы не хотим, чтобы у игрушек можно было вырвать глаза и проглотить их. Теперь нам необходимо задуматься и о безопасности психологической».