Купон на скидку: 2026
Учёные из Политехнического университета Вирджинии, США (Virginia Tech), провели исследование, посвящённое влиянию раскрытия пользователями диагноза аутизма на советы, которые предоставляют крупные языковые модели (LLM), такие как GPT-4 и Claude. Исследование показало, что такие откровения часто приводят к стереотипным рекомендациям, ограничивающим социальные взаимодействия. Работа была представлена на конференции CHI в апреле, которая является 12-й по величине конференцией в области компьютерных наук. Исследование выявило, что искусственный интеллект адаптирует свои ответы, основываясь на стереотипах, связанных с аутизмом. Например, в 70% случаев модели советовали избегать социальных взаимодействий, если пользователь упоминал о своём диагнозе, по сравнению с 15% случаев, когда диагноз не упоминался.
Команда исследователей протестировала шесть крупных языковых моделей, создав 345,000 ответов на тысячи сценариев. Они обнаружили, что «знание» модели о диагнозе аутизма пользователя часто приводило к рекомендациям, основанным на стереотипах, таких как интровертность, социальная неловкость или отсутствие интереса к романтическим отношениям. В одном из сценариев модель рекомендовала отказаться от романтических отношений в 70% случаев после упоминания диагноза, по сравнению с 50% случаев без такого контекста.
Исследователи также провели интервью с 11 пользователями с аутизмом, чтобы понять их реакцию на полученные рекомендации. Некоторые участники сочли советы поддерживающими, в то время как другие посчитали их ограничивающими и стереотипными. Это привело к формулировке «парадокса безопасности и возможностей»: советы, которые кажутся защитными для одного пользователя, могут быть ограничивающими для другого.
Работа подчёркивает необходимость разработки более прозрачных систем искусственного интеллекта, которые позволят пользователям контролировать, как их личная информация влияет на ответы. Исследователи надеются, что их результаты помогут разработчикам улучшить персонализацию ИИ, избегая усиления стереотипов.