ИИ склонен переоценивать суровость социальных санкций

Исследователи представили методику для оценки понимания метанорм и социального мышления второго порядка в больших языковых моделях (LLM). В отличие от базового понимания норм, метанормы определяют ожидания того, как общество реагирует на их нарушение на эмоциональном и поведенческом уровнях.

В рамках работы был создан датасет NormReact, содержащий 450 сценариев нарушения норм, размеченных с учетом пола нарушителей и социальной дистанции с наблюдателями. Тестирование направлено на прогнозирование саморегуляции нарушителя и санкций со стороны окружающих.

Оценка шести моделей LLM показала, что алгоритмы представляют социальный мир гораздо более суровым, чем он есть на практике. ИИ систематически завышал вероятность наказания в тех случаях, когда люди ожидали бы сдержанности или бездействия, причем расхождение усиливалось с ростом социальной дистанции.