Ловушка консенсуса: анализ субъективности и иллюзии «истины в действительности» в аннотировании д... скачать в хорошем качестве

Ловушка консенсуса: анализ субъективности и иллюзии «истины в действительности» в аннотировании д...

Задумывались ли вы когда-нибудь, кто решает, что «правильно» для обучения ИИ? Мы часто говорим об «истине» как о природном ресурсе, но масштабный систематический обзор более 300 научных работ показывает, что на самом деле это социально-технический артефакт, созданный посредством невидимых решений. Вот почему нынешний способ обучения ИИ сталкивается с «ловушкой консенсуса»: Ловушка консенсуса: Стандартное обучение ИИ использует голосование большинством для определения меток, но это создает почву для демографической дискриминации. Рассматривая разногласия как «шум», который нужно сгладить, специалисты непреднамеренно замалчивают точки зрения меньшинств и культурные нюансы. Разрыв в идентичности: То, как аннотатор размечает данные, тесно связано с его жизненным опытом, включая расу, пол и географическое положение. Например, изменение демографического состава «жюри» аннотаторов может изменить результаты классификации токсичности на 14%. Перформативное согласование: Многие работники с данными в странах Глобального Юга вынуждены подавлять свои собственные культурные представления, чтобы угадать «чего хочет заказчик», лишь бы избежать финансовых санкций и обеспечить выживание. Возникновение «эпистемического симулякра»: Мы движемся к модели «человек как верификатор», где люди просто проверяют результаты, сгенерированные машинами. Это создает замкнутый круг обратной связи, в котором модели обучаются на данных, проверенных более ранними версиями самих себя, рискуя создать гомогенизированную «алгоритмическую монокультуру», которая стирает несогласные человеческие идеи. Решение? Источники утверждают, что необходим сдвиг парадигмы от поиска единственного «правильного» ответа к отображению разнообразия человеческого опыта. Мы должны вернуть несогласие как высокоточный сигнал, необходимый для построения культурно компетентных моделей. Вместо того чтобы просто «очищать» данные, мы должны ценить глубину опыта затронутых сообществ и рассматривать работу с данными как место социальных переговоров, а не как техническую помеху. Пожертвования:   / luxak   статья - https://arxiv.org/pdf/2602.11318v1 подписка - https://t.me/arxivpaper создано с помощью NotebookLM