Towards Reducible Uncertainty Modeling for Reliable Large Language Model Agents скачать в хорошем качестве

Towards Reducible Uncertainty Modeling for Reliable Large Language Model Agents

К моделированию снижаемой неопределенности для надежных агентов больших языковых моделей Эта статья посвящена критической необходимости надежной количественной оценки неопределенности (UQ) для агентов больших языковых моделей (LLM), особенно для их ответственного развертывания в интерактивных средах открытого мира. В ней утверждается, что существующие исследования UQ, сосредоточенные в основном на одношаговых задачах или неинтерактивных многошаговых рассуждениях, недостаточны для агентов, чьи действия имеют реальные последствия. Авторы предлагают новую перспективу: UQ для агентов LLM должна моделировать «снижаемую неопределенность», при которой неопределенность может уменьшаться за счет взаимодействия и получения новой информации, а не просто накапливаться. Работа представляет первую общую формулировку UQ для агентов, моделируя траектории решения проблем как стохастические процессы и определяя неопределенность как на уровне хода, так и на уровне траектории. Вводится концептуальная основа, которая рассматривает UQ для агентов как «процесс условного снижения неопределенности», различая действия, увеличивающие и уменьшающие неопределенность, с помощью механизма информационной фильтрации. Эта структура предоставляет практические рекомендации по разработке UQ в системах агентов LLM и включает вывод аналитических границ для интерпретируемости. Наконец, в статье обсуждаются практические последствия для различных областей, таких как здравоохранение и робототехника, подчеркивая ее вклад в будущие исследования систем, учитывающих неопределенность. #АгентыLLM #ОценкаНеопределенности #ОтветственныйИИ #ИнтерактивныйИИ #СнижаемаяНеопределенность #БезопасностьИИ #АгентскиеСистемы #БЯМ документ - https://arxiv.org/pdf/2602.05073v1 подписаться - https://t.me/arxivpaperu отправить донаты: USDT: 0xAA7B976c6A9A7ccC97A3B55B7fb353b6Cc8D1ef7 BTC: bc1q8972egrt38f5ye5klv3yye0996k2jjsz2zthpr ETH: 0xAA7B976c6A9A7ccC97A3B55B7fb353b6Cc8D1ef7 SOL: DXnz1nd6oVm7evDJk25Z2wFSstEH8mcA1dzWDCVjUj9e создано с помощью NotebookLM