Почему проблема выравнивания ИИ решена на 0% — бывший исследователь MIRI Цви Бенсон-Тилсен скачать в хорошем качестве

Почему проблема выравнивания ИИ решена на 0% — бывший исследователь MIRI Цви Бенсон-Тилсен

Цви Бенсон-Тилсен семь лет занимался проблемой выравнивания в Исследовательском институте машинного интеллекта (MIRI). Теперь он выносит отрезвляющий вердикт: человечество достигло «практически 0% прогресса» в её решении. Цви раскрывает основополагающие идеи исследований MIRI, такие как «теория вневременных решений» и «корректируемость», которые показывают, как мало человечество на самом деле знает об управлении сверхразумом. Эти теоретические концепции выравнивания дают нам возможность заглянуть в будущее, раскрывая неочевидные структурные законы «интеллидинамики», которые в конечном итоге определят нашу судьбу. Пришло время познакомиться с некоторыми из самых ярких достижений MIRI. Следите за третьей частью моего интервью с Цви, где мы обсуждаем временные рамки развития ИИОН! Посмотрите первую часть моего интервью с Цви о создании человеческих супердетей:    • Former MIRI Researcher Solving AI Alignmen...   0:00 Основные моменты эпизода 0:49 Человечество достигло 0% прогресса в согласовании ИИ 1:56 Лучшие моменты согласования MIRI: Рефлексивная теория вероятностей, логическая неопределённость, рефлексивная устойчивость 6:56 Почему суперинтеллект так сложно согласовать: самомодификация 8:54 ИИ станет максимизатором полезности (рефлексивная устойчивость) 12:26 Влияние «онтологического кризиса» на ИИ 14:41 Почему современный ИИ не будет «согласован по умолчанию» 18:49 Дискуссия: Решили ли магистратуры права проблему «онтологического кризиса»? 25:56 Великолепный результат выравнивания MIRI: Теория вневременных решений 35:17 Великолепный результат выравнивания MIRI: Корригируемость 37:53 Известного решения для корригируемого и рефлексивно стабильного сверхинтеллекта нет 39:58 Резюме