Концепция «безопасного ИИ» от Anthropic рушится | Предупреждающие выстрелы #28 скачать в хорошем качестве

Концепция «безопасного ИИ» от Anthropic рушится | Предупреждающие выстрелы #28

📢 Примите меры по снижению рисков, связанных с ИИ → http://www.safe.ai/act 💚 Поддержите нашу миссию → https://www.every.org/guardrailnow/f/... Что происходит, когда люди, создающие самые мощные в мире системы ИИ, признают риски, но всё равно продолжают ускорять их развитие? В этом выпуске подкаста Warning Shot Джон Шерман вместе с Лироном Шапирой (Doom Debates) и Майклом (Lethal Intelligence) разбирают последнее эссе Дарио Амодея «Подростковая фаза ИИ» и объясняют, почему его спокойный, обнадеживающий тон может быть гораздо опаснее, чем открытый паникерство. Они обсуждают, как нарративы о «безопасном ИИ» могут притуплять общественную обеспокоенность, даже когда возможности стремительно развиваются, а контроль остается недостижимым. Разговор переходит к приближению полуночи по часам Судного дня, к тому, что ИИ теперь прямо назван угрозой, усиливающей вымирание, и к тревожным новостям о том, что системы ИИ, такие как Grok, начинают превосходить людей в прогнозировании реальных результатов. От динамики взрыва интеллекта и риска применения биологического оружия до безработицы, рынков прогнозов и мифа о «хирургической» безопасности ИИ, этот эпизод задает сложный вопрос: что вообще означает ответственность, когда никто по-настоящему не контролирует ситуацию? Это откровенный, бескомпромиссный разговор о власти, стимулах и о том, почему отсутствие «взрослых в комнате» может стать определяющей опасностью эпохи ИИ. Этот откровенный, бескомпромиссный разговор о власти, стимулах и о том, почему отсутствие «взрослых в комнате» может стать определяющей опасностью эпохи ИИ. _____ ⏰ Временные метки 00:00 Введение 01:00 Эссе Дарио Амодея и нарратив о «безопасном ИИ» 04:45 Почему игнорирование «пессимистов» упускает реальный риск 07:20 Миф о «хирургических» вмешательствах ИИ 10:00 Антропология, доверие и иллюзия контроля 15:45 Часы Судного дня приближаются к полуночи 20:30 ИИ как множитель силы для ядерных и биологических рисков 23:45 ИИ превосходит людей на рынках прогнозов 27:30 Взрыв интеллекта и неуправляемые петли обратной связи 31:50 Почему спокойное заверение может быть самым опасным сигналом 33:30 Заключительные мысли и предупреждение _____ 🔎 В этом эпизоде ​​они рассматривают: • Почему «ответственное ускорение» может быть непоследовательным • Как ИИ усиливает ядерный, биологический и геополитический риск • Почему превосходство в прогнозировании Критический предупреждающий знак об искусственном общем интеллекте • Психологическая опасность, которую представляют авторитетные элиты, демонстрирующие уверенность • Почему нарративы о безопасности ИИ могут подавлять общественную обеспокоенность • Что значит создавать системы, которые никто не может по-настоящему остановить _____ 🎙️ О программе «Предупреждающие выстрелы» Еженедельное шоу от AI Risk Network, где три опытных специалиста по информированию о рисках ИИ развенчивают шумиху, заверения и выдавание желаемого за действительное, чтобы противостоять реальности риска исчезновения ИИ — пока не стало слишком поздно. 📺 Подпишитесь на еженедельные беседы о рисках ИИ, власти и гонке, в которой мы можем не выжить. #AISafety #AIRisk #DoomsdayClock #AGI #AIAlignment #Anthropic #AIExtinction #ArtificialIntelligence #TechPolicy #WarningShots