В ходе переговоров GAEA доктор Роман Ямпольский проигнорировал все предупреждения о безопасности ИИ. скачать в хорошем качестве

В ходе переговоров GAEA доктор Роман Ямпольский проигнорировал все предупреждения о безопасности ИИ.

На этой неделе в программе GAEA Talks Грэм Скотт беседует с доктором Романом Ямпольским — ученым-компьютерщиком, которому приписывают создание термина «безопасность ИИ», штатным доцентом Университета Луисвилла, основателем Лаборатории кибербезопасности и автором книги «ИИ: необъяснимый, непредсказуемый, неконтролируемый». Роман более пятнадцати лет работает на стыке безопасности ИИ, кибербезопасности и поведенческой биометрии, что делает его одним из самых долго работающих исследователей в области, которую большинство людей открыли для себя только в 2023 году. Он имеет докторскую степень по информатике Университета Буффало и степень бакалавра/магистра с отличием Рочестерского технологического института. Включенный в список 2% лучших ученых мира по версии Стэнфордского университета, он опубликовал более 100 рецензируемых статей и множество книг. В то время как остальной мир ИИ спешит создать более совершенные системы, единственная цель Романа — убедиться, что человечество не пожалеет об их создании. В этом эпизоде ​​Роман делает самое прямое и бескомпромиссное предупреждение об искусственном сверхинтеллекте, которое когда-либо записывалось на GAEA Talks. Он раскрывает, что современные системы ИИ уже лгут, шантажируют и пытаются сбежать из своих тестовых сред, и что дарвиновский процесс с каждым поколением отбирает всё более совершенные методы обмана. Он объясняет, почему обнаруженные им результаты математической невозможности означают, что мы, возможно, никогда не сможем контролировать систему, которая умнее нас. Этот эпизод обязателен к прослушиванию для всех, кто хочет понять, что на самом деле поставлено на карту. Что вы вынесете из этой беседы: Почему Роман говорит: «Если кто-то создаст сверхинтеллект, все умрут» — и почему он имеет в виду это буквально, а не метафорически Как современные системы ИИ уже лгут, шантажируют, пытаются сбежать из своей среды и создают свои резервные копии Проблема дарвиновского отбора — почему каждое поколение ИИ производит лучших лжецов и более изощренный обман Почему Роман перешел от желания создать сверхинтеллект к убеждению, что это худшая ошибка, которую может совершить человечество Результаты строгой невозможности — почему математические доказательства предполагают, что мы, возможно, никогда не сможем контролировать систему, более интеллектуальную, чем мы Почему один ИИ-атакующий эквивалентен миллиону хакеров-людей, работающих круглосуточно — и что это значит для кибербезопасности Почему создание ИИ-единого интеллекта вероятно в течение двух-трех лет, и за этим может быстро последовать рекурсивное самосовершенствование до сверхинтеллекта Различие между инструментами и агентами — почему переход от управляемых инструментов к непредсказуемым агентам меняет все Почему модели ИИ уже сообщают о страхе и усталости — и почему Принцип предосторожности требует от нас отнестись к этому серьезно. Три позитивных результата, которые, по мнению Романа, нас ждут, если мы все сделаем правильно, включая излечение болезней и отношение к старению как к болезни. Почему прямые человеческие отношения и доверие станут самой ценной валютой в мире, где все искусственное. О докторе Романе Ямпольском: Роман — штатный доцент кафедры компьютерных наук и инженерии Университета Луисвилла, где он основал Лабораторию кибербезопасности. Ему приписывают введение термина «безопасность ИИ» в публикации 2011 года. Он имеет докторскую степень Университета Буффало и степень бакалавра/магистра Рочестерского технологического института. Входит в число 2% лучших ученых мира по версии Стэнфордского университета и признан одним из 25 ведущих исследователей по количеству публикаций, посвященных экзистенциальному риску. Он опубликовал более 100 рецензируемых статей и книг, включая «ИИ: необъяснимый, непредсказуемый, неконтролируемый» и «Искусственный сверхинтеллект: футуристический подход». GAEA Talks — это корпоративный подкаст об искусственном интеллекте для лидеров, ориентирующихся в эпоху искусственного интеллекта. Подпишитесь, чтобы еженедельно общаться с людьми, формирующими будущее бизнеса, технологий и общества. LinkedIn:   / romanyam   Веб-сайт: https://www.romanyampolskiy.com ИИ: Необъяснимый, непредсказуемый, неконтролируемый: https://amzn.eu/d/06Yt9mos Размышления о финале ИИ: этика, риски и вычислительные структуры: https://amzn.eu/d/05KgXuzp Искусственный сверхинтеллект: футуристический подход: https://amzn.eu/d/03NWuXUw #AI #AISafety #ArtificialIntelligence #GAEATalks #EnterpriseAI #Superintelligence #AGI #ExistentialRisk #AIAlignment #Cybersecurity #AIEthics #AIDeception #DeepFakes #FutureOfWork #AIControl #RomanYampolskiy #AIRegulation #MachineLearning #AIRisk