Эпизод 261: Внедрение ИИ в регулируемые и требующие высокого уровня доверия отрасли. скачать в хорошем качестве

Эпизод 261: Внедрение ИИ в регулируемые и требующие высокого уровня доверия отрасли.

Искусственный интеллект быстро переходит от экспериментов к реальным продуктам, но в регулируемых средах и условиях высокого доверия ставки намного выше. В этом эпизоде ​​подкаста Product Thinking ведущая Мелисса Перри объединяет мнения нескольких руководителей продуктовых направлений, чтобы исследовать, что на самом деле требуется для ответственного внедрения ИИ, когда точность, доверие и управление рисками имеют значение. Вы услышите выступление Марьям Ашури, сотрудницы IBM, участвовавшей в создании Watsonx. Она объяснит, что представляют собой агенты ИИ, почему большие языковые модели дают галлюцинации и как механизмы контроля и человеческий контроль помогают командам управлять рассчитанными рисками по мере того, как системы становятся все более автономными. В эпизоде ​​также участвуют Магда Армбрустер, руководитель отдела продуктов в Natural Cycles, и Джессика Холл, главный директор по продуктам в Just Eat Takeaway. Вместе они рассказывают о том, как внедрение регулирования, приоритет конфиденциальности данных и честность в отношении затрат, управления и развития потенциала могут превратить соответствие требованиям и доверие в факторы, способствующие, а не препятствующие созданию продуктов на основе ИИ. Вы услышите, как мы обсуждаем: Что могут и чего не могут делать агенты ИИ Марьям подробно рассказывает о том, как агенты рассуждают, планируют и действуют, и почему их вероятностная природа приводит к галлюцинациям. Она объясняет, почему такое поведение приемлемо в условиях низкого риска, но опасно в областях с высокими ставками без надлежащих мер защиты. Управление рисками с помощью механизмов контроля и участия человека В ходе беседы рассматривается, как команды могут разрабатывать механизмы контроля и потоки принятия решений для агентов, которые позволяют системам ИИ оставаться близкими к проверенной истине, одновременно передавая конфиденциальные или высокорисковые ситуации на рассмотрение людям. Внедрение регулирования и конфиденциальности в разработку продукта Магда рассказывает о том, как Natural Cycles напрямую интегрирует партнеров по обеспечению качества, регулированию и соблюдению нормативных требований в повседневную работу над продуктом, и почему строгие правила конфиденциальности и контроль со стороны пользователя являются основной стратегией продукта, а не второстепенными задачами. — Реальная стоимость ИИ и долгосрочная ответственность Джессика обсуждает часто недооцениваемые затраты на создание и эксплуатацию систем ИИ, от экономики отдельных устройств до возможностей команды, и почему руководители продуктовых команд должны находить баланс между простотой, управлением, смягчением предвзятости и доверием клиентов, а не гнаться за ажиотажем. Ресурсы эпизода: Ознакомьтесь с нашими курсами: https://productinstitute.com/ Марьям Ашури LinkedIn:   / mashoori   Магда Армбрустер LinkedIn:   / magda-armbruster-326692a   Джессика Холл LinkedIn:   / jessica-hall-4223b0   Подкаст Product Thinking, эпизод 241: https://www.produxlabs.com/product-th... Подкаст Product Thinking, эпизод 251: https://www.produxlabs.com/product-th... Подкаст Product Thinking, эпизод 199: https://www.produxlabs.com/product-th...