Context Engineering SF: Уроки, извлеченные из масштабирования CoCounsel — Джейк Хеллер скачать в хорошем качестве

Context Engineering SF: Уроки, извлеченные из масштабирования CoCounsel — Джейк Хеллер

Джейк Хеллер делится опытом создания CoCounsel, первого ИИ-помощника для юристов, и рассказывает о переходе от разработки подсказок к разработке контекста. Он объясняет, как GPT-4 позволила решать юридические задачи с производительностью, близкой к человеческой, какие методы использовала его команда для разработки надежных подсказок, и почему контекст, поиск и итерация важнее разовых хаков. В докладе рассматриваются реальный опыт разработки с использованием больших языковых моделей, практические методы оценки и масштабирования, а также идеи создания ИИ-продуктов, которые действительно работают в таких важных областях, как юриспруденция. Главы: 00:28 - Ранняя работа с GPT-4 00:53 - Переход к со-консультанту 01:38 - Успех с GPT-4 02:34 - Приобретение компанией Thomson Reuters 02:57 - Введение в контекстную инженерию 03:24 - Развитие со-консультанта: три важных шага 03:44 - Определение клиентского опыта 04:57 - Пример юридического исследования 06:13 - Линейные и агентные задачи 08:02 - Написание эффективных подсказок 12:44 - Важность контекста 13:33 - Проблемы в разработке подсказок 15:49 - Хитрости и советы по разработке подсказок 18:18 - Тонкая настройка подкрепления и выбор модели