Что сложного в разработке приложений на базе LLM? скачать в хорошем качестве

Что сложного в разработке приложений на базе LLM?

Театр ИИ, науки о данных и MLOps Четверг, 25 сентября 16:00–16:30 В этом докладе вы узнаете о некоторых распространённых проблемах, с которыми вы можете столкнуться при разработке содержательных приложений с использованием больших языковых моделей. Использование недетерминированных систем в качестве основы для важных приложений, безусловно, является «интересным» новым горизонтом в разработке программного обеспечения, но надежда не потеряна. В этом докладе мы рассмотрим некоторые известные (и менее известные) проблемы при разработке приложений на основе API, предоставляемых поставщиками программ LLM, и на «открытых» программах LLM, таких как Mistral, Llama или DeepSeek. Иан Массингем Специалист по работе с разработчиками, Griptape.ai Иан Массингем — старший технолог с обширным опытом в области инфраструктуры данных и облачных вычислений. В настоящее время он работает в Griptape, стартапе, находящемся на ранней стадии развития и сосредоточенном на разработке приложений агентного ИИ и LLM. До этого Ян занимал должность директора по маркетингу в финском стартапе Aiven, занимающемся разработкой инфраструктуры данных с открытым исходным кодом, а до этого — вице-президента по связям с разработчиками в MongoDB. До 2021 года Ян проработал в AWS 8 лет, присоединившись к компании в декабре 2013 года, где занимал различные должности в отделе по связям с разработчиками и, в конечном итоге, руководил отделом архитектуры глобальных решений для клиентов стартапов. Мы также (конечно же) подробно рассмотрим некоторые подходы, которые можно использовать для решения этих проблем, и смягчим некоторые присущие LLM особенности поведения, что позволит вам создавать более надёжные и устойчивые системы на основе LLM, раскрывая потенциал этой новой парадигмы разработки.