Владимир Леоненко

Что нужно знать архитектору про проектирование / разработку систем, использующих генеративный ИИ

Подробнее о спикере
— Последние 7 лет проектирует AI-системы в SMLab и руководит их внедрением.
— Ex-T1
— 20+ лет в отрасли
— Product School Alumni, Reforge Alumni

Подробное описание доклада
Докладчик расскажет:
— С какими специфичными задачами и проблемами приходится сталкиваться архитекторам, встраивающим foundation-модели в свои приложения
— Как выглядит типичный корпоративный GenAI-стек глазами архитектора
— Почему разметка данных всё равно потребуется
— Как работать с evals
— Что подавать в контекст
— С какими GenAI-специфичными trade-off's придётся иметь дело
— Как это всё приводит к способам сравнения моделей

Докладчик разберёт вышеперечисленные пункты на типовом кейсе «давайте обработаем обращения в контакт центр / отзывы на товар». Также расскажет о кейсах, которые НЕ стоит решать при помощи foundation-моделей.