Архитектура чат-ботов: от proof of concept до масштабируемого решения - Олжас Алсеитов

Олжас Алсеитов, AI/ML инженер в qCloudy, рассказал о разработке чат-ботов на основе LLM для внутренних и внешних нужд. Внутренний чат-бот работает с конфиденциальными данными, а внешний улучшает клиентский опыт. Важными этапами являются тестирование ответов, контекста и интеграция с внутренними системами Спикер: https://www.linkedin.com/in/olzhas-alseitov/ Организатор мероприятия:https://datanomix.pro/ru Ключевые слова: #чат-бот, #LLM, #тестирование, #интеграция, #клиентский опыт. #Claude 3.5 Sonnet, #Security Testing, #Adversarial Attacks, #MMLU, #Benchmarking LLM