Словарь терминов ИИ для руководителя и инженера
Токен, контекст, температура, эмбеддинг, RAG, агент, галлюцинация и ещё два десятка терминов — коротко и по делу, без математики.
Практика применения ИИ в работе — без хайпа. Разбираем, как выбирать модели, считать деньги, строить RAG и агентов и не сливать данные.
Токен, контекст, температура, эмбеддинг, RAG, агент, галлюцинация и ещё два десятка терминов — коротко и по делу, без математики.
Что из рабочих данных опасно вставлять в публичные чат-боты, как классифицировать информацию и написать внутренние правила работы с ИИ.
Из чего складывается бюджет на ИИ, как посчитать расход токенов и стоимость своего сервера и почему главная статья расходов — люди.
Готовые шаблоны промптов для деловой переписки, отчётов, работы с таблицами и протоколов совещаний, плюс принципы, по которым их доделывать под себя.
Разбираем четыре типовых сценария ИИ-агентов — заявки, база знаний, мониторинг, аналитика — и где проходит граница между пользой и демо.
Как устроен поиск по документам с генерацией ответа: чанкинг, эмбеддинги, поиск, сборка промпта и ошибки, из-за которых RAG врёт.
Как прикинуть, какая модель влезет в видеопамять, что даёт квантизация, почему длинный контекст съедает память и как самому замерить скорость.
Четыре критерия выбора языковой модели для компании: данные, цена, задержка и качество. Когда хватит облака, а когда нужен свой сервер.