Все материалы

Три языковые модели, пятьдесят вопросов по документам, которых они не видели. Без базы знаний — ноль верных ответов у всех трёх. Интереснее другое: как именно они ошибались, и почему крупная модель делала это убедительнее всех.

Ответ по документам шёл около минуты, и первая мысль — взять модель поменьше. Проверили: не помогает. Время уходило на поиск. После его переноса на видеокарту ответ стал в 4,5 раза быстрее — и мы отдельно доказали, что качество не пострадало.

Так выглядит строка «Информация о продавце» после автоматического распознавания скана. Разбираем, почему русские документы ломают конвейеры разбора, почему «включить русский везде» — тоже не решение и где поиск на двух языках всё ещё промахивается.

Не проверяли, что файл создался, не смотрели в журнал, — а разворачивали и сравнивали с боевой. «Копия создаётся» и «из копии можно восстановиться» — разные утверждения, и расходятся они молча.

Ассистент читает входящие документы целиком — счета, акты, договоры, составленные не вами. А если внутри документа написана команда? Четыре закладки в поддельном акте: что сработало, что нет и чего эта проверка не доказывает.

Список из шести блоков: место и питание, сеть, люди, документы, пилотный корпус и сценарии приёмки. Если всё готово заранее, установка занимает день, а не неделю переписки.

Векторный поиск красиво выглядит на демо и тихо промахивается на реальных документах — там, где в вопросе номер приказа или артикул. Разбираем, из чего собран наш поиск: bge-m3, BM25, переранжирование и ссылка на раздел.

Между «система читает PDF» и «система понимает ваш архив» лежит слой, о котором не пишут в презентациях: распознавание, структурная нарезка и решение о том, где включать OCR, а где не надо.

Распознавание и синтез речи живут на той же видеокарте, что и языковая модель. Самое сложное в этой конструкции — не модели, а замочек в адресной строке телефона.

Видеопамять — единственный параметр, который нельзя докупить потом. Разбираем, на что она тратится, что помещается на одну карту в 16 ГБ и зачем Tier 2 нужна вторая — не ради модели покрупнее.

Каждый ответ содержит ссылку на документ и раздел, а если подходящего фрагмента в базе нет — система отвечает «не найдено». Разбираем, как это устроено, какой ценой даётся и почему мы не обещаем ноль галлюцинаций.

Закупка, право, эксплуатация и границы возможностей — коротко, по пунктам.

Эмбеддинг, реранкер, квантование, air-gap — человеческим языком, без академизма.

Материалы для тех, кто принимает решение: 152-ФЗ, автономность, экономика подписки против своего железа.