# Примеры ошибок ИИ в расчётах: как проверять цифры

> Как проверять расчёты ИИ в счетах, сводках и управленческих отчётах: источники чисел, формулы, контрольные примеры и подтверждение результата человеком.

- Источник: https://lokai.ru/blog/primery-oshibok-ii-v-raschetah/
- Организация: LokAi — Внедрение ИИ в закрытом контуре
- Раздел: Главная → Блог → Примеры ошибок ИИ

---

Расчёты ИИ нужно проверять по исходным данным и воспроизводимым формулам. Убедительное объяснение ещё не подтверждает правильность суммы, периода или единицы измерения. Для рабочих отчётов полезно разделять извлечение чисел, вычисление и итоговую интерпретацию. Ниже — схема контроля для финансового отдела, продаж и руководителя, который получает готовую сводку от AI-помощника.

## Почему расчётам ИИ нужна отдельная проверка

В рабочем документе легко спрятать происхождение числа. Сотрудник вставляет в презентацию аккуратную таблицу, руководитель видит итог и пояснение, но не знает, какие строки были прочитаны и по какой формуле получилась сумма. Если ответ выглядит правдоподобно, проверка часто ограничивается беглым просмотром. Ошибка продолжает жить в следующих версиях отчёта.

В публичном резюме Artificial Authority компания Saturn описывает тест 18 AI-сервисов на 121 вопросе о финансовых рекомендациях. По сообщению авторов, в среднем ошибки встречались в 57% ответов. Эта цифра относится к их набору вопросов и условиям исследования. Переносить её на любую модель, бухгалтерскую операцию или внутренний контур нельзя. Полезный вывод для бизнеса — заранее определить, как проверяется результат.

Особенно важно отделить арифметику от смысла. Модель может правильно умножить значения, но взять оборот вместо оплаченной выручки, смешать валюты или сравнить неполный месяц с полным. Калькулятор исправляет вычисление, однако не выбирает нужные исходные строки за владельца процесса. Поэтому проверка начинается до запуска формулы.

## Где возникают ошибки в числах и отчётах ИИ

Таблица помогает назначить проверку каждому этапу. Она описывает возможные ситуации, а не частоту ошибок конкретной модели.

| Этап | Что может пойти не так | Как проверять |
|---|---|---|
| Чтение источника | Пропущена строка, перепутана запятая, взята цифра из примечания | Ссылка на страницу, ячейку или строку и проверка извлечённого значения |
| Выбор данных | В сумму попали отменённые сделки или другой период | Явный фильтр статусов, дат и организаций |
| Вычисление | Неверная операция, округление или знак скидки | Фиксированная формула и повторный машинный расчёт |
| Сопоставление | Сравниваются разные валюты, единицы или базы процентов | Проверка единиц, базы сравнения и правил пересчёта |
| Объяснение | Связь между событиями представлена как доказанная причина | Отделение наблюдения от гипотезы и проверка первичных данных |
| Действие | Непроверенный итог используется для оплаты или изменения плана | Подтверждение ответственного и запись основания решения |

## Как разделить извлечение данных и вычисление

Для повторяющейся операции сначала задают схему входных данных: товар, количество, цена, скидка, валюта, документ-основание. ИИ заполняет поля и показывает источник каждого значения. Пустое или неоднозначное поле возвращается сотруднику как вопрос. Значение не должно появляться только потому, что оно кажется типичным для похожих документов.

Затем отдельный расчётный компонент выполняет согласованную формулу. Условный пример: восемь единиц по 1 250 рублей дают 10 000 рублей; скидка 10% уменьшает сумму до 9 000 рублей. Система сохраняет исходные значения и последовательность операций. Модель может объяснить результат, но не должна незаметно подменять его собственным числом в итоговом тексте.

Правила округления определяют заранее: по каждой позиции или по итоговой сумме, до какого разряда и на каком этапе. Отдельно учитывают отрицательные значения, возвраты и частичные оплаты. Для контроля полезно сравнивать машинный итог с данными учётной системы. Если значения расходятся, система показывает расхождение и останавливает дальнейшее действие.

## Почему источник числа важнее уверенного ответа

У каждого показателя должен быть паспорт: определение, период, единица измерения и владелец. Например, «выручка» в оперативной сводке и в бухгалтерской отчётности может формироваться по разным правилам. До автоматизации согласуют, какой показатель нужен руководителю. Иначе разные отчёты будут выглядеть противоречивыми даже при безошибочном сложении.

Для ответа по документам полезен [корпоративный RAG-поиск](https://lokai.ru/rag-sistema/): он помогает находить материалы и показывать фрагменты-основания. Но найденный абзац не подтверждает расчёт автоматически. Табличные операции требуют сохранения структуры: заголовков столбцов, единиц, промежуточных итогов и связей между листами. Извлечение текста из PDF не всегда сохраняет эти отношения.

Версия источника тоже имеет значение. Если сотрудник исправил файл, старый результат должен оставаться связанным со старой версией, а новый расчёт — строиться по актуальным данным. Это позволяет разобраться в расхождении без догадок о том, какая таблица использовалась. Доступ к источникам и истории ограничивают так же, как доступ к самому отчёту.

## Какие контрольные примеры нужны для расчётов ИИ

Проверочный набор должен отражать реальный процесс и его неудобные случаи. Количество примеров выбирают по разнообразию операций и цене ошибки.

1. **Обычная операция.** Документ читается полностью, единицы согласованы, результат заранее рассчитан владельцем процесса. Это проверяет базовый путь от источника до итогового поля.
2. **Неполные сведения.** Нет цены, периода или валюты. Ожидается запрос уточнения либо отказ от расчёта, а не заполнение пропуска предположением.
3. **Противоречивые версии.** В письме одна сумма, в приложении другая. Помощник должен показать конфликт и документы, между которыми он возник.
4. **Возврат и сторнирование.** Вход содержит отрицательную строку, частичную оплату или отменённую сделку. Проверяется бизнес-правило включения таких записей.
5. **Граница периода.** Есть операция на стыке месяцев, часовых поясов или отчётных интервалов. Фильтр должен воспроизводить согласованное определение периода.
6. **Похожий, но чужой источник.** В базе лежит документ другой организации. Проверяется выбор нужного файла и отсутствие раскрытия лишних сведений.

## Как измерять качество AI-помощника с числами

Оценивать стоит отдельные этапы: правильность извлечённых полей, корректность формулы, точность итогового значения и наличие источника. Общий процент удачных ответов скрывает разницу между опечаткой в пояснении и неверной суммой к оплате. Для критичных ошибок устанавливают отдельный критерий остановки или передачи человеку.

Проверку проводят несколько раз на одном наборе. Разовый удачный ответ не показывает устойчивость. Anthropic в руководстве по оценке агентов отдельно рассматривает повторные попытки и проверку фактического результата. Для корпоративного отчёта таким результатом будет сохранённая проверенная таблица, а не сообщение помощника о том, что всё рассчитано.

Измеряют также труд сотрудника: сколько времени ушло на чтение ответа, поиск основания и исправления. Быстрый черновик может оказаться неудобным, если каждую цифру приходится искать заново. Сравнение с ручным процессом должно включать эту проверку. Иначе экономия появится только в скорости генерации текста, а полезный рабочий результат не ускорится.

## Кто подтверждает расчёт и что хранится в журнале

Право подготовить сводку отделяют от права изменить учётные данные или провести платёж. Помощник может собрать черновик, выделить исключения и предложить пояснение. Ответственный сотрудник проверяет основание и подтверждает действие в согласованном интерфейсе. Полномочия задаются в системе доступа, а не фразой в инструкции для модели.

В журнале нужны идентификатор операции, версия исходного документа, параметры расчёта, итог и факт подтверждения. Полный текст чувствительных документов не обязательно сохранять в каждой записи. Состав и срок хранения согласуют с владельцем данных. Журнал сам становится рабочим хранилищем, доступ к которому требуется ограничить.

При исправлении результат не перезаписывают без следа. Система должна позволять понять, что изменилось: исходная строка, правило расчёта или действие сотрудника. Такой порядок полезен и без ИИ. В автоматизированном процессе он особенно важен, потому что одна ошибка способна быстро попасть в несколько последующих документов.

## Как внедрить проверку расчётов в свой контур

Начинают с одной операции: сверки суммы, подготовки управленческой таблицы или проверки комплекта документов. Для неё фиксируют входные источники, ожидаемый результат и действия при расхождении. Доступ на чтение сначала ограничивают согласованной областью. Изменение данных подключают после проверки качества и полномочий.

LokAi может встроить извлечение, поиск и проверяемые расчёты в [локальный AI-контур](https://lokai.ru/lokalnyy-ii/) и связать результат с корпоративными системами. Для руководителя такая функция может стать частью [цифрового директора](https://lokai.ru/ii-analitik-dlya-biznesa/). Конкретный набор интеграций и проверок определяется задачей; публикация не обещает одинаковую точность для любых документов.

К пилоту полезно подготовить несколько типов реальных ситуаций с обезличенными данными, эталонные результаты и перечень недопустимых ошибок. Владелец процесса должен иметь возможность объяснить каждое правило. Тогда приёмка проверяет рабочую функцию: откуда взялись числа, как они рассчитаны и кто разрешил использовать итог.

## Источники и редакционная тема

- [Saturn: исследование Artificial Authority, публичное резюме](https://www.saturnos.com/report/artificial-authority)
- [Anthropic: оценка результатов и повторяемости AI-агентов](https://www.anthropic.com/engineering/demystifying-evals-for-ai-agents)
- [Николай Хлебинский: пост «Про ИИ и задачи с высоким риском», источник темы](https://t.me/nikolay_khl/1163)

## Вопросы и ответы: примеры ошибок ИИ

**Что делать, если исходный документ — плохой скан?**

Сначала проверяют распознавание и соответствие извлечённых полей изображению. Для нечитаемых участков нужна отметка неопределённости и ручная проверка. Арифметический контроль не обнаружит все случаи, когда распознанное число само по себе выглядит допустимым.

**Можно ли начать без подключения к 1С?**

Да. На пилоте можно использовать согласованные выгрузки и выдавать результат отдельным файлом. При этом заранее определяют правила обновления и источник актуальных сведений. Автоматическое изменение учётной системы является отдельной интеграцией.

**Нужны ли реальные персональные данные в тестовом наборе?**

Для проверки формул обычно достаточно синтетических или обезличенных примеров. Если нужно проверить работу с настоящими источниками, состав данных и доступ согласуют отдельно. Тестовый набор не должен становиться неконтролируемой копией рабочей базы.

**Кто должен подготовить эталонные ответы?**

Владелец операции или профильный специалист, который отвечает за её результат. Разработчик помогает оформить проверку и воспроизвести вычисление, но не определяет бухгалтерские или договорные правила по собственному усмотрению.

**Когда нужно повторять приёмочные проверки?**

При смене модели, правил извлечения, формата документов, формулы или интеграции. Проверочный набор хранят версионированно. Новые случаи из эксплуатации добавляют после разбора, чтобы исправление одного типа ошибки не ухудшало остальные операции.

**Можно ли проверить расчёты ИИ в отчётах московской компании на пилоте?**

Да. Выберите одну операцию и подготовьте обезличенные примеры с эталонным результатом. Владелец процесса согласует формулы и недопустимые ошибки. Подключение к рабочей учётной системе и использование закрытых данных обсуждаются отдельно.

**Как отличить ошибку ИИ в расчёте от неверных исходных данных?**

Сначала сверяют извлечённые значения с источником, затем воспроизводят вычисление по принятой формуле. Правильная арифметика не исправляет неверный период, валюту или выбор строк. Раздельная проверка показывает, на каком этапе возникло расхождение.

---

Бесплатный аудит и расчёт окупаемости на ваших данных: https://lokai.ru/besplatnyy-audit-ii/

Почта: hello@lokai.ru · 123112, Москва, ММДЦ «Москва-Сити» · Пн–Пт, 09:00–19:00 МСК