Цена токенов видна в счёте, поэтому её легко принять за стоимость AI. В промышленном проекте она часто оказывается лишь одной строкой. Для решения об инвестиции нужна полная стоимость владения и стоимость успешной операции.
Двенадцать строк TCO
- Запросы к основной модели.
- Эмбеддинги, поиск, reranking и хранение.
- Повторные вызовы и резервные модели.
- Подготовка и очистка данных.
- Интеграция с системами компании.
- Инфраструктура, сеть и наблюдаемость.
- Разработка промптов и инструментов.
- Оценка качества и регрессионные тесты.
- Ручная проверка результатов.
- Информационная безопасность и право.
- Поддержка, обновления и обучение пользователей.
- Ожидаемый ущерб от ошибок и простоев.
Главная формула
Стоимость успешной операции = все затраты периода / число результатов, принятых без критической ошибки.
Эта метрика честнее стоимости одного ответа: дешёвая модель может требовать больше повторов и ручных исправлений, а более дорогая — снижать общую себестоимость процесса.
Сценарный расчёт
| Сценарий | Объём | Качество | Ручная проверка |
|---|---|---|---|
| Пилот | 1 000 операций | Базовое | 100% |
| Рабочий | 10 000 операций | Целевое | 20% |
| Стресс | 30 000 операций | Снижение на 10% | 40% |
Решение готово к масштабированию, когда эффект остаётся положительным в стресс-сценарии, а владельцы понимают, какие затраты растут вместе с объёмом.
