Одна ошибка в коде может стоить компании несколько тысяч долларов. Другая — сотни миллионов и даже привести к полному закрытию бизнеса. Чем больше денег и процессов завязано на программное обеспечение, тем выше цена технической ошибки.
Особенно опасными становятся ошибки в финансовых системах, блокчейн-проектах и программном обеспечении, которое автоматически принимает решения. В таких случаях несколько строк неправильного кода или неверно настроенный сервер способны запустить цепочку событий с катастрофическими последствиями.
При этом эпоха искусственного интеллекта добавляет новую проблему: программисты всё чаще используют AI для написания и анализа кода. Это значительно ускоряет разработку, но не отменяет необходимость проверять решения нейросети.
Почему одна ошибка программиста может стоить бизнесу миллионов
Современный бизнес критически зависит от программного обеспечения. Банки выдают кредиты через автоматизированные системы, биржи обрабатывают огромное количество сделок, а блокчейн-контракты самостоятельно управляют миллионами долларов.
В такой среде ошибка может быть не просто технической проблемой.
Она может:
- привести к неправильной финансовой операции;
- открыть злоумышленникам доступ к деньгам;
- запустить неиспользуемый фрагмент старого кода;
- нарушить работу всей инфраструктуры;
- привести к потере миллионов долларов;
- уничтожить доверие пользователей;
- поставить компанию на грань банкротства.
Knight Capital: ошибка в старом коде уничтожила компанию
Один из самых известных примеров дорогой программной ошибки связан с американской финансовой компанией Knight Capital Group.
Компания занималась маркет-мейкингом и использовала программное обеспечение для высокочастотной торговли. Система автоматически выполняла большое количество операций на финансовом рынке.
В 2012 году компания обновляла программное обеспечение сразу на нескольких серверах. Новая версия должна была быть установлена на восьми серверах, однако обновление по неизвестной причине дошло только до семи.
На восьмом сервере остался старый код и флаг, который активировал алгоритм, не использовавшийся примерно десять лет.
Именно здесь небольшая ошибка при развертывании превратилась в катастрофу.
После открытия рынка старый алгоритм начал автоматически совершать огромное количество операций. За примерно 45 минут система выполнила около 4 миллионов ошибочных сделок.
Финансовые потери составили около 440 миллионов долларов. Спустя несколько месяцев Knight Capital Group прекратила существование.
Что показывает история Knight Capital
Этот случай особенно важен не потому, что программист написал несколько тысяч строк плохого кода.
Проблема была гораздо прозаичнее: разные серверы оказались в разных состояниях.
Даже старый код, который никто не использовал годами, может стать критической уязвимостью, если он всё ещё находится в production и способен активироваться.
Поэтому при разработке и эксплуатации крупных систем необходимо контролировать:
- версии программного обеспечения;
- конфигурацию серверов;
- процесс deployment;
- feature flags;
- неиспользуемый legacy-код;
- соответствие конфигурации всех production-серверов.
The DAO: ошибка в smart contract привела к краже миллионов
Другой известный пример произошёл в мире блокчейна.
The DAO представляла собой децентрализованный венчурный фонд, созданный на базе Ethereum. Пользователи инвестировали в проект криптовалюту, рассчитывая получать прибыль.
В проект было вложено примерно 150 миллионов долларов в Ether. Однако в коде функции вывода средств существовала критическая логическая ошибка.
Проблема заключалась в последовательности операций.
При выводе средств баланс пользователя должен был сначала уменьшиться, а затем деньги должны были отправиться получателю. Однако код делал наоборот: сначала отправлял средства, а только потом обновлял баланс.
Это создавало возможность для так называемой reentrancy-атаки.
Злоумышленник мог повторно вызвать функцию вывода до того, как баланс успевал обновиться. В результате одна и та же сумма могла выводиться многократно.
В итоге из The DAO было выведено около 3,6 миллиона Ether, что стало причиной фактического краха проекта.
Ethereum пришлось разделить из-за ошибки в коде
Последствия инцидента The DAO вышли далеко за пределы одного проекта.
Для устранения последствий была проведена беспрецедентная операция — hard fork основной сети Ethereum.
Старая версия блокчейна продолжила существовать под названием Ethereum Classic, а новая сеть сохранила название Ethereum и не включала транзакции, связанные с кражей средств The DAO.
Таким образом, ошибка в одном smart contract повлияла не только на владельцев конкретного проекта, но и на развитие целой блокчейн-экосистемы.
Это один из главных рисков смарт-контрактов: после публикации код работает в среде, где ошибка может иметь прямое финансовое выражение.
Nomad Bridge: достаточно было отправить ноль
Ещё более показательный пример произошёл с Nomad Bridge — сервисом для перевода активов между различными блокчейн-сетями.
В 2022 году после обновления в коде появилась критическая ошибка, связанная с проверкой транзакций.
Обычно транзакция должна содержать подтверждение в виде криптографической подписи или хеша, после чего система проверяет его корректность.
Но обновлённый код позволял использовать вместо корректного хеша простое значение 0, которое система также считала валидным.
В результате злоумышленникам фактически не пришлось искать сложную уязвимость или создавать особенно изощрённый эксплойт. Система сама принимала некорректное подтверждение как допустимое.
Из smart contract Nomad Bridge было выведено около 190 миллионов долларов. После инцидента сервис прекратил работу.
Почему этот случай особенно опасен
Сложные атаки иногда требуют глубокого понимания архитектуры системы.
Но самые разрушительные уязвимости не всегда сложны.
Иногда проблема заключается в элементарном условии:
если значение равно нулю — считать его корректным.
Именно поэтому безопасность программного обеспечения нельзя оценивать только по сложности кода. Важны бизнес-правила, проверки входных данных и то, какие действия система разрешает выполнять пользователю.
Искусственный интеллект изменит стоимость ошибок в программировании
Сегодня разработчики всё чаще используют AI-инструменты для написания и анализа программного кода.
Нейросеть может:
- анализировать логи;
- искать ошибки;
- объяснять существующий код;
- предлагать исправления;
- писать новые функции;
- искать потенциальные уязвимости;
- помогать при работе с production-инцидентами.
Это серьёзно увеличивает скорость разработки.
Однако вместе с преимуществами появляется новый риск. Если AI генерирует код с ошибкой, разработчик может не заметить проблему, особенно если решение выглядит логичным и технически убедительным.
Более того, искусственный интеллект способен не только создавать уязвимости, но и находить уже существующие уязвимости в чужом программном обеспечении.
Поэтому роль программиста постепенно меняется.
Недостаточно просто спросить:
«Как должна работать эта программа?»
Нужно также спрашивать:
«Что произойдёт, если программа получит неожиданные данные?»
Почему разработчикам нужно мыслить как хакеры
Один из подходов, который помогает находить подобные проблемы, — этичный хакинг и penetration testing.
Этичный хакер анализирует систему с точки зрения потенциального злоумышленника, но делает это с разрешения владельца.
Его задача — найти способы:
- обойти валидацию;
- изменить запрос;
- отправить неожиданные данные;
- получить доступ к чужой информации;
- использовать неправильную логику приложения;
- получить права, которых у пользователя быть не должно.
Такой подход полезен не только специалистам по информационной безопасности. Он помогает и обычным разработчикам иначе смотреть на собственный код.
Хороший программист думает о том, как система должна работать.
Хороший специалист по безопасности дополнительно думает о том, как заставить систему работать не так, как задумал разработчик.
Главные уроки дорогих программных ошибок
Истории Knight Capital, The DAO и Nomad Bridge отличаются технически, но у них есть общий вывод.
1. Старый код может быть опаснее нового
Неиспользуемый функционал не обязательно безопасен. Если старый код остаётся в production, одна неправильная конфигурация может снова его активировать.
2. Deployment — такая же важная часть разработки, как и написание кода
Knight Capital показывает, что недостаточно написать правильную программу. Необходимо убедиться, что правильная версия действительно установлена на всех серверах.
3. Порядок операций имеет значение
В The DAO проблема возникла из-за неправильной последовательности действий. В финансовых системах изменение одного шага местами может полностью изменить безопасность приложения.
4. Валидация входных данных критически важна
Nomad Bridge демонстрирует, насколько опасным может оказаться слишком либеральное отношение к входным данным и подтверждениям транзакций.
5. AI не освобождает программиста от ответственности
Если нейросеть предлагает выполнить действие в production-системе, особенно связанное с большими суммами денег, результат необходимо проверять самостоятельно.
6. Чем больше автоматизации, тем дороже ошибка
Автоматическая система способна выполнять тысячи или миллионы операций без участия человека. Это огромное преимущество, пока она работает правильно.
Но если в алгоритме есть ошибка, автоматизация способна многократно увеличить масштаб ущерба.
Как снизить риск катастрофических ошибок в коде
Полностью исключить программные ошибки невозможно. Но можно существенно уменьшить вероятность того, что одна ошибка уничтожит бизнес.
На практике особенно важны:
- code review;
- автоматические тесты;
- интеграционные и нагрузочные тесты;
- staging-среда;
- постепенный deployment;
- контроль версий;
- мониторинг production;
- ограничение прав доступа;
- аудит критического кода;
- независимое тестирование безопасности;
- проверка smart contracts;
- контроль feature flags;
- возможность быстрого rollback.
Особенно важно не давать одному человеку или одному программному компоненту слишком много полномочий.
Если система может самостоятельно перевести сотни миллионов долларов, изменить критические данные или выдать финансовый продукт, должны существовать дополнительные уровни защиты.
Один программист действительно может уничтожить бизнес?
В буквальном смысле бизнес редко уничтожает один человек. Обычно причиной становится сочетание нескольких факторов: ошибка в коде, отсутствие тестирования, неправильный deployment, чрезмерные права доступа, отсутствие мониторинга или слабый процесс контроля изменений.
Но технически достаточно одной ошибки, чтобы запустить эту цепочку.
Knight Capital потеряла сотни миллионов долларов из-за проблемы с программным обеспечением и конфигурацией серверов. The DAO столкнулась с катастрофическими последствиями из-за ошибки в логике smart contract. Nomad Bridge потерял огромный объём активов из-за некорректной проверки транзакций.
Именно поэтому современная разработка — это уже не просто написание работающего кода.
Это управление рисками.
Чем больше денег, пользователей и бизнес-процессов зависит от программы, тем важнее вопрос не только «работает ли код?», но и «что произойдёт, если код ошибётся?»
В эпоху искусственного интеллекта этот вопрос становится ещё важнее. AI позволяет создавать программное обеспечение быстрее, но одновременно увеличивает количество кода, который создаётся и изменяется. Поэтому способность проверять, тестировать и безопасно внедрять этот код становится одним из ключевых навыков современного разработчика.
На основе Один программист — и бизнеса больше нет