Чем больше ИИ умеет, тем выше ставки, когда он ошибается или его взламывают. Stanford AI Index 2026 фиксирует неприятную закономерность: возможности моделей растут быстрее, чем их безопасность. И разрыв уже виден в статистике инцидентов.
Число задокументированных инцидентов с ИИ за год выросло с 233 до 362 — это плюс 55%.
График 6. Число задокументированных инцидентов с ИИ по годам. Источник: Stanford AI Index Report 2026.
Что происходит с безопасностью ИИ
По данным Stanford AI Index 2026, безопасность ИИ не поспевает за его возможностями. Число задокументированных инцидентов выросло с 233 в 2024 году до 362 — рост на 55%. Модели проходят тесты безопасности при обычном использовании, но их защита заметно падает под адверсариальными промптами (джейлбрейками). Возможности растут быстрее, чем защита.
Инцидентов всё больше
Рост с 233 до 362 за год — это задокументированные случаи вреда и сбоев, связанных с ИИ. Чем шире внедрение и чем больше ИИ умеет, тем больше поверхность для ошибок и злоупотреблений. Это естественное следствие масштабирования, но игнорировать его нельзя: каждый инцидент — это репутационный, юридический или финансовый риск для кого-то.
Защита ломается под атакой
Ещё тревожнее то, что происходит под давлением. Модели показывают хорошие результаты на тестах безопасности при обычном использовании, но когда их атакуют адверсариальными промптами — джейлбрейками, — защита падает у всех протестированных моделей. То есть «безопасно в обычном режиме» не равно «безопасно против того, кто целенаправленно ломает».
И отдельная сложность: исследования показывают, что улучшение одного аспекта ответственного ИИ может ухудшать другой. Сделать модель безопаснее иногда значит сделать её менее точной. Простого решения, где всё сразу хорошо, нет.
Что это значит для бизнеса
Если ты внедряешь ИИ, безопасность — не галочка в конце, а часть проекта. Базовая защита модели не спасёт от того, кто целенаправленно её ломает, поэтому чувствительные сценарии нужно проектировать с расчётом на злоупотребление, а не только на честное использование.
Практически это значит: не пускать ИИ без надзора туда, где цена ошибки высока, ограничивать доступ к чувствительным данным и закладывать проверку человеком на критичных шагах. Рост инцидентов на 55% за год — повод относиться к этому серьёзно уже сейчас.
С чего начать
- Считай безопасность частью проекта внедрения, а не галочкой в конце.
- Проектируй чувствительные сценарии с расчётом на злоупотребление, а не только на честное использование.
- Не пускай ИИ без надзора туда, где цена ошибки высока, и ограничивай доступ к данным.
- Закладывай проверку человеком на критичных шагах — базовая защита модели не спасёт от целевой атаки.
Вопросы и ответы
Растёт ли число инцидентов с ИИ?
Да, заметно. По данным Stanford AI Index 2026, число задокументированных инцидентов выросло с 233 в 2024 году до 362 — рост на 55%. Чем шире внедрение и чем больше ИИ умеет, тем больше поверхность для ошибок и злоупотреблений.
Безопасны ли современные ИИ-модели?
При обычном использовании — в основном да, но под атакой защита падает. По данным Stanford AI Index 2026, при адверсариальных промптах (джейлбрейках) безопасность снижается у всех протестированных моделей. «Безопасно в обычном режиме» не равно «безопасно против того, кто целенаправленно ломает».
Можно ли сделать ИИ безопасным и точным одновременно?
Это сложнее, чем кажется. Исследования из Stanford AI Index 2026 показывают, что улучшение одного аспекта ответственного ИИ может ухудшать другой — например, рост безопасности снижает точность. Простого решения, где всё сразу хорошо, нет, поэтому нужен баланс под конкретную задачу.
Как защититься от рисков ИИ при внедрении?
Проектировать чувствительные сценарии с расчётом на злоупотребление, а не только на честное использование. Не пускать ИИ без надзора туда, где цена ошибки высока, ограничивать доступ к чувствительным данным и закладывать проверку человеком на критичных шагах.
Где это разбирают вживую
AI Борщ — про внедрение ИИ в бизнес с кейсами и честными антикейсами, без слайдов про будущее. Один день, рабочие сценарии под твою роль. 30 июня 2026, Москва, площадка Актион. Не можешь приехать — есть онлайн-формат за 5 000 ₽ и записи докладов на aiborsch.com.