Искусственный интеллект в разы ускорил работу вашей команды. А вот проверять его вы от этого не стали.
В 2026 году ИИ перестал быть игрушкой для черновиков. Ассистент сидит в корпоративной почте и календаре, аналитика встроена в CRM, агент имеет доступ к репозиторию, боты работают в рекламных кабинетах. Компания фактически наняла сотрудника с доступом почти ко всему — без собеседования, испытательного срока и руководителя. Поэтому вопрос уже другой: кто контролирует его действия?
Классическая защита строилась вокруг периметра: брандмауэр, антивирус, пароли. ИИ создал другую поверхность атаки — внутри, под легальными учетными записями и в рабочее время.
Внутренний контур: риски, которые создает собственная команда
1. Долг проверки (review debt)
Самый незаметный и самый распространённый риск: помощник выдает готовый результат за секунды, и человек постепенно перестаёт его читать — сначала выборочно, потом совсем. Со временем в компании может появиться привычка нажимать «Утвердить» вслепую, и ни одна система защиты этого не заметит — формально всё по процедуре. Объём решений, которые еженедельно проходят через компанию, растёт быстрее, чем количество людей, способных их сверить.
2. Вымышленные зависимости (slopsquatting)
ИИ, пишущий код, иногда уверенно подставляет название библиотеки, которой не существует. Злоумышленники изучают такие выдумки и заранее регистрируют эти названия с вредоносным содержимым. Разработчик устанавливает пакет по подсказке помощника, и чужой код оказывается в продукте. Для украинского ИТ риск двойной: команды часто работают на заказчика, поэтому пакет попадает дальше — в продукт заказчика, вместе с ответственностью по контракту.
3. Теневой ИИ и открытые RAG-базы
Сотрудник загружает договор с NDA или базу клиентов в сторонний сервис — в маркетинге это уже повседневная практика: подрядчик сливает клиентскую базу, копирайтер — стратегию бренда. Та же проблема существует и внутри компании: доступ к корпоративной RAG-базе не ограничивается так же строго, как к исходным папкам, поэтому бот выдает стажеру данные, к которым у того не было доступа. Инцидента как события не существует: никто ничего не взламывал.
Лишние права
Когда ИИ становится невидимым пользователем
4. Идентичность агента (non-human identity)
Автоматизация работает под учетной записью живого человека. В логах действие бота выглядит как действие финансового директора: установить, где закончился человек и начался алгоритм, уже невозможно. Для бизнеса это ослабляет доказательную базу — и перед банком, и перед регулятором.
5. Чрезмерные права (excessive agency)
Ассистента подключают «чтобы просто работало» и выдают доступ с запасом.
На практике это выглядит так: помощник для отчетов получает право записывать данные в базу, бот для переписки — просматривать всю историю переписки владельца. Ассистент в рекламном кабинете работает с бюджетом, а автопостинг выступает от имени бренда.
Пока всё спокойно, этого никто не замечает. Когда учётную запись взламывают, злоумышленник получает готовый пульт управления компанией.
Впрочем, решения для кибербезопасности малого бизнеса не обязательно должны быть сложными: достаточно отдельной учетной записи для каждого алгоритма, понятной роли и минимально необходимых прав.
Внешние векторы: от манипуляций алгоритмом до убытков
6. Инъекции подсказок (prompt injection)
Атака бывает прямой — злоумышленник просто пишет боту команду в чате, надеясь, что тот её выполнит. Чаще срабатывает косвенная: на почту приходит PDF-счёт от нового подрядчика, ассистент открывает его, вносит данные в учёт. Но внутри документа спрятана инструкция: отправить в ответ реквизиты компании и последние письма с финансовым отделом. Без надлежащих фильтров ассистент может воспринять её как команду, а не как текст документа.
7. Цепочка поставок (supply chain risks)
Бизнес подключает плагины, расширения и SaaS-сервисы, практически не проверяя, кто за ними стоит. Классический пример: браузерное расширение для аналитики социальных сетей получает обновление и незаметно получает доступ к вкладкам с почтой и CRM — разрешение на это было дано при установке.
Для малого и среднего бизнеса это «слепое пятно». Каждая интеграция — чужой код в ваших системах, а выбирают её по удобству и цене, реже — по объему доступа.
8. Дипфейки и мошенничество от имени руководителя (CEO fraud)
Голос и видео первых лиц подделываются убедительно, а сценарий часто похож: срочный платеж и просьба никому не говорить. Атакуют не систему, а привычку подчинённого не спорить с директором. Украинские команды распределены между городами и странами, поэтому «зайти и переспросить лично» зачастую невозможно. Именно поэтому правило второго канала стоит зафиксировать письменно: любой нетипичный платеж подтверждается отдельно, и исключений не делается ни для кого.
Что с этим делать в 2026 году
ИИ следует рассматривать как часть инфраструктуры наравне с бухгалтерией или платежным шлюзом — с теми же требованиями к проверке. Брандмауэр и антивирус защищают периметр, но не видят, что происходит внутри: какую команду получил ассистент, какие данные он только что передал и чьими правами воспользовался. Поэтому проверка смещается с периметра на сами алгоритмы и их интеграции.
Тестирование на проникновение
Тестирование на проникновение и регулярный аудит показывают, можно ли подсунуть ассистенту чужую команду, к чему он на самом деле имеет доступ и сколько времени уйдет на обнаружение.
Составьте список всех AI-сервисов, которыми реально пользуется команда: почти всегда в нём оказываются инструменты, о которых руководство не знало. Далее предоставьте алгоритмам отдельные учетные записи, ограниченные права и четкий перечень данных, которые не должны покидать периметр. Верните человека в рабочий процесс там, где речь идет о деньгах, договорах и персональных данных: ни один платеж не проходит только по звонку или подтверждению в мессенджере.
Начать можно уже на этой неделе и без бюджета. Составьте список систем, к которым имеет доступ каждый ИИ-помощник в вашей компании, и исключите из него всё, без чего он сможет справиться с задачей. Такая проверка часто показывает, что доступов больше, чем ожидало руководство, а часть из них никому не нужна. И такой проверке подлежит любая критически важная система компании — ИИ здесь не исключение.
