Пока компания обсуждает стратегию внедрения AI, сотрудники уже пробуют его в работе: выбирают инструменты, оплачивают подписки, собирают автоматизацию под свои задачи. Иногда компания об этом даже не знает.

Как вернуть контроль над таким использованием AI и какую роль здесь играет сетевой периметр – обсуждали на панели “NGFW vs Shadow AI”. Спасибо Ideco и Кибердому за приглашение.

За проблемой Shadow AI стоит и вполне понятное желание сотрудников делать работу быстрее и легче. Сотрудник приходит с уже сформировавшейся привычкой получать помощь от AI, а на работе подходящего одобренного инструмента нет. Примерно как привыкнуть к Интернету и прийти на работу, где его нет. Получается опережающая трансформация снизу. Хотя пользу каждого такого внедрения еще предстоит проверить.

Инициатива приходит и сверху. Беглым поиском нашел ролики российских руководителей о подключении OpenClaw к рабочим процессам. Мне понятно желание больше успевать, лучше контролировать дела и первыми осваивать технологии. Но, по моему мнению, подключать агента к рабочим системам нужно вместе с ИБ, независимо от должности инициатора.

И даже локальная модель внутри корпоративной сети остается теневой, если компания о ней не знает или за нее никто не отвечает. Нужно выяснить, к каким корпоративным данным ее подключили, что ей разрешили делать и кто за этим следит.

Подготовить черновик письма и отправить его – разные полномочия. Агенту нужны ограничения на действия, подтверждение человека там, где оно требуется, и возможность остановки.

Если OpenClaw работает с учетной записью и доступами руководителя, в журналах корпоративных систем его действия могут выглядеть как действия самого руководителя. Без дополнительных сведений ИБ трудно различить, кто прочитал документ или отправил письмо: человек или агент.

Какими AI-инструментами пользуются в организации, помогает выяснить и NGFW. Так, в новой версии Ideco NGFW Novum появилась вкладка “ИИ-трафик” со статистикой по AI-сервисам, детализацией по пользователям, объему трафика, запросам и блокировкам. В то же время локальная работа и обмен между облачными сервисами могут проходить мимо NGFW. Так что старые добрые банальности типа многослойного подхода к защите и здесь необходимы.

Просто организационно запретить AI – значит рисковать потерей этой видимости: без подходящей альтернативы сотрудники могут перейти на личные устройства и аккаунты. Рабочая потребность при этом останется.

Службе ИБ вместе с бизнесом придется разобраться, чем люди уже пользуются и зачем, оценить пользу и риски, дать подходящий разрешенный способ работы. Определить владельца, допустимые данные и полномочия. Для автономных агентов – отдельно рассмотреть учетную запись, ограничение прав и журнал действий.

Какие полезные применения AI сотрудники уже нашли у вас раньше, чем компания успела согласовать их использование?

Больше про AI и мои наблюдения – в моем Telegram-канале: https://t.me/tbiyachuev