Чем shadow AI отличается от shadow IT?

shadow IT это неучтённая программа: живёт мимо реестра, но сама ничего не решает. shadow AI сам принимает решения, пишет тексты и раздаёт данные, поэтому компания теряет контроль не только над софтом, но и над содержанием работы.

Чем это грозит руководителю?

Тремя вещами: уход конфиденциальных данных в чужие облака, решения, за которые никто персонально не отвечает, и невозможность показать проверяющим, какие ИИ-сервисы вообще используются в компании.

Глоссарий

shadow AI: нейросети в работе без ведома ИТ и безопасности

Коротко: shadow AI это использование нейросетей и ИИ-агентов сотрудниками компании без ведома ИТ-отдела и службы безопасности. Сотрудник копирует в публичный чат-бот коммерческие документы, подключает самописного агента к корпоративной почте, ставит нейросетевое расширение в браузер с доступом к рабочей почте. Всё это живёт вне учёта, без договора с вендором и без понимания, куда уходят данные. Отличие от обычной неучтённой программы серьёзное: ИИ сам принимает решения и сам раздаёт данные, поэтому последствия масштабнее утечки флешки.

Тема выросла из практики: сотрудники приносят публичные чат-боты в работу раньше, чем ИТ успевает оценить риски. Разбор терминологии и рисков смежный с нашими материалами о том, кто читает корпоративные диалоги и почему ИИ-политики в компаниях проваливаются. Раздел между «пользоваться нельзя» и «пользоваться без дисциплины можно» проходит не по запрету, а по владельцу данных и ротации ключей.

Частые вопросы

Чем shadow AI отличается от shadow IT?: shadow IT это неучтённая программа: живёт мимо реестра, но сама ничего не решает. shadow AI сам принимает решения, пишет тексты и раздаёт данные, поэтому компания теряет контроль не только над софтом, но и над содержанием работы.
Чем это грозит руководителю?: Тремя вещами: уход конфиденциальных данных в чужие облака, решения, за которые никто персонально не отвечает, и невозможность показать проверяющим, какие ИИ-сервисы вообще используются в компании.