Ошибка в Microsoft 365 позволила ИИ «читать» секретные письма

Microsoft признала наличие ошибки в офисных сервисах, из-за которой ИИ-ассистент Copilot в течение нескольких недель мог обрабатывать конфиденциальные письма пользователей без их разрешения.

О проблеме впервые сообщил портал Bleeping Computer. По его данным, сбой позволял функции Copilot Chat просматривать содержимое электронных писем, даже если в компании были настроены политики предотвращения утечки данных (DLP), призванные блокировать передачу информации в языковую модель.

Copilot Chat доступен подписчикам Microsoft 365 и интегрирован в такие приложения, как Word, Excel и PowerPoint. Согласно уведомлению Microsoft для администраторов (ошибка под идентификатором CW1226324), черновики и отправленные письма с пометкой конфиденциально «обрабатывались некорректно» в чате Microsoft 365 Copilot.

Иначе говоря, система игнорировала установленную маркировку конфиденциальности и всё равно анализировала письма для генерации кратких сводок.

В Microsoft заявили, что начали развёртывание исправления в начале февраля. При этом компания не уточнила, сколько клиентов могли столкнуться с проблемой, и не раскрыла дополнительные детали о возможных последствиях.

Источник: TechCrunch

Прямую речь главреда, комментарии и самое интересное за день вы найдете в нашем Telegram-канале.