ИИ-сервис для учёта бухгалтерии Sage Copilot от Amazon временно отключили — он по ошибке разослал личные данные клиентов

Компания заявила, что уже устранила проблему.

Разработчики приостановили работу ИИ-помощника для автоматизации финансового учёта из-за того, что он показал лишнюю информацию «небольшому числу клиентов», пишет The Register.
Один из пользователей попросил Sage Copilot составить список последних выставленных счетов — в ответ бот прислал личные данные из учётных записей клиентов, включая данные того, кто сделал запрос.
После инцидента сайт приостановил работу для устранения ошибки, сейчас проблема решена, заявили в компании.
Британские разработчики из Sage объявили о сотрудничестве с Amazon Web Services (AWS) и создании языковой модели для бухгалтерского учёта в феврале 2024 года.
В марте 2024-го компания Sage Group выпустила ИИ-помощника Sage Copilot, который помогает автоматизировать расчёты заработной платы, составление финансовых отчётов, а также обработку запросов на отпуск и выплату компенсаций.