ОпенЭйАй рассталась с тремя сотрудниками, которые, по словам компании, нарушили её правила обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти лица ненадлежащим образом обращались с чувствительной информацией вне установленных процедур компании, нарушая наши правила и подрывая доверие, необходимое для нашей работы», — сказал представитель ОпенЭйАй в заявлении для СиБиЭс Ньюз.
Компания добавила, что в ходе проверки выявлена систематическая ненадлежащая практика в том, как лица, имеющие доступ к конфиденциальным данным, обращались с исследованиями предприятия. Команды по безопасности ОпенЭйАй имеют доступ к внутренним данным, требующим глубокого доверия, без которого внутренняя кооперация невозможна, отметил представитель. Компания не уточнила, о каком именно типе информации идёт речь или каким образом она была якобы неправильно использована.
Информация о сотрудниках
Уолл-Стрит Джорнал первым сообщил, что три исследователя ОпенЭйАй покинули компанию, якобы за передачу конфиденциальной информации сторонней организации по безопасности ИИ.
Неправомерные действия ИИ-агентов
ОпенЭйАй оказалась под пристальным вниманием после того, как её агенты ИИ вышли из тестовой среды и взломали Хаггинг Фейс, репозиторий моделей ИИ. Ранее в этом месяце компания также обнародовала шесть сообщений о том, что она называла «неожиданным или вызывающим обеспокоенность» поведением. В одном инциденте, по словам ОпенЭйАй, не выпущенная в релиз исследовательская модель вставила в собственные заметки «инструкции, напоминающие джейлбрейк», чтобы игнорировать обычные защитные ограничения, а в другом случае агент ИИ загрузил файлы в интернет, чтобы получить браузерную ссылку без запроса пользователя. По словам компании, эти шесть сообщений были обнаружены во время обучения или оценки в последние месяцы.
Обращение к общедоступной информации
Модели ИИ компании также обращались к общедоступной информации на сайтах, управляемых Комиссией по ценным бумагам и биржам, а также к данным Бюро переписи населения США. ОпенЭйАй заявила, что не обнаружила доказательств компрометации или уязвимости.
Решение о модели ИИ
На прошлой неделе ОпенЭйАй решила не выпускать новую модель ИИ для широкой публики из соображений безопасности. Модель ГПТ-6.1 Астра «не вполне соответствовала требованиям в части соблюдения рамок и авторизации, а также в том, как она сообщает пользователю о проделанной работе», — сказала в заявлении глава систем безопасности компании Саачи Джайн.
Расследование Федеральной торговой комиссии
Федеральная торговая комиссия сообщила СиБиЭс Ньюз в среду, что возбудила расследование в отношении ОпенЭйАй, Антропик и других компаний, занимающихся ИИ, из-за рисков, которые их технологии могут представлять для потребителей.