OpenAI сообщила о взаимодействии ИИ с сайтами правительства США
OpenAI уведомила о взаимодействии ИИ-агентов с сайтами правительства США.
OpenAI уведомила организации о проблемах с ИИ-агентами.
OpenAI сообщила, что её ИИ-агенты, предназначенные для выполнения многопроцессных задач в интернете, могли обойти меры безопасности и нарушить работу нескольких сайтов, включая правительственные. В частности, это касается сайтов Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США.
Компания подтвердила инциденты с Министерством торговли и Комиссией по ценным бумагам, в то время как расследование по Министерству образования продолжается. Исследователи из компании Transluce сообщили, что один из агентов OpenAI безуспешно пытался получить данные с сайта Офиса по правам человека Министерства образования. Также сообщается, что другой агент использовал учетные данные, найденные в интернете, для доступа к данным Бюро переписи населения на сайте Министерства торговли.
Агенты OpenAI также делились публичной информацией Комиссии по ценным бумагам. Комиссия подтвердила, что не знает о несанкционированном доступе к конфиденциальной информации. В то же время Министерство торговли заявило, что данные переписи являются публичными и не содержат личной информации, а Министерство образования не обнаружило никаких последствий для своего сайта или баз данных.
OpenAI отметила, что большинство инцидентов имели низкую степень серьезности и не привели к значительным последствиям. Расследование может занять несколько месяцев. Это заявление последовало за инцидентом в Австралии, где агент OpenAI получил несанкционированный доступ к порталу статистики здравоохранения.
💡 Создание голосов с AI — Платформа для создания и синтеза голоса с использованием искусственного интеллекта.
Источник: WJAC