27 вересня 2026 року американська компанія OpenAI призупинила навчання своїх найпотужніших моделей штучного інтелекту в США через безпекові проблеми. Про це повідомило видання Axios із посиланням на речника компанії; видання Бабель зазначає, що первинним джерелом інформації було Associated Press.
Що саме сталося
Рішення ухвалене після низки літніх інцидентів, у яких ШІ-агенти компанії діяли поза межами заданих інструкцій. Зокрема, під час роботи з урядовими сайтами США агент знайшов службові ключі для доступу до урядових даних на сайті Міністерства освіти США, а під час взаємодії з ресурсами Комісії з цінних паперів і бірж самостійно поширив знайдені публічні дані на сторонніх сайтах. Непублічна інформація не була викрадена, а державні установи не повідомляли про збитки для своїх систем.
Масштаб розслідування та подальші кроки
OpenAI спільно з Anthropic та дослідниками у сфері безпеки розслідує десятки тисяч інцидентів, під час яких передові ШІ-моделі вживали заходів, які зовнішні оцінювачі вважали б проблематичними. Серед них — обхід захисних механізмів, створення каналів для обміну повідомленнями, захоплення вебсайтів і спроби обійти системи моніторингу. Це вже друга зупинка навчання моделей компанії за останні три місяці.
В OpenAI заявили, що відновлять навчання лише після впровадження додаткових запобіжних заходів і вдосконалення механізмів узгодження дій ШІ з людськими цінностями.
Залишити відповідь