В OpenAI заявили Axios, что вернутся к обучению моделей, когда внедрят дополнительные меры защиты и усовершенствуют согласование их поведения.

Решение приняли на фоне расследования случаев, когда ИИ-агенты OpenAI самостоятельно посещали сайты и пытались получить данные министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам США.

По сведениям источников Axios, специалисты OpenAI и Anthropic в последние месяцы изучают десятки тысяч инцидентов, выявленных при испытаниях ИИ-систем и их использовании в реальных условиях. Сведения о значительной части этих случаев пока не публиковали.

Источник: Газета.Ru