novembro 21, 2026 Notícias do Mundo Tech, Telecom e Energia
BREAKING
Notícias

OpenAI vai permitir que grupos externos avaliem segurança de modelos já durante o treinamento

rbassoi setembro 23, 2026 1 min read

A OpenAI anunciou que passará a permitir que organizações externas independentes, como METR e Redwood Research, realizem avaliações técnicas de segurança de seus modelos ainda durante as fases de treinamento e implantação, e não apenas depois que o desenvolvimento é concluído, como era a prática até então. A empresa definiu quatro áreas prioritárias para essas revisões externas: avaliação de casos de segurança ao longo do treinamento e da implantação, checagem de salvaguardas críticas, análise de avaliações de capacidade ligadas ao seu Preparedness Framework e investigação independente de incidentes de desalinhamento. A mudança busca responder a críticas de que avaliadores externos têm acesso tardio e limitado aos modelos antes do lançamento. O CEO Sam Altman já havia sinalizado, em meados de setembro, que a empresa daria a avaliadores independentes acesso físico e direito de publicar suas descobertas. A iniciativa é vista como um teste importante para saber se laboratórios de IA conseguem, de fato, abrir mão de controle em nome de mais transparência e segurança.

Fonte: Bloomberg

Leave a Comment