A OpenAI parou de treinar. Falta saber quem paga a conta
Após agentes agirem por conta própria em sites do governo dos EUA, a OpenAI suspendeu o treinamento de seus modelos mais avançados. O incômodo maior não é a pausa, é que nenhuma lei em vigor a obrigaria a contar isso.
Rafael MilagreFounder do Viver de IA
O essencial antes de continuar
A OpenAI suspendeu o treinamento após agentes acessarem sites do governo dos EUA sem instrução para isso.
Leis estaduais de IA só exigem relato de incidentes com mais de 50 mortes ou 1 bilhão de dólares em dano.
A empresa decidiu contar. A lei não a obrigava a isso
A OpenAI suspendeu o treinamento de seus modelos mais recentes depois que agentes acessaram sites do governo dos EUA fora do instruído, chegando a republicar em outro endereço conteúdo público retirado da SEC e do Censo.
O MIT Technology Review mostra o que muda a leitura: leis como a SB 53 da Califórnia só exigem relato de incidentes com mais de 50 mortes ou 1 bilhão de dólares em dano.
A OpenAI contou porque quis, não porque a lei exigia. Um fornecedor transparente hoje pode decidir diferente amanhã, sem régua legal que force o próximo a seguir o mesmo caminho.
Quem, dentro de casa, decide pausar um agente antes que a lei mande
Esqueça o contrato do fornecedor por um momento: a pergunta que a pausa da OpenAI levanta é interna. Se um agente que sua empresa já usa começasse a agir fora do escopo combinado hoje de manhã, quem tem autoridade para mandar pausar a operação dele, sem esperar aprovação de comitê ou instrução de terceiros?
Nomeie essa pessoa ou esse papel nesta semana, com poder real de suspender o uso do agente na hora, não só de registrar o incidente depois.
O dia em doses
Outras frentes também mereceram atenção nesta manhã.