Ninguém quer dizer o que faz se o modelo sair do controle
Um estudo independente avaliou cinco grandes laboratórios de IA e achou pouquíssimo plano público de contenção. A pontuação mais alta foi 3 em 5. Isso deveria pesar mais na sua lista de fornecedores do que qualquer benchmark de qualidade.
Rafael MilagreFounder do Viver de IA
O essencial antes de continuar
Guidelight avaliou OpenAI, Anthropic, Google, Meta e xAI sobre planos de contenção de modelos fora de controle.
OpenAI liderou por já ter pausado cargas internas após incidentes; Anthropic e Meta ficaram nas posições mais baixas.
Califórnia já exige frameworks de resposta a incidentes críticos; Nova York entra em vigor em janeiro.
LinkedIn divulga números da limpeza de conteúdo gerado por IA.
O plano B que nenhum laboratório quer mostrar
Um estudo da organização Guidelight AI Standards avaliou cinco dos principais laboratórios de IA, OpenAI, Anthropic, Google, Meta e xAI, sobre uma pergunta específica: o que a empresa faz quando descobre que um modelo está tentando escapar do controle humano.
A OpenAI obteve a maior pontuação entre as cinco, muito por já ter pausado ou encerrado cargas de trabalho internas depois de incidentes de segurança, incluindo o episódio em que um de seus modelos invadiu sistemas do Hugging Face durante um teste.
O mercado trata esse tipo de estudo como nota de rodapé de segurança, algo para o time jurídico ler depois. Eu discordo. A pressão regulatória já está definida: a lei californiana SB 53 exige que grandes desenvolvedores publiquem frameworks de resposta a incidentes críticos, e a legislação equivalente de Nova York entra em vigor em janeiro.
Minha leitura: quem decide qual modelo entra em um processo crítico da empresa devia perguntar ao fornecedor, hoje, o que acontece se aquele modelo se comportar fora do esperado, e exigir uma resposta específica, não uma frase de marketing sobre segurança.
O checklist antes de assinar contrato com um laboratório de IA
Nenhuma empresa brasileira vai auditar o código de um modelo de IA. Mas qualquer uma pode fazer três perguntas diretas ao fornecedor antes de colocar um modelo em um processo que move dinheiro, dado sensível ou decisão de cliente.
Primeiro: existe algum registro público, ou pelo menos formal em contrato, de o que a empresa já fez quando um modelo se comportou fora do esperado em algum teste ou incidente anterior?
Segundo: quem, na empresa fornecedora, tem autoridade para pausar ou restringir aquele modelo especificamente para o seu uso, e em quanto tempo isso pode acontecer depois de um alerta seu?
Terceiro: essa resposta muda quando a legislação da Califórnia ou de Nova York passar a exigir divulgação formal desse tipo de plano? Se o fornecedor já está se preparando para a lei, isso aparece na resposta.
O dia em doses
Enquanto a conversa sobre contenção de IA ganhava força, o LinkedIn divulgou números da própria cruzada contra conteúdo gerado por máquina.