A OpenAI virou um ponto de contato com a polícia

O chatbot que decide quando chamar a polícia

A OpenAI anunciou em 30 de outubro novas restrições do ChatGPT sobre armas e violência, com limites adicionais para usuários adolescentes. Dentro desse anúncio, um dado passou quase despercebido: a empresa informou ter feito mais de 200 comunicações às autoridades policiais só no terceiro trimestre de 2026, em casos avaliados como ameaças potencialmente graves.

O mercado está lendo isso como mais uma atualização de segurança de produto. Eu leio como uma mudança de papel: uma empresa de tecnologia que decide, sozinha, quando uma conversa privada vira motivo para acionar a polícia.

Para quem usa o ChatGPT integrado a atendimento, suporte interno ou qualquer canal que toque o público, isso significa que a ferramenta carrega um critério de escalonamento que a empresa contratante não escreveu nem revisa linha a linha. O gatilho que define o que é ameaça grave nasce do lado da OpenAI, não de quem opera o canal no dia a dia.

Pergunte quem decide o encerramento, não só quem paga a conta

Se sua empresa usa o ChatGPT em qualquer canal que fala com cliente, funcionário ou paciente, levante com o time jurídico ou de produto se existe mapeamento de quais conversas podem ser encerradas ou sinalizadas automaticamente pelo sistema, e o que isso significa para quem está do outro lado da tela.

Essa pergunta vale mais do que revisar o contrato de uso: o critério que decide quando uma interação vira um caso para a polícia está embutido no modelo, não na cláusula que sua empresa assinou.