O carimbo que desaparece quando você edita o texto
A OpenAI apresentou o textGrain, um jeito de identificar depois se um texto saiu do ChatGPT. O problema não é a tecnologia existir, é quem ela realmente consegue pegar.
Rafael MilagreFounder do Viver de IAO essencial antes de continuar
O textGrain altera discretamente a escolha de palavras do ChatGPT para deixar um padrão que um detector da OpenAI pode procurar depois.
Segundo a própria empresa, trocar uma fração das palavras por sinônimos já derruba bastante a chance de detecção.
A marca existe, mas só pega quem não tenta escapar dela
A OpenAI apresentou o textGrain, tecnologia que ajusta sutilmente as escolhas de palavras do ChatGPT durante a geração de um texto, deixando um padrão que um detector da empresa pode procurar depois para apontar se aquele conteúdo provavelmente passou por um modelo da companhia.
O detalhe que separa isso de uma solução de verificação é a própria confissão da OpenAI: editar o texto, trocando uma fatia das palavras por sinônimos, já reduz bastante a detecção.
Isso muda a pergunta que uma empresa deveria fazer. Não é se existe uma ferramenta capaz de apontar texto de IA, é para qual tipo de usuário ela foi pensada. Um estagiário apressado cai na marca.
Teste o carimbo antes de confiar nele
Se algum processo interno hoje usa ou pretende usar detecção de IA para validar relatório, contrato ou parecer, rode um teste simples: pegue um texto gerado por IA, troque um décimo das palavras por sinônimos e veja se o detector ainda aponta a origem.
Se a queda for parecida com a que a OpenAI descreve, a conclusão prática é clara: a política da empresa não pode depender só de detectar a marca.
O dia em doses
Enquanto a OpenAI discutia como marcar texto de IA, outras frentes também mereceram atenção nesta manhã.