Introdução
A Anthropic anunciou recentemente a inclusão de uma marca d'água nos textos gerados pelos modelos Claude.
O objetivo é distinguir conteúdos gerados por humanos daqueles criados por IA generativas.
Funcionamento
O prompt enviado é convertido em tokens que são usados para calcular a probabilidade do próximo token, se repetindo até uma resposta que faça sentido seja retornada para o usuário.
Esse é o processo padrão utilizado pela maioria dos modelos de IA Generativa.
Agora a Anthropic adotou uma abordagem determinística para selecionar o próximo token a partir da lista de prováveis candidatos, que continua sendo gerada aleatoriamente.
Esta nova abordagem usa uma chave privada e parte do contexto já gerado para selecionar o próximo token, sucessivamente até a geração total do texto que o usuário recebe como resposta ao prompt inserido.
De acordo com a Anthropic, a adição desse identificador não consumirá tokens adicionais nem tornará o modelos mais lento para responder.
De forma resumida, o diagrama a seguir mostra o funcionamento dessa abordagem.
O que motivou esta ação
Em 2024 a União Europeia aprovou Lei de Inteligência Artificial, primeira lei criada para regulamentar a inteligência artificial, prevista para entrar em vigor a partir de 02/08/2026.
O Artigo 50 n.º 2 determina que:
"..., incluindo sistemas de IA de finalidade geral, que geram conteúdos sintéticos de áudio, imagem, vídeo ou texto, devem assegurar que os resultados do sistema de IA sejam marcados num formato legível por máquina e detectáveis como tendo sido artificialmente gerados ou manipulados.". 1
Algumas das Big Techs assinaram o pacto de adesão e estão implementando a parte técnica de acordo com cronogramas próprios.
Entretanto uma rápida pesquisa mostra que a aplicação prática por parte das empresas proprietárias de modelos LLM ainda é pequena. Entre os motivos citados estão:
- pode tornar os textos rastreáveis;
- perda estimada de até 30% dos clientes da plataforma
- fragilidade técnica
Rastreabilidade
Não há ainda estudo que comprove a possibiliade de rastrear um texto até seu autor a partir dessa única marca d'água. Só é possível, neste momento, determinar se o conteúdo foi gerado por IA ou se em algum momento o texto foi alterado usando algum modelo LLM.
Receita
Em um mundo globalizado uma decisão tomada apenas com dados superficiais pode levar uma companhia à uma perda considerável de receita. Em casos mais extremos pode chegar à falência.
A forma como cada companhia toma suas decisões é uma questão particular e delicada. Alie-se a isso o fato de que a regulação ainda está evoluindo e qualquer mudança mais drástica pode afetar e muito diversas companhias e seus usuários.
Fragilidade
A fragilidade técnica aparece de diversas maneiras.
Uma delas é a redução da 'criatividade'. Pode ocorrer porque o modelo muda a forma como as palavras são selecionadas, restringindo as opções para geração de texto tornando-o pouco criativo.
Outra fragilidade ocorre em textos menores porque o modelo encontra dificuldade para calcular o próximo token, uma vez que tem pouco conteúdo para trabalhar.
Há ainda ataques que exploram vulnerabilidades que envolvem basicamente a reescrita de parte do texto gerado para invalidar a marca d'água.
Conclusão
Com o uso massivo de IAs generativas, criar conteúdos se tornou uma tarefa relativamente simples.
Essa facilidade traz muitos desafios principalmente regulatórios porque a tecnologia não pára de evoluir.
A grande questão por trás destas ações é como identificar e valorizar trabalhos feitos por seres humanos daqueles chamados sintéticos.
Mas o que vai realmente deixar você sem dormir é tentar descobrir se o que você está vendo, lendo ou consumindo é real ou fake.🕵️♀️💻
Obrigado pela leitura.
Top comments (0)