Quando comecei a estudar Ciência da Computação, imaginava que boa parte da formação estaria ligada principalmente a entender sistemas, programação e como a tecnologia funciona.
Mas um dos primeiros projetos acadêmicos me fez olhar para outro lado da área: as consequências da tecnologia que criamos e utilizamos.
O tema escolhido foi deepfakes.
Antes desse trabalho, eu já sabia de forma geral o que eram deepfakes. Mas, quando comecei a pesquisar mais sobre o assunto, percebi que a discussão vai muito além de simplesmente criar uma imagem ou um vídeo falso usando Inteligência Artificial.
O problema não está apenas na tecnologia
A mesma tecnologia pode ter aplicações interessantes em entretenimento, educação e produção audiovisual.
O problema começa quando ela é utilizada para enganar.
Uma imagem, voz ou vídeo pode parecer verdadeiro o suficiente para fazer alguém acreditar em algo que nunca aconteceu.
Isso abre espaço para problemas como:
golpes;
desinformação;
uso indevido da imagem de outras pessoas;
danos à reputação;
conteúdos produzidos sem consentimento.
Foi aí que comecei a perceber uma coisa que parece simples, mas que considero importante:
nem tudo que é tecnicamente possível necessariamente deveria ser feito sem limites.
Transparência também importa
Uma das questões que mais me chamou atenção durante o projeto foi a dificuldade de uma pessoa comum identificar quando determinado conteúdo foi produzido ou alterado por Inteligência Artificial.
Por isso, algumas das medidas que analisei envolveram identificação de conteúdos gerados por IA, mecanismos de denúncia, proteção de dados e maior responsabilidade por parte das plataformas.
Também tive contato com questões relacionadas à LGPD, governança, transparência e responsabilidade no uso da Inteligência Artificial.
O que esse projeto mudou na minha visão
Estou apenas no início da minha formação em Ciência da Computação, então tenho muito para aprender tecnicamente.
Mesmo assim, esse trabalho já mudou um pouco a forma como enxergo a área.
Antes de pensar apenas:
“É possível desenvolver isso?”
também precisamos aprender a perguntar:
“Quais podem ser as consequências se isso for utilizado da maneira errada?”
Tecnologia também envolve pessoas.
E acredito que aprender isso desde o começo pode ser tão importante quanto aprender a escrever as primeiras linhas de código.
Top comments (0)