O sistema usado pelo Instagram para identificar conteúdos produzidos com inteligência artificial voltou a levantar dúvidas sobre a precisão dos selos exibidos pela plataforma. Fotos reais que passaram por determinados tipos de edição estão sendo classificadas como conteúdo de IA, enquanto algumas imagens efetivamente geradas por inteligência artificial conseguem circular sem a mesma identificação.
O problema ganha importância à medida que a Meta amplia as regras para diferenciar pessoas e conteúdos reais daqueles produzidos artificialmente. Para fotógrafos, criadores, influenciadores, empresas e até veículos de comunicação, uma classificação incorreta pode fazer o público questionar a autenticidade de uma imagem verdadeira.
Por que fotos reais podem ser marcadas como IA no Instagram?
A explicação está, em parte, na forma como o Instagram tenta identificar o uso de inteligência artificial.
A plataforma não depende apenas de uma análise visual para decidir se determinada publicação utilizou IA. Informações incorporadas aos arquivos e sinais deixados por softwares e ferramentas de edição também podem contribuir para a classificação.
Isso cria uma área cinzenta importante: uma fotografia pode ter sido feita normalmente por uma câmera ou celular, mas posteriormente passar por uma ferramenta que utiliza inteligência artificial em alguma etapa da edição.
Testes e relatos reunidos pelo The Verge mostram casos em que alterações relativamente simples acabaram resultando na identificação de conteúdo de IA. Entre os exemplos está o uso de ferramentas como remoção de fundo e pequenas correções em fotografias.
O problema é que utilizar inteligência artificial para auxiliar uma edição não significa necessariamente que a imagem tenha sido criada artificialmente.
Edição com IA é diferente de imagem gerada por IA
Essa diferença se tornou cada vez mais difícil de estabelecer para as plataformas.
Uma pessoa pode tirar uma fotografia e usar IA apenas para remover um objeto, corrigir uma imperfeição ou modificar o fundo. Nesse caso, existe uma imagem fotográfica original que foi posteriormente alterada.
Em outra situação, todo o conteúdo pode ser produzido por um modelo generativo, sem que aquela cena ou pessoa tenha existido no momento da criação.
As duas situações envolvem inteligência artificial, mas representam usos diferentes da tecnologia. É justamente essa distinção que os sistemas automáticos ainda enfrentam dificuldades para comunicar claramente ao usuário.
Instagram também tenta identificar perfis criados por IA
A discussão acontece em um momento em que o Instagram está aumentando o controle sobre personagens artificiais dentro da plataforma.
A rede social anunciou recentemente mudanças específicas para contas que apresentam pessoas geradas por inteligência artificial como se fossem indivíduos reais. O antigo identificador “AI creator” está sendo substituído por “AI-generated profile”.
Perfis que apresentarem uma pessoa criada por IA e não utilizarem corretamente a identificação poderão perder alcance nas recomendações da plataforma.
O Instagram também deixou claro, porém, que o novo rótulo de perfil não deve ser aplicado simplesmente porque alguém utilizou IA para editar fotografias, melhorar textos, produzir elementos gráficos ou realizar outras alterações criativas.
A distinção mostra como a própria plataforma tenta separar o uso pontual de inteligência artificial da criação de uma identidade inteiramente artificial.
Por que a identificação correta importa?
Os selos ganharam importância porque imagens produzidas por inteligência artificial estão cada vez mais realistas.
A identificação pode ajudar usuários a compreender a origem do conteúdo antes de compartilhá-lo ou interpretá-lo como um registro verdadeiro. Isso se torna especialmente relevante em conteúdos jornalísticos, publicidade, campanhas de marcas e publicações envolvendo pessoas públicas.
Por outro lado, marcar uma fotografia verdadeira como se tivesse sido produzida artificialmente também cria um problema de confiança.
Para fotógrafos e criadores, por exemplo, o selo pode levar seguidores a acreditar que uma cena foi gerada por computador quando, na realidade, houve apenas uma edição posterior.
A dificuldade do Instagram mostra um dos principais desafios criados pela popularização da IA generativa: não basta identificar se inteligência artificial participou da produção de uma imagem. As plataformas também precisam conseguir explicar como ela foi utilizada.