O Instagram vai adotar novas medidas para identificar perfis que apresentam personagens criados por inteligência artificial como se fossem pessoas reais. Contas que não deixarem clara a natureza artificial desses personagens poderão ter o alcance reduzido nas recomendações da plataforma.
Uma das mudanças será a substituição da identificação “AI creator” por “AI-generated profile”, tornando mais explícito para o usuário que aquele perfil apresenta uma identidade produzida por inteligência artificial.
A medida é direcionada principalmente a contas construídas em torno de personagens sintéticos que podem ser confundidos com pessoas reais.
Meta faz acordo de R$ 86 bilhões em ação sobre vício de jovens nas redes sociais
O que acontece com perfis de IA que não se identificarem?
Segundo as novas regras, contas que deveriam informar que apresentam personagens gerados por IA, mas não fizerem essa identificação, poderão ter seu alcance reduzido. Por outro lado, criadores que utilizarem o novo rótulo não serão penalizados simplesmente por terem uma pessoa gerada por IA como assunto do perfil.
Na prática, isso pode diminuir a presença desses perfis nas áreas da plataforma responsáveis pela descoberta de novos conteúdos.
A mudança amplia a pressão para que criadores de personagens virtuais deixem claro quando a pessoa apresentada nas publicações não existe no mundo real.
Usar inteligência artificial não significa ter que identificar o perfil
A nova política não significa que todo usuário que utiliza ferramentas de inteligência artificial no processo de criação terá que classificar sua conta como um perfil gerado por IA.
O Instagram diferencia contas baseadas em personagens artificiais de perfis de pessoas reais que utilizam IA como ferramenta para produzir ou editar conteúdos.
Dessa forma, recursos de inteligência artificial usados para editar imagens, auxiliar na produção de textos ou criar elementos gráficos não fazem, por si só, com que toda a conta precise receber a identificação de perfil gerado por IA.
A mudança mira situações em que a própria identidade apresentada pelo perfil foi criada artificialmente.
Influenciadores de IA levantam preocupação
A mudança acontece em um momento de maior presença de influenciadores artificiais nas redes sociais e de questionamentos sobre a dificuldade de distinguir algumas dessas identidades de pessoas reais.
No início deste ano, uma investigação da Wired encontrou mais de duas dezenas de contas que aparentemente utilizavam influenciadores masculinos gerados por IA para promover o aplicativo de relacionamentos Goose no Instagram. Segundo a reportagem, algumas dessas contas chegaram a entrar em contato com potenciais usuários por mensagens diretas para incentivá-los a se cadastrar.
Outro caso envolve conteúdos relacionados à saúde e ao bem-estar. Em julho, o The New York Times identificou centenas de personagens apresentados como médicos, curandeiros e personalidades de bem-estar gerados por inteligência artificial nas redes sociais. Essas contas promoviam suplementos ou faziam alegações relacionadas à saúde.
Os episódios ajudam a mostrar um dos desafios provocados pelo avanço da IA generativa nas redes: identificar quando o usuário está acompanhando uma pessoa real e quando está diante de uma identidade artificial.
Instagram já enfrentou críticas por outra ferramenta de IA
A nova política também chega após outra controvérsia envolvendo inteligência artificial no Instagram.
A plataforma enfrentou críticas por uma ferramenta que permitia gerar imagens utilizando a aparência de outras pessoas. Usuários questionaram o uso de conteúdos públicos publicados no Instagram sem consentimento explícito para esse recurso.
Após a repercussão, a Meta retirou a funcionalidade.
Agora, ao tornar mais explícita a identificação dos perfis gerados por IA e vincular essa transparência à distribuição do conteúdo, o Instagram amplia as regras para diferenciar pessoas reais de identidades artificiais dentro da plataforma.