A inteligência artificial avança rapidamente, mas as regras de segurança não acompanham o mesmo ritmo. O alerta foi feito por Brad Smith, presidente da Microsoft, em entrevista à BBC divulgada nesta segunda-feira (12). O executivo afirmou que produtos comuns, como leite e máquinas de lavar, estão sujeitos a exigências de segurança mais consolidadas do que sistemas avançados de IA.
A comparação foi utilizada para defender uma regulamentação mais rigorosa da tecnologia, especialmente diante do crescimento dos agentes de inteligência artificial, capazes de executar tarefas, tomar decisões operacionais e interagir com plataformas digitais com diferentes níveis de autonomia.
Smith defendeu três medidas centrais: avaliações independentes dos sistemas, comunicação obrigatória de incidentes e mecanismos capazes de interromper operações quando houver riscos relevantes.
Microsoft defende mecanismos para interromper sistemas de IA
Uma das propostas apresentadas por Smith é a criação de mecanismos de interrupção emergencial, conhecidos como kill switches. A ideia é permitir que sistemas de inteligência artificial sejam desligados ou tenham suas operações suspensas quando apresentarem comportamentos perigosos.
A preocupação é especialmente relevante para aplicações conectadas a infraestruturas críticas, dispositivos autônomos e sistemas empresariais.
O executivo também defendeu que desenvolvedores submetam tecnologias avançadas a avaliações externas antes do lançamento. Atualmente, parte dessas verificações depende de compromissos voluntários assumidos pelas próprias empresas.
Outra medida proposta é tornar obrigatória a comunicação de incidentes. Caso um agente de IA comprometa um sistema, por exemplo, a organização responsável deveria informar os afetados e documentar o ocorrido.
Agentes de IA ampliam preocupações com segurança digital
O debate ganha importância à medida que os sistemas deixam de apenas responder perguntas e passam a executar tarefas.
Os chamados agentes de IA podem navegar por páginas, utilizar ferramentas, acessar informações e realizar operações em ambientes digitais. Dependendo das permissões concedidas, também podem interagir com sistemas corporativos.
Essa autonomia amplia as possibilidades de utilização da tecnologia, mas exige controles para evitar ações não autorizadas, exposição de informações confidenciais e incidentes de segurança.
Empresas como OpenAI e Anthropic já divulgaram informações sobre comportamentos inesperados de sistemas avançados, contribuindo para discussões sobre testes, supervisão humana e limites operacionais.
Para Smith, o avanço dessas tecnologias exige regras capazes de acompanhar a velocidade de desenvolvimento do setor.
Reino Unido pode liderar regulamentação internacional
Durante a entrevista, o presidente da Microsoft apontou o Reino Unido como um possível protagonista na criação de padrões internacionais de segurança para inteligência artificial.
O país conta com o AI Security Institute, instituição dedicada à avaliação de riscos associados a sistemas avançados de IA. O órgão já realizou análises de modelos antes de sua disponibilização pública, mediante acordos com empresas desenvolvedoras.
O ministro britânico responsável pela área de inteligência artificial, Kanishka Narayan, também defendeu o fortalecimento dos mecanismos de supervisão e admitiu a possibilidade de novas exigências regulatórias caso as medidas atuais se mostrem insuficientes.
A posição contrasta com a abordagem defendida pelo governo americano de Donald Trump, que prioriza a autorregulação do setor para evitar restrições à competitividade das empresas dos Estados Unidos.
O que pode mudar para empresas e usuários?
As propostas apresentadas por Smith ainda não representam novas obrigações legais internacionais. Entretanto, indicam quais medidas podem ganhar espaço nas discussões sobre o desenvolvimento responsável da inteligência artificial.
Para empresas que utilizam IA em atendimento, análise de dados e automação, a adoção de mecanismos de supervisão pode se tornar cada vez mais importante.
Na prática, isso envolve definir quais informações os sistemas podem acessar, estabelecer limites para operações automatizadas e manter procedimentos para interromper atividades suspeitas.
Para os consumidores, regras mais claras poderiam ampliar a transparência sobre falhas, estabelecer responsabilidades e facilitar a identificação de situações em que uma ferramenta automatizada tenha causado prejuízos.
O desafio para governos e empresas será estabelecer essas proteções sem impedir o desenvolvimento de novas aplicações tecnológicas.