A rápida expansão da inteligência artificial (IA) está transformando o cenário da segurança cibernética e criando novas oportunidades para a atuação de criminosos digitais. De acordo com a consultoria de tecnologia e negócios Gartner, quatro ameaças críticas e imprevisíveis devem representar os maiores desafios para as organizações nos próximos anos: comprometimento de aplicações de IA, falsificação de identidade por meio de deepfakes, ataques à cadeia de suprimentos de software e injeção de prompts.
A avaliação faz parte do Gartner ThreatScape 2026-2027, estudo que classifica ameaças com base na quantidade e qualidade das informações disponíveis sobre elas e na capacidade das organizações de gerenciá-las. Segundo a consultoria, esses riscos se destacam porque oferecem vantagem significativa aos atacantes em relação às equipes de defesa.
Para John Watts, vice-presidente analista do Gartner, o cenário atual é marcado por excesso de informações e pela rápida evolução das tecnologias de IA. “Os líderes em segurança cibernética devem ser capazes de identificar os sinais de ameaça em meio a todo esse ruído para responder adequadamente às mudanças no cenário de riscos”, afirma.
Os temas serão discutidos durante a Conferência Gartner Segurança & Gestão de Risco, marcada para os dias 4 e 5 de agosto, em São Paulo.
Aplicações de IA ampliam superfície de ataque
O comprometimento de aplicações de inteligência artificial aparece entre as ameaças mais preocupantes devido ao crescimento acelerado do uso de ferramentas baseadas em IA nas empresas. Soluções internas, plataformas voltadas ao público, agentes personalizados e integrações com terceiros aumentaram a superfície de ataque e podem expor dados sensíveis ou credenciais quando não há controles adequados.
Segundo o Gartner, as equipes de segurança precisam ir além das práticas tradicionais de proteção de software e mapear os novos riscos introduzidos por aplicações de IA generativa e sistemas autônomos. A recomendação inclui a adoção de metodologias específicas de gestão de confiança, risco e segurança para IA, além da aplicação de princípios de desenvolvimento seguro, classificação de dados, monitoramento em tempo real e controle rigoroso de acesso.
Deepfakes tornam fraudes mais sofisticadas
Outra preocupação crescente é o uso de deepfakes para falsificação de identidade. O avanço das ferramentas de IA generativa elevou significativamente a qualidade e a acessibilidade de conteúdos falsificados em áudio, vídeo e imagem, permitindo ataques cada vez mais convincentes.
Essas tecnologias já são utilizadas para burlar sistemas de autenticação biométrica, aplicar golpes de engenharia social contra funcionários e até manipular processos de recrutamento.
De acordo com Watts, não existe uma solução única capaz de impedir esse tipo de ameaça. A proteção depende da combinação de processos de negócios mais robustos, conscientização dos usuários e ferramentas de detecção especializadas.
Entre as medidas recomendadas estão o fortalecimento dos mecanismos de verificação biométrica, a adoção de autenticação forte em reuniões virtuais e a implementação de estratégias de defesa em múltiplas camadas.
Cadeia de suprimentos de software sob pressão
Os ataques à cadeia de suprimentos de software também devem ganhar força nos próximos anos, especialmente devido à crescente dependência de componentes de código aberto e modelos de IA.
Segundo o Gartner, a evolução das soluções de IA generativa tende a acelerar a exploração de vulnerabilidades presentes em bibliotecas, pacotes e ferramentas utilizadas por desenvolvedores. Como consequência, as empresas precisarão investir em inventários detalhados de ativos de software, monitoramento contínuo e maior controle sobre seus processos de desenvolvimento.
A consultoria recomenda que as organizações exijam listas detalhadas de componentes de software e de IA de seus fornecedores, utilizem repositórios confiáveis para código de terceiros e adotem mecanismos de assinatura digital e controle de acesso nos ambientes de desenvolvimento.
Injeção de prompts desafia modelos de linguagem
A quarta ameaça destacada pelo Gartner é a injeção de prompts, técnica que explora vulnerabilidades em sistemas baseados em Grandes Modelos de Linguagem (LLMs). Nesse tipo de ataque, criminosos manipulam comandos enviados à IA para alterar seu comportamento, obter informações sensíveis, executar ações indevidas ou contornar mecanismos de proteção.
Com a popularização da IA generativa em ambientes corporativos, a consultoria avalia que esse risco tende a crescer rapidamente. Para reduzir a exposição, especialistas recomendam a adoção de estratégias de defesa em camadas, incluindo validação e filtragem de entradas, monitoramento contínuo de comportamentos anormais, realização de testes específicos de segurança para IA e aperfeiçoamento constante dos mecanismos de proteção em tempo de execução.
Segurança da IA exige novas abordagens
A análise do Gartner reforça que a transformação digital impulsionada pela IA está criando desafios inéditos para as áreas de segurança cibernética. À medida que as empresas ampliam o uso dessas tecnologias, cresce também a necessidade de desenvolver estratégias específicas para proteger aplicações, dados e processos contra ameaças cada vez mais sofisticadas e difíceis de prever.
*Imagem de capa: Depositphotos.com
Gostou? Então compartilhe:
