A indústria está parcialmente preparada, e de forma desigual, para controlar os riscos da automação e da inteligência artificial. O setor já possui práticas consolidadas para lidar com os riscos das máquinas, como normas de segurança, manutenção preventiva, treinamento de operadores e proteção física. O que ainda não acompanhou o ritmo da evolução tecnológica foi o controle das mudanças.
Atualmente, um sistema automatizado recebe atualizações de software, ajustes de configuração e substituições de componentes. No caso da IA, modelos também podem ser retreinados ou substituídos. Nem sempre, porém, existe um processo claro para definir o que pode entrar em operação, quem tem autoridade para aprovar, quais testes são necessários e como reverter uma mudança caso algo dê errado. A tecnologia avançou mais rápido que a governança, isto é, as regras, os critérios e as responsabilidades que orientam essas decisões.
Pude observar esse cenário em projetos de robótica envolvendo diferentes unidades industriais. As equipes tinham competência técnica, mas faltavam critérios comuns para a tomada de decisão. Com isso, uma pequena correção podia ser discutida com praticamente o mesmo peso de uma alteração que afetava a segurança física. O problema não estava na capacidade dos profissionais, mas na ausência de um método compartilhado para avaliar os riscos.
Quatro riscos que nascem dessa lacuna
O primeiro é a mudança mal controlada, ou seja, uma atualização aparentemente pequena de software pode alterar o funcionamento de um equipamento físico e, quando replicada, provocar o mesmo problema em diferentes unidades. Em sistemas exclusivamente digitais, muitas alterações podem ser revertidas com menos consequências. Já em uma fábrica, com máquinas em movimento e pessoas por perto, o impacto de um erro pode ser muito maior.
O segundo é a dificuldade de explicar o comportamento da IA, já que nem sempre é possível compreender com clareza por que um sistema tomou determinada decisão, o que dificulta a investigação de falhas e a correção de suas causas.
O terceiro envolve a segurança digital, pois quanto mais conectada a fábrica, maior a superfície de ataque, ou seja, o conjunto de pontos vulneráveis a invasões ou falhas de configuração. Em ambientes industriais, um problema digital pode comprometer a operação física, ampliando sua gravidade.
O quarto é a confiança excessiva, quando um sistema apresenta resultados corretos na maior parte do tempo, os profissionais podem se acostumar a aceitar suas respostas sem questionamento. Assim, uma falha pode demorar mais para ser percebida. Trata-se de um risco humano, e não apenas tecnológico, que muitas vezes é subestimado.
A automação muda o tipo de trabalho
Tarefas repetitivas, manuais e de baixo valor agregado tendem a diminuir com a automação, o que pode afastar profissionais de atividades cansativas, monótonas ou de risco. Ao mesmo tempo, surgem novas responsabilidades relacionadas à supervisão e à tomada de decisões. Alguém precisa avaliar se uma atualização pode entrar em operação, validar o funcionamento do sistema, investigar desvios, registrar alterações e garantir a existência de um plano de retorno.
Essas atividades, antes diluídas na rotina, passam a exigir responsabilidades e processos próprios. Um técnico que anteriormente ajustava uma máquina de forma manual, por exemplo, agora precisa compreender como ela se comunica com o software, com os sistemas de segurança e com outros equipamentos. A formação profissional, porém, ainda está mais voltada à operação das tecnologias do que à tomada de decisões sobre elas.
Falta preparar as equipes para avaliar riscos, interpretar resultados criticamente e trabalhar de forma integrada com áreas como mecânica, elétrica, software, segurança e operação. Também é necessário ampliar o treinamento com situações reais, como decidir pela liberação ou não de uma mudança diante de informações incompletas e pressão por prazos. Saber reconhecer quando um sistema ainda não está pronto é uma competência que precisa ser valorizada, e não tratada apenas como burocracia.
Essa preparação também é importante quando uma falha provoca acidentes ou prejuízos. A responsabilidade depende dos contratos, das circunstâncias e da legislação aplicável, podendo envolver fabricantes, integradores, operadores e responsáveis pela autorização das mudanças. Por isso, manter registros sobre decisões, testes, critérios de aprovação e planos de retorno ajuda a esclarecer o que aconteceu, identificar responsabilidades e evitar a repetição de erros.
O porte da empresa também influencia a natureza dos riscos, pois grandes indústrias geralmente possuem mais recursos, equipes especializadas e processos formais, mas enfrentam desafios de coordenação entre diferentes unidades. Já as pequenas e médias empresas costumam ser mais ágeis, embora frequentemente dependam do conhecimento de poucos profissionais e de processos pouco documentados.
Por isso, mais do que o orçamento disponível, o que faz diferença é a disciplina na gestão das mudanças. Entre os passos necessários estão definir quem aprova cada alteração, classificá-la por nível de risco, estabelecer critérios objetivos de prontidão, testar planos de retorno, iniciar a implementação por projetos-piloto, acompanhar os resultados após a instalação e manter registros das decisões. Essas medidas não exigem necessariamente tecnologias sofisticadas e podem ser alinhadas às diretrizes de segurança industrial já existentes.
O debate sobre inteligência artificial e automação costuma se concentrar no que essas tecnologias são capazes de fazer. Entretanto, a pergunta mais importante, a meu ver, é com que segurança conseguimos modificar aquilo que já está funcionando. Uma empresa pode contar com o melhor robô ou o modelo de IA mais avançado do mercado e, ainda assim, enfrentar problemas se não souber controlar as mudanças ao redor dessas tecnologias.
*Imagem de capa: Depositphotos.com
Gostou? Então compartilhe:
