Especialistas pedem regulamentação da inteligência artificial para evitar desigualdades

Por: Matheus I. S. Nolli 18/12/2019  

A inteligência artificial parece estar “ampliando as desigualdades”, e sua implantação deve estar sujeita a rígidos regulamentos e limites, especialmente para tecnologias sensíveis, como a do reconhecimento facial, alertam pesquisadores em um relatório divulgado nesta quinta-feira.

O AI Now Institute, um centro da Universidade de Nova York que estuda as implicações sociais da inteligência artificial, disse que, à medida que essas tecnologias se tornam mais acessíveis, seus efeitos negativos começam a aparecer.

Os sistemas de IA (armazenamento e análise de dados em larga escala, automação de processos, aprendizado autônomo de máquinas…) estão sendo implementados em setores como saúde, educação, recrutamento de pessoal e justiça “sem salvaguardas ou estruturas de controle apropriadas”, estimam os pesquisadores no relatório de 93 páginas.

Uma preocupação especial é o uso da IA nos “serviços sociais, vigilância e monitoramento de imigrantes e minorias”.

“Está claro que, em vários campos e contextos, a IA está ampliando as desigualdades, colocando a informação e meios de controle nas mãos de quem já tem poder, privando aqueles que não o têm”.

O reconhecimento facial, já muito expandido, e o reconhecimento de emoções pelas máquinas, mais incipiente, estão sendo implementados muito rapidamente, segundo o estudo.

Governos e empresas devem parar de usar o reconhecimento facial “em contextos sociais e políticos sensíveis”, até que os riscos sejam melhor compreendidos, aponta o estudo.

A identificação de emoções pelas máquinas deveria ser simplesmente proibida. “Não deve ser permitido desempenhar um papel importante nas decisões que afetam as pessoas, como entrevistas de emprego, o preço de uma apólice de seguro, consultas médicas ou avaliação de alunos na escola”, afirma o relatório.


Continua depois da publicidade


Os pesquisadores chamam engenheiros e desenvolvedores a estarem melhor informados sobre as implicações dos dispositivos e programas que constroem e “denunciam os usos antiéticos ou perigosos de seu trabalho”.

De maneira mais geral, alertam que o setor de inteligência artificial deve fazer “mudanças estruturais” para garantir que os algoritmos não reforcem o racismo ou a falta de diversidade. “A indústria de IA é terrivelmente homogênea”, critica o estudo.

Gostou? Então compartilhe:


Comentários

Matheus I. S. Nolli