Hoje, os legisladores europeus estão enfrentando uma oportunidade única na vida de garantir que as tecnologias de IA sejam usadas para proteger, não para vigiar.
Lucie Audibert* | Al Jazeera | opinião | # Traduzido em português do Brasil
A União Europeia está nos estágios finais de elaboração de uma legislação inédita para regulamentar os usos nocivos da inteligência artificial. No entanto, como está atualmente, a lei proposta, chamada EU AI Act, contém um ponto cego letal: ela não proíbe os muitos usos nocivos e perigosos de sistemas de IA no contexto da fiscalização da imigração.
Nós, uma coalizão de organizações de direitos humanos, pedimos aos legisladores da UE que garantam que esta legislação histórica proteja todos, incluindo requerentes de asilo e outras pessoas em movimento nas fronteiras da Europa de tecnologias de vigilância perigosas e racistas. Pedimos a eles que garantam que as tecnologias de IA sejam usadas para #ProtectNotSurveil.
IA torna as fronteiras mais mortais
As fronteiras da Europa estão se tornando mais mortais a cada dia que passa. Tecnologias intensivas em dados, incluindo sistemas de inteligência artificial, estão sendo cada vez mais usadas para tornar o Fortress Europe impenetrável. As autoridades de fronteira e policiamento estão empregando análises preditivas, avaliações de risco por meio de bancos de dados biométricos interoperáveis colossais e drones com IA aprimorada para vigiar as pessoas em movimento e afastá-las das fronteiras da UE. Por exemplo, a agência fronteiriça europeia Frontex , que é acusada de ser cúmplice de graves violações dos direitos humanos em muitas fronteiras da UE, é conhecida por usar vários sistemas tecnológicos alimentados por IA para facilitar operações violentas e ilegais de repressão.
De detectores de mentiras a drones e outros sistemas alimentados por IA, as ferramentas de vigilância de fronteiras comprovadamente empurram as pessoas para rotas mais precárias e mortais , retiram-lhes seus direitos fundamentais de privacidade e prejudicam injustificadamente suas reivindicações de status de imigração. Essas tecnologias também são conhecidas por criminalizar e caracterizar racialmente as pessoas em movimento e facilitar deportações ilegais que violam os princípios de proteção humanitária.
A Lei de IA da UE pode resistir ao uso opressivo de tecnologia
Em um momento em que os estados membros da UE estão correndo para elaborar políticas anti-migração em afronta às suas obrigações legais domésticas e internacionais , limitar e regulamentar o uso de inteligência artificial no controle da migração é crucial para evitar danos.
É também uma oportunidade imperdível para evitar a acumulação de poderes mortais e desumanos nas mãos de governos autoritários – tanto na UE como em estados onde a UE procura exteriorizar as suas fronteiras .
A Lei de IA da UE pode fornecer linhas vermelhas importantes e mecanismos de responsabilidade para ajudar a proteger os direitos fundamentais das pessoas sujeitas a sistemas de IA no contexto de controle de migração. Conforme descrito em nossas emendas propostas à Lei de IA, elas podem incluir a proibição do uso de algoritmos racistas e análises preditivas para rotular as pessoas como “ameaças”, bem como “detectores de mentiras” duvidosos baseados em IA e outras ferramentas de reconhecimento de emoções para empurrar ilegalmente pessoas longe das fronteiras. A UE trabalha há muito tempo para proteger seus cidadãos da vigilância biométrica em massa e espera-se que tais proteções façam parte da Lei final da UE sobre IA. Esses esforços não devem discriminar com base na nacionalidade e ideias raciais de risco e devem ser expandidos para incluir todas as pessoas na Europa
Poder para o povo, não para o setor privado
Também tememos que deixar o uso da IA no controle da migração para os estados membros da UE leve a uma corrida global em direção a tecnologias mais intrusivas para prevenir ou impedir a migração – tecnologias que mudariam fundamentalmente ou, na pior das hipóteses, acabariam com a vida de pessoas reais.
Se a Lei de IA da UE não conseguir regularizar e limitar o uso de tecnologias de IA na imposição da migração, os atores privados explorarão rapidamente a brecha para forçar novos produtos. Eles enviarão seus produtos para nossas fronteiras sem as devidas verificações, assim como os usos que se enquadram no escopo da AI Act ficam sujeitos a regulamentações e barreiras de entrada mais rigorosas.
Esta é uma lucrativa indústria
multibilionária. A Frontex gastou 434
milhões de euros (US$ 476 milhões) em vigilância de nível militar e
infraestrutura de TI de
Já vimos atores privados – como Palantir , G4S e a menos conhecida Buddi Ltd – aproveitarem o desejo dos governos por mais vigilância para vender tecnologia que facilita práticas desumanas nas fronteiras e violações dos direitos fundamentais das pessoas em movimento.
Ainda há tempo para a UE fazer a coisa certa: garantir que os usos inaceitáveis de IA no contexto da migração sejam banidos e todas as brechas sejam fechadas, para que os padrões da UE sobre privacidade e outros direitos fundamentais se apliquem igualmente a todos.
Signatários:
Lucie Audibert, advogada, Privacy International
Hope Barker, analista sênior de políticas, Border Violence Monitoring Network
Mher Hakobyan, consultora de advocacia em regulamentação de IA, Anistia Internacional
Petra Molnar, diretora associada, Refugee Law Lab, Universidade de York; bolsista, Harvard Law School
Derya Ozkul, pesquisador sênior, Universidade de Oxford
Caterina Rodelli, analista de políticas da UE, Access Now
Alyna Smith, Plataforma de Cooperação Internacional para Migrantes Indocumentados
* Lucie Audibert é advogada da Privacy International, uma ONG global que pesquisa, litiga e defende contra abusos de tecnologia e dados por parte de governos e corporações. Ela lidera esforços estratégicos de litígio e defesa, em particular para contestar o abuso dos direitos dos migrantes por meio da exploração de seus dados.
As opiniões expressas neste artigo são próprias dos autores e não refletem necessariamente a posição editorial da Al Jazeera.
Imagem: Um piloto das forças especiais da polícia austríaca testa um drone perto da fronteira greco-turca na vila de Dadia, Grécia, quarta-feira, 11 de março de 2020 [AP Photo/Giannis Papanikos]
.jpg)
.jpg)
Sem comentários:
Enviar um comentário