Inteligência artificial: oportunidades e desafios

A inteligência artificial (IA) afeta cada vez mais as nossas vidas. Conheça as oportunidades e desafios para a segurança, democracia, empregos e empresas.

Índice

• Vantagens da IA
• Ameaças e desafios da IA

O crescimento e a riqueza da Europa estão estreitamente ligados à forma como utilizará os dados e as tecnologias de conexão.

A inteligência artificial (IA) pode fazer uma grande diferença nas nossas vidas - para melhor ou para pior.

É por isso que, em junho de 2024, a UE adotou a Lei da inteligência artificial, a primeira legislação abrangente do mundo sobre o assunto, para garantir que os sistemas de IA utilizados na UE sejam seguros e respeitem os direitos fundamentais.

São explicadas, mais abaixo, algumas das principais oportunidades e os desafios associados às futuras aplicações da IA, bem como a forma como a Lei da IA visa encontrar soluções nesta área.

• Lê mais sobre em que consiste e como funciona a inteligência artificial.

Vantagens da IA

Os países da UE já são fortes ao nível da indústria digital e das aplicações usadas entre empresas. Com uma infraestrutura digital de alta qualidade e um quadro regulamentar que proteja a privacidade e a liberdade de expressão, a UE poderá tornar-se líder mundial no domínio da economia de dados e das suas aplicações.

Benefícios da IA para os cidadãos

A IA poderia proporcionar aos cidadãos cuidados de saúde melhorados, automóveis e outros sistemas de transporte mais seguros, um acesso a produtos e serviços personalizados, mais baratos e duradouros. Pode ainda facilitar o acesso à informação, à educação e à formação. A IA também pode tornar o local de trabalho mais seguro, tendo em conta que os robôs podem ser usados para as tarefas de maior risco e contribuir para a criação de novos postos de trabalho à medida que as indústrias da área da inteligência artificial crescem e evoluem.

As oportunidades da inteligência artificial para as empresas

No caso das empresas, a IA pode permitir o desenvolvimento de uma nova geração de produtos e serviços, incluindo naqueles setores onde as empresas europeias já detêm posições fortes: economia verde e circular, maquinaria, agricultura, saúde, moda, turismo. Ela pode permitir modos de venda mais harmoniosos e otimizados, melhorar a manutenção de máquinas, aumentar os resultados da produção e a qualidade, melhorar o atendimento ao cliente e economizar energia.

As oportunidades oferecidas pela IA aos serviços públicos

Quando usada em serviços públicos, a IA pode reduzir os custos e oferecer novas possibilidades para os transportes públicos, a educação e gestão de energia e resíduos, assim como melhorar a sustentabilidade dos produtos. Deste modo, a inteligência artificial poderia contribuir para a concretização dos objetivos do Pacto Ecológico Europeu.

O reforço da democracia

O escrutínio baseado em dados, a prevenção da desinformação e dos ciberataques e a garantia do acesso a informação de qualidade poderiam reforçar a democracia. Também seria viável apoiar a diversidade e a abertura, por exemplo, ao atenuar a possibilidade de existência de preconceitos nas decisões quanto a contratações e ao usar dados analíticos em contrapartida.

A IA ao serviço da proteção e da segurança

Prevê-se que a IA seja ainda mais utilizada na prevenção da criminalidade e no sistema de justiça penal, uma vez que será possível processar um maior número de dados de um modo mais rápido, que os riscos de fuga dos prisioneiros poderão ser avaliados com maior precisão, e que os crimes ou mesmo os ataques terroristas poderão ser evitados. A IA também já é utiulizada por plataformas online para detetar e reagir a comportamentos ilegais e inadequados em na internet.

Nos assuntos militares, a IA poderia ser usada para estratégias de defesa e ataque, com piratagem e phishing ou para atingir sistemas-chave da ciberguerra.

Ameaças e desafios da IA

A crescente dependência de sistemas de inteligência artificial também apresenta riscos potenciais.

Subutilização e utilização excessiva da IA

A subutilização da IA é considerada uma grande ameaça: a perda de oportunidades para a UE poderia significar uma implementação deficiente de programas e iniciativas importantes, a perda de vantagens competitivas em relação a outras regiões, a estagnação económica e menores oportunidades para os cidadãos. A subutilização pode derivar da desconfiança do público e das empresas em relação à IA, de infraestrutura pobres, de falta de iniciativa, de baixos investimentos ou de mercados digitais fragmentados - uma vez que a aprendizagem das máquinas de IA depende dos dados.

O uso excessivo também pode ser problemático: investir em aplicações de IA que se revelem de pouca utilidade ou aplicar a IA a tarefas para as quais não é adequada, por exemplo, usá-la para explicar questões societais complexas.

A Lei da IA visa enfrentar estes dois perigos. Tem como objetivo promover um inteligência artificial de confiança na Europa - tanto para os cidadãos como para as empresas, aborda os riscos colocados pela IA e procura posicionar a Europa como uma força líder neste domínio.

Responsabilidade: Quem é o responsável pelos danos causados pela IA?

Um desafio importante é determinar quem é responsável pelos danos causados por um dispositivo ou serviço operado por IA: num acidente que envolva um carro autónomo, os danos devem ser cobertos pelo proprietário, pelo fabricante do carro ou pelo programador?
Se um produtor estivesse absolutamente livre de responsabilidade, talvez não existisse qualquer incentivo para fornecer um bom produto ou serviço, e isso poderia prejudicar a confiança das pessoas nas tecnologias; assim como os regulamentos poderiam ser muito rigorosos e sufocar a inovação.

Ameaças da IA aos direitos fundamentais e à democracia

Os resultados produzidos pela inteligência artificial dependem de como ela é concebida e dos dados que utiliza. Tanto a conceção como os dados podem ser tornar-se tendenciosos - intencionalmente ou não. Por exemplo, alguns aspetos importantes de um problema podem não ser programados no algoritmo usado ou podem ser programados para refletir e simular desvios estruturais. Além disso, o uso de números para representar uma realidade social complexa poderia fazer a IA parecer factual e precisa quando não o é ("mathwashing").

Se não for usada corretamente, a IA pode levar a decisões influenciadas por dados de etnia, sexo, idade ao contratar ou demitir pessoas no mundo do trabalho; ao oferecer empréstimos ou até mesmo no âmbito de processos penais. A IA pode afetar gravemente o direito à privacidade e à proteção de dados. Ela pode ser usada, por exemplo, em equipamentos de reconhecimento facial ou para rastreio online e criação de perfis de indivíduos.

Além disso, a IA permite combinar pedaços de informação que uma pessoa deu com novos dados, o que pode levar a resultados não esperados por essa pessoa.

Também pode representar uma ameaça à democracia; a IA já foi acusada de criar câmaras de eco online com base no comportamento online anterior de uma pessoa, exibindo apenas o conteúdo que uma pessoa gostaria de ver, em vez de criar um espaço para o debate público inclusivo, pluralista e de acesso equitativo.

A inteligência artificial pode ser usada para criar imagens, sons e vídeos falsos, mas de aparência extremamente realista, conhecidos como “deepfakes” e, deste modo, representar riscos financeiros, prejudicar reputações e desafiar o processo de tomada de decisão. Tais práticas poderiam acarretar a separação e polarização da esfera pública e a manipulação de eleições. 

A IA também poderia vir a prejudicar a liberdade de reunião e protesto, se possibilitasse o rastreio e realização de perfis de indivíduos ligados a certas crenças ou ações.

Para evitar quaisquer distorções, a Lei da IA exige que os conjuntos de dados utilizados para treinar a inteligência artificial sejam o mais completos e livres de erros possível. Também regula o uso de certas aplicações de inteligência artificial que podem ameaçar os direitos dos cidadãos, por exemplo, o uso de sistemas de identificação biométrica é proibido por lei exceto em alguns casos estritamente definidos.

A Lei da AI também introduziu um requisito para que as imagens e os conteúdos de áudio ou de vídeo criados ou manipulados artificialmente, ou seja, os deepfakes (ou falsificações profundas), sejam clara e visivelmente identificados como tal.

Impacto da inteligência artificial no emprego

Prevê-se que o uso de IA no local de trabalho resulte na eliminação de um grande número de empregos. No entanto, também se prevê que a IA crie postos de trabalho e melhore os empregos, o ensino e a formação profissional e que terá um papel fundamental a desempenhar na prevenção do desemprego de longa duração e na garantia de mão-de-obra qualificada.

Concorrência

A recolha de informações pode igualmente conduzir a distorções da concorrência, uma vez que os intervenientes com mais informações poderiam obter uma vantagem e eliminar efetivamente os concorrentes.

Riscos para a segurança

As aplicações de IA que estão em contato físico com seres humanos ou integradas no corpo humano podem representar riscos de segurança no caso de uma má conceção, de utilização errada ou de piratagem. Um uso mal regulamentado da IA em armas poderia levar à perda do controlo humano sobre armas perigosas.

Desafios de transparência

Os desequilíbrios no acesso à informação poderiam ser explorados. Por exemplo, com base no comportamento online de uma pessoa ou outros dados e sem o seu conhecimento, um fornecedor online pode usar a IA para prever quanto essa pessoa está disposta a pagar, assim como no âmbito de uma campanha política a mensagem poderia ser adaptada segundo o comportamento do eleitor. Outra questão de transparência reside no facto de, às vezes, poder ser incerto para as pessoas se estão a fazer face a uma aplicação de inteligência artificial ou a um ser humano.

A Lei da IA aborda estes desafios, regulando o uso da IA para evitar a manipulação do comportamento humano, a indução em erro ou a exploração das vulnerabilidades das pessoas.

• Sabe como os eurodeputados querem ajustar a legislação sobre dados para impulsionar a inovação e garantir a segurança.

Para mais informações

• Estudo do PE: Regulamento da inteligência artificial (setembro de 2024, EN)
• Estudo do PE: Inteligência artificial: Como funciona, qual a sua importância, e o que podemos fazer em relação a ela? (junho de 2020, EN)
• Estudo do PE: As oportunidades da inteligência artificial (junho de 2020, EN)
• Estudo do PE: Inteligência Artificial ante Portas: Reflexões jurídicas e éticas (março de 2019, EN)
• Comissão Europeia: Livro Branco sobre a inteligência artificial - Uma abordagem europeia virada para a excelência e a confiança Abre numa nova janela
• Estudo do Conselho da Europa: Algoritmos e Direitos Humanos (EN) Abre numa nova janela