Chegámos ao Blade Runner e não demos por isso
Conversar com chatbots na Administração Pública (AP) não é novidade, mas no final do passado mês de maio, foi apresentada uma solução de Inteligência Artificial (IA) sob a forma de um avatar realista que reconhece e produz voz em língua portuguesa, e que vai apoiar o cidadão na sua interação digital com os serviços públicos, mantendo uma conversação em tempo real. Fruto de um trabalho conjunto entre a Agência para a Modernização Administrativa (AMA) e várias entidades privadas, a Assistente Virtual terá a Chave Móvel Digital como piloto, pretendendo-se alargar a utilização desta tecnologia a outros serviços públicos disponíveis no portal ePortugal para garantir aos cidadãos um atendimento 24 horas por dia, 7 dias por semana.
Na apresentação desta solução tecnológica, o presidente da AMA sublinhou que, ainda que se considere a tecnologia com base em inteligência artificial “muito promissora”, esta será testada com todos os cuidados. Esse é um alerta muito responsável. As inovações tecnológicas suscitam interesse quase instantâneo e adesão massiva de utilizadores (veja-se o imenso interesse suscitado pelo ChatGPT por exemplo).
É certo que as soluções de IA já são utilizadas para analisar grandes volumes de dados e desenhar repostas personalizadas aos cidadãos, abrindo um imenso campo de oportunidades para melhorar o funcionamento do setor público e resolver problemas em áreas críticas como saúde, transportes, energia, segurança ou a luta contra a desinformação. Por isso, a OCDE e a Comissão Europeia têm produzido análises, recomendações e até normas no domínio da IA. Mas também é verdade que os alertas proliferam e ainda há poucos dias mais de 350 especialistas e personalidades a nível mundial publicaram uma declaração sobre os perigos que podem resultar da expansão desregulada da IA.
As grandes invenções tecnológicas sempre mudaram a humanidade, mas pela primeira vez uma tecnologia tem a capacidade de aprender e tomar decisões. O isso pode mudar o jogo pois a IA suscita novas questões éticas à medida que se torna ubíqua face ao aumento do volume de dados e de capacidade de processamento.
É por essa razão que quer a OCDE quer a Comissão Europeia (que publicou, inclusivamente, um Guia Ético para uma IA de Confiança em 2019, desenvolvido por um grupo de alto nível constituído por peritos da academia, indústria e sociedade civil), defendem que, antes de tirar partido dessas técnicas de forma ética, os governos devem assegurar que têm acesso a dados em quantidade e de qualidade e sem enviesamentos, e que os sistemas são fiáveis, transparentes, seguros e centrados no ser humano e nos seus direitos, garantindo, nomeadamente, o respeito pela autonomia humana. Ou seja, a IA não deve coagir, enganar, manipular ou condicionar, pelo contrário, deve empoderar as capacidades humanas e deixar espaço para a decisão humana.
Por isso, a abordagem que a AMA propõe parece ser prudente: testar, avaliar e, com as devidas cautelas, expandir. Mas com clareza, transparência e envolvimento dos utilizadores e não apenas de especialistas, pois a avaliação dos riscos da utilização destas soluções interessa a todos, em qualquer situação e, por maioria de razão, quando são utilizadas pelo Estado. Essa será porventura a maior salvaguarda que teremos contra a adoção de soluções que nos transportem para um mundo paralelo sem nos darmos conta do caminho que trilhamos antes de lá chegarmos.
E não é demais alertar para os riscos. Yuval Noah Harari esteve recentemente em Lisboa para uma conferência e afirmou que a IA está a provocar uma alteração radical na forma como nos vemos e interagimos ao ponto de ameaçar a democracia. Porque a democracia assenta no debate entre pessoas e se as máquinas que simulam ações humanas forem programadas para influenciar as pessoas com objetivos políticos, o perigo de manipulação é real: basta navegar nas redes sociais cedendo dados pessoais, muitas vezes inadvertidamente, e assim permitindo que as máquinas rastreiem preferências e adaptem as interações para plantar uma ideia e conquistar confiança, sem que as pessoas sequer se apercebam.
Para funcionarem, as democracias pressupõem que as pessoas confiem umas nas outras e debatam os temas que lhes interessam para definir o futuro desejado para a sociedade. Um debate com inteligência real, emoção e ambição. Mas para isso, as pessoas têm de perceber que já vivem numa sociedade híbrida, com inteligência real e artificial. E saber lidar com isso, de forma conscienciosa. Caso contrário, o presente pode já ser infinitamente mais desafiante do que o maravilhoso Blade Runner nos fazia adivinhar há mais de 40 anos.
O autor escreve segundo o novo acordo ortográfico