Inteligência Artificial [Dicionário Global]
Inteligência Artificial [Dicionário Global]
O objeto e os riscos
Nos últimos anos, a Inteligência Artificial (IA) tem vindo a ocupar uma importância crescente nas preocupações de todos enquanto ameaça não apenas para os direitos humanos, como até para a própria sobrevivência da humanidade, a par da aceleração das alterações climáticas e da proliferação nuclear descontrolada. Neste exato sentido, são de salientar as reiteradas intervenções do secretário-geral das Nações Unidas e do Papa Francisco.
Esta situação resulta dos desenvolvimentos desregulados da própria tecnologia, com a transição de sistemas informáticos determinados por programadores, desde a IA simbólica e a aprendizagem automática, sempre com finalidades específicas e consequências suscetíveis de predeterminação, para a aprendizagem profunda, com aptidões múltiplas. Atualmente, a aproximação à IA geral, em especial por meio dos grandes modelos de linguagem, o modo como os sistemas processam os dados e a determinação das finalidades, tendem a escapar ao controlo humano, exigindo precauções adicionais quanto à inserção de salvaguardas eficazes.
Aliás, esta transição é patente nas Definições de IA adotadas pela Organização para a Cooperação e o Desenvolvimento Económico (OCDE), as quais constituem “a referência” neste domínio. Assim, se na de maio de 2019 “Um sistema de IA é um sistema baseado em máquina que pode, para um determinado conjunto de objetivos definidos pelo homem, fazer previsões, recomendações ou decisões que influenciam ambientes reais ou virtuais”, na de novembro de 2023 já temos que “Um sistema de IA é um sistema baseado em máquina que, para objetivos explícitos ou implícitos, infere, a partir das informações que recebe, como gerar resultados como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais. Diferentes sistemas de IA variam nos seus níveis de autonomia e adaptabilidade após a implantação”.
Em extrema síntese, na atual Definição, os objetivos passaram a poder estar apenas “implícitos”, os resultados resultarão também de “inferências” a partir dos dados acedidos e os “conteúdos” passaram a ter lugar entre os resultados, em consequência do auge da AI generativa. Adicionalmente, foi colocada uma ênfase especial na adaptabilidade aos ambientes físicos, muito para lá do Ciberespaço, assim como na maior autonomia potencial perante os criadores, os quais podem ser outros sistemas de IA e não apenas seres humanos.
Concretamente, se nos colocarmos na perspetiva da Carta das Nações Unidas, temos que a IA é suscetível de ameaçar os valores ínsitos no Preâmbulo, por permitir interferências “nos direitos fundamentais do homem, na dignidade e no valor da pessoa humana, na igualdade de direitos dos homens e das mulheres, assim como das nações, grandes e pequenas”, também por organizações privadas transnacionais, fora do controlo efetivo dos Estados. O que coloca em questão os objetivos de “promover o progresso social e melhores condições de vida dentro de um conceito mais amplo de liberdade”, inclusive pela manipulação das pessoas, enquanto consumidores e cidadãos, e mesmo o de “garantir, pela aceitação de princípios e a instituição de métodos, que a força armada não será usada”, por passarem a ser dispensáveis decisões humanas, pondo em causa a paz enquanto objetivo último da Carta.
O que tem implicações diretas para a efetividade da Declaração Universal dos Direitos Humanos, designadamente ao potenciar a discriminação através da definição de perfis, pondo em causa a identidade e a igualdade, incluindo a identidade de género e orientação sexual; ao permitir o controlo dos comportamentos humanos, incluindo a vigilância e a avaliação automatizadas e preditivas, ao ponto de esvaziar o direito à privacidade e a liberdade em geral, incluindo a de expressão; além de potenciar a manipulação das pessoas mais vulneráveis, como as crianças, as mulheres, as pessoas com deficiência e os refugiados, condicionando o seu direito de asilo, por ser suscetível de reforçar o racismo e a xenofobia; sem esquecer as implicações para a democracia e o direito à informação, resultantes da produção e distribuição especificamente direcionada de informações falsas, ainda que crescentemente verosímeis. Além de sucessivos estudos apontarem para uma crise iminente do direito ao trabalho, por força da substituição massiva dos seres humanos por sistemas de IA, em especial nas profissões envolvendo o tratamento e a produção de informação. Porém, o risco mais sério estará na coisificação do ser humano, com decisões definitivas afetando os direitos fundamentais a serem tomadas por máquinas, pondo em causa a dignidade humana.
As iniciativas globais para a regulação
Como referimos, a OCDE tem tido um papel central neste esforço, sobretudo desde a Recomendação do Conselho da OCDE sobre Inteligência Artificial (C/MIN (2019) 3/FINAL), de 22 de maio de 2019, incluindo os “Princípios da OCDE sobre Inteligência Artificial”. Nos seus termos, “1. A IA deve beneficiar não só as pessoas, mas também o nosso planeta, contemplando o crescimento inclusivo, o desenvolvimento sustentável e o bem-estar geral. 2. Os sistemas de IA devem ser concebidos de forma a respeitar o estado de direito, os direitos humanos, os valores democráticos e a diversidade. Devem igualmente incluir salvaguardas adequadas – por exemplo, permitir a intervenção humana, quando necessário para garantir uma sociedade justa e equitativa. 3. Os sistemas de IA devem ser transparentes e assegurar uma divulgação responsável de modo a garantir que as pessoas compreendam os resultados provenientes do seu uso e possam geri-los corretamente. 4. Os sistemas de IA devem funcionar de forma robusta e segura, durante todo o seu ciclo de vida. Os seus potenciais riscos devem ser continuamente avaliados e geridos. [e] 5. As organizações e os indivíduos que desenvolvem, implantam ou operam sistemas de IA devem assegurar o seu bom funcionamento, em conformidade com os princípios acima referidos”. É de sublinhar que esta Recomendação foi também subscrita por Estados terceiros, como a Argentina, o Brasil, o Peru e a Roménia, assim como a Colômbia e a Costa Rica, que entretanto aderiram ambas à OCDE.
Logo depois, a Cimeira de Osaca do G20, de 9 de junho de 2019, aprovou a Declaração Ministerial sobre Comércio e Economia Digital e o seu “Anexo”, recebendo “Princípios” decalcados dos da OCDE. O que se reveste de uma enorme relevância no domínio das relações internacionais. Com efeito, o G20 não apenas congrega cerca de 70% da população e 85% do produto mundiais, como também reúne os líderes máximos das civilizações que coexistem no planeta, constituindo mesmo um “consensus omnium gentium”, até mais acentuado que a própria Declaração Universal dos Direitos Humanos. Efetivamente, os “Princípios” foram aceites não apenas pelo Ocidente, como também pela China, a Rússia, a Índia, o Japão e a Coreia do Sul, a Arábia Saudita e a Indonésia, o Brasil, a Argentina e o México, assim como pela África do Sul. Depois, os mesmos foram sendo confirmados nas cimeiras de Riade, em 2020, de Roma, em 2021, de Bali, em 2022, e de Nova Deli, em 2023, embora com alguns matizes no que se refere à respetiva articulação com o desenvolvimento económico.
No âmbito das Nações Unidas, as primeiras iniciativas, inicialmente com vista ao melhor funcionamento das redes, ocorreram no quadro da União Internacional das Telecomunicações (UIT), desde 2017, com cimeiras anuais, designadas por “AI for Good”. Progressivamente, o objeto dos debates foi-se ampliando até englobar os Objetivos de Desenvolvimento Sustentável, mas sempre com um carácter técnico. Em especial, há a assinalar a reunião da Conferência Plenipotenciária (PP-22) de Bucareste, em outubro de 2022, que aprovou a resolução (214/2002) sobre as “Tecnologias de inteligência artificial e telecomunicações/tecnologias da informação e da comunicação” e reforçou a estratégia de promover a cooperação com as demais agências das Nações Unidas, designadamente com a Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO), a Organização Mundial da Propriedade Intelectual (OMPI) e a Organização Mundial da Saúde (OMS).
Em parte resultando da articulação da UIT com a OMS, que começara em 2018, em 2021 foram adotadas as “Orientações da Organização Mundial de Saúde sobre Ética & Governança da Inteligência Artificial para a Saúde”, as quais tiveram o propósito expresso de minimizar os riscos resultantes da IA para a Bioética e o Biodireito, no pressuposto da inevitabilidade do recurso crescente a tais tecnologias para efetivar o direito à saúde. Para o início de 2024, perspetivam-se novas “Orientações”, já incorporando as postas pelos grandes modelos de linguagem e a IA generativa, inclusive as resultantes da produção de informações falsas ou erróneas.
Porém, foi a UNESCO a dar o passo mais significativo até ao momento, com a sua “Recomendação sobre a Ética da Inteligência Artificial” (SHS/IGM-AIETHICS/2021/APR/4), aprovada pela 41.ª Conferência Geral, em 23 de novembro de 2021. Esta resultou de um processo iniciado dois anos antes, com a resolução 40 C/37, da 40.ª Conferência Geral, de 2019, a qual tivera por base um estudo preliminar, da Comissão Mundial de Ética do Conhecimento Científico e da Tecnologia, apresentado a 28 de março desse ano. O conteúdo desta Recomendação é muito amplo, indo bastante além do objeto da UNESCO, e da mesma constam não apenas “Valores” e “Princípios”, mas também “Âmbitos de Ação Política” relativamente detalhados, embora difíceis de efetivar sem democracia, ainda que a “Recomendação” também tenha sido votada por autocracias.
Por seu turno, o secretário-geral das Nações Unidas efetivou as suas preocupações crescentes ao criar, em finais de outubro de 2023, um “órgão consultivo sobre IA”, constituído por especialistas independentes, sem recorrer ao Grupo de Trabalho Interagências sobre Inteligência Artificial (IAWG-AI), o qual está em funções desde março de 2021. Entretanto, aquele já produziu e publicou um relatório provisório intitulado “Inteligência Artificial: Governando a IA para a Humanidade”, em dezembro de 2023. Alinhado com documentos anteriores, como os já referidos, em especial com a “Recomendação” da UNESCO, o relatório identifica os princípios e os instrumentos que devem orientar a formação e a ação de novas instituições de governança da IA.
Nestes esforços globais, não deve ser esquecida a ação da Santa Sé com o “Apelo de Roma por uma ética da inteligência artificial/Rome Call”, um projeto da Pontifícia Academia para a Vida, o qual foi subscrito, a 28 de fevereiro de 2020, pelo Estado do Vaticano, pela Itália e pela Organização das Nações Unidas para a Alimentação e a Agricultura (FAO), assim como por grandes empresas tecnológicas, como a IBM e a Microsoft. A estes juntaram-se, em 10 de janeiro de 2023, alguns dos maiores expoentes do Judaísmo e do Islão, mostrando uma convergência das religiões abraâmicas. Cumpre ainda registar que a “Mensagem do Papa Francisco para o Dia Mundial da Paz”, de 1 de janeiro de 2024, divulgada previamente, terá por objeto “uma IA ao serviço do homem, não em sua substituição”, a ser efetivada através de um tratado internacional vinculativo, como aquele em que atentaremos de seguida.
As iniciativas regulatórias europeias
Antes de mais, o Conselho da Europa, tendo por referências a Convenção Europeia dos Direitos Humanos e a Jurisprudência do Tribunal Europeu dos Direitos Humanos, deu os primeiros passos na matéria com as “Orientações sobre a proteção das pessoas relativamente ao tratamento de dados no mundo dos megadados [Big Data]” (T-PD (2017) 01), de 23 de janeiro de 2017, adotados pelo Comité Consultivo da Convenção para a proteção das pessoas relativamente ao tratamento automatizado de dados pessoais, às quais se seguiram a recomendação da Assembleia Parlamentar sobre “Convergência tecnológica, inteligência artificial e direitos humanos” (R 2012/2017), de 28 de abril de 2017, a declaração sobre as “Capacidades manipulativas dos processos algorítmicos”, de 13 de fevereiro de 2019, e a recomendação aos Estados-Membros relativa aos “Impactos dos sistemas algorítmicos sobre os direitos humanos”, de 8 de abril de 2020, ambas do Comité de Ministros. Atualmente, no seguimento da resolução 2341 (2020), de 22 de outubro de 2020, sobre “A necessidade de uma governança democrática da inteligência artificial”, da Assembleia Parlamentar, desde 2022 estão em curso os trabalhos tendentes à consecução de uma “Convenção-Quadro sobre Inteligência Artificial, Direitos Humanos, Democracia e Estado de Direito”, cuja última versão de trabalho foi publicada em dezembro de 2023. A este propósito, é de assinalar que, nas negociações, têm participado como observadores, além da OCDE e da UNESCO, a Organização para a Segurança e a Cooperação na Europa (OSCE), assim como os Estados Unidos da América, o México, o Canadá, o Japão e a Santa Sé.
Na União Europeia, a regulação dos sistemas de IA começou por ser enfrentada pela diretiva 95/46/CE, do Parlamento Europeu e do Conselho, de 24 de outubro de 1995, relativa à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados, em especial através da disciplina relativa às “Decisões individuais automatizadas” (art. 15.º), a qual foi mantida e reforçada por atos legislativos posteriores no mesmo âmbito, mormente pelo regulamento (UE) 2016/679, do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados, e que revoga a diretiva 95/46/CE (Regulamento Geral sobre a Proteção de Dados). Seguiram-se-lhe diversos regimes destinados a proteger os consumidores mais vulneráveis perante empresas dotadas de tais sistemas, como o regulamento (UE) 2022/2065, do Parlamento Europeu e do Conselho, de 19 de outubro de 2022, relativo a um mercado único para os serviços digitais e que altera a diretiva 2000/31/CE (Regulamento dos Serviços Digitais).
Em 21 de abril de 2021, a Comissão Europeia apresentou a sua “Proposta de Regulamento que estabelece regras harmonizadas em matéria de Inteligência Artificial” (Regulamento Inteligência Artificial) (COM (2021) 206 final), assente no art. 2.º do Tratado da União Europeia, em cujos termos, “A União funda-se nos valores do respeito pela dignidade humana, da liberdade, da democracia, da igualdade, do Estado de direito e do respeito pelos direitos do Homem [os quais] são comuns aos Estados-Membros”; e na Carta dos Direitos Fundamentais da União Europeia, a qual começa por enunciar, logo no seu art. 1.º, que “A dignidade do ser humano é inviolável. Deve ser respeitada e protegida”. Para o que avança com uma abordagem diferenciada, tendo por base a identificação e o controlo dos riscos inerentes às distintas finalidades de utilização dos sistemas de IA. Cabe acrescentar que a Proposta foi antecedida por um processo desencadeado e conduzido pela Comissão com as suas Comunicações “Inteligência artificial para a Europa” (COM (2018) 237 Final), de 25 de abril de 2018, “Aumentar a confiança numa inteligência artificial centrada no ser humano” (COM (2019) 168 Final), de 8 de abril de 2019, esta recebendo as “Orientações para uma IA de confiança”, elaboradas pelo Grupo de Peritos de Alto Nível sobre a IA, nomeado meses antes pela própria Comissão. Culminou no “Livro Branco sobre a inteligência artificial – Uma abordagem europeia virada para a excelência e a confiança” (COM (2020) 65 Final), de 19 de fevereiro, e ainda na proposta de “Fomentar uma abordagem europeia da inteligência artificial” (COM (2021) 205
Final), a qual acompanhou e coincidiu com a Proposta de Regulamento.
Por sua parte, e em convergência, o Parlamento Europeu já avançara com a resolução que “contém recomendações à Comissão sobre disposições de Direito Civil sobre Robótica” (2015/2103 (INL)), de 16 de fevereiro de 2017, retomada pela “relativa a um Regime relativo aos aspetos éticos da inteligência artificial, da robótica e das tecnologias conexas” (2020/2012 (INL)), de 20 de outubro de 2020. Sempre no mesmo sentido, ainda que com tónicas distintas, sobretudo nas questões relativas à utilização de sistemas de IA para fins de segurança pública, estiveram as “Conclusões” da Presidência [alemã] do Conselho de Ministro, “A Carta dos Direitos Fundamentais no contexto da inteligência artificial e da mudança digital” (11481/20), de 21 de outubro de 2020.
Em 9 de dezembro de 2023, terminaram as negociações políticas entre os representantes do Parlamento Europeu e do Conselho, junto com a Comissão, sendo os resultados congruentes com a “Proposta”, ainda que os novos desenvolvimentos dos sistemas de IA, em especial com os grandes modelos de linguagem, tenham levado as Instituições a reconsiderar a relevância da inovação, num contexto de competição tecnológica e regulatória globais. A adoção e publicação do texto final deverão ocorrer durante o primeiro semestre de 2024.
Pela sua relação intrínseca com o direito de propriedade, devemos ainda mencionar a “Proposta de Diretiva relativa à adaptação das regras de responsabilidade civil extracontratual à inteligência artificial (Diretiva Responsabilidade da IA)” (COM (2022) 496 Final), apresentada pela Comissão em 28 de setembro de 2022, presentemente em debate interno no Parlamento Europeu e no Conselho de Ministros.
Finalmente, em Portugal, além de a dignidade humana surgir logo no art. 1.º da Constituição da República, enquanto macroprincípio de síntese da proteção dos direitos fundamentais, vigora a lei n.º 27/2021, de 17 de maio, que aprovou a Carta Portuguesa de Direitos Humanos na Era Digital. Nesta, o art. 9.º ocupa-se, especificamente, do “Uso da inteligência artificial e de robôs”, nos seguintes termos: “1 – A utilização da inteligência artificial deve ser orientada pelo respeito dos direitos fundamentais, garantindo um justo equilíbrio entre os princípios da explicabilidade, da segurança, da transparência e da responsabilidade, que atenda às circunstâncias de cada caso concreto e estabeleça processos destinados a evitar quaisquer preconceitos e formas de discriminação. 2 – As decisões com impacto significativo na esfera dos destinatários que sejam tomadas mediante o uso de algoritmos devem ser comunicadas aos interessados, sendo suscetíveis de recurso e auditáveis, nos termos previstos na lei. 3 – São aplicáveis à criação e ao uso de robôs os princípios da beneficência, da não-maleficência, do respeito pela autonomia humana e pela justiça, bem como os princípios e valores consagrados no art. 2.º do Tratado da União Europeia, designadamente a não discriminação e a tolerância”.
Em suma, com força de lei, este preceito sintetiza e procura responder às preocupações societais decorrentes do desenvolvimento da IA. Assim sejam dele retiradas todas as devidas consequências.
Bibliografia
Impressa
BARBOSA, M. M. (2021). Inteligência Artificial. Entre a Utopia e a Distopia, Alguns Problemas Jurídicos. Coimbra: Gestlegal.
CAMACHO, F. (dir.) (2023). 88 Vozes sobre Inteligência Artificial. O que fica para a Máquina e o que fica para o Homem? Lisboa: Oficina do Livro/ISCTE – Executive Education.
GUIMARÃES, J. A. S. A. & ALVES, R. V. S. (dir.) (2023). Os Direitos Humanos e a Ética na Era da Inteligência Artificial. Indaiatuba, SP: Foco.
OLIVEIRA, A. (2018). Inteligência Artificial. Lisboa: Fundação Francisco Manuel dos Santos.
Digital
BUARQUE, F. et al. (2023). Guia para uma Inteligência Artificial Ética, Transparente e Responsável na Administração Pública. Lisboa: Agência para a Modernização Administrativa, https://bo.tic.gov.pt/api/assets/etic/95bcaf56-87ba-446b-9f0b-ab06e1549aa0 (acedido a 04.03.2024).
MASSENO, M. D. (2022). “Consideraciones breves sobre los Fundamentos de la Propuesta de Ley de Inteligencia Artificial de la Comisión Europea”. Journal of Law and Sustainable Development, 10 (1), https://ojs.journalsdg.org/jlss/article/view/238/167 (acedido a 04.03.2024).
MOREIRA, E. S. & FREITAS, P. M. (dir.) (2002). Inteligência Artificial e Robótica. Desafios para o Direito do Século XXI. Coimbra: Gestlegal, https://repositorium.sdum.uminho.pt/bitstream/1822/80752/1/Ebook%20Inteligencia%20Artificial%20e%20Robotica.pdf (acedido a 04.03.2024).
SOUSA, S. A. de (dir.) (2023). Direito em Mudança: A Proposta de Regulamento Europeu sobre Inteligência Artificial. Algumas Questões Jurídicas. Coimbra: Instituto Jurídico/Faculdade de Direito da Universidade de Coimbra, https://www.uc.pt/site/assets/files/1184561/a_proposta_de_regulamento_ebook.pdf (acedido a 04.03.2024).
Autor: Manuel David Masseno