Umeå University
À medida que as tecnologias baseadas em Inteligência Artificial (IA) ficam cada vez mais avançadas, torna-se premente garantir a sua transparência, escalabilidade e governança ética. Os paradigmas tradicionais de IA, baseados numa estrutura racional [9], dão prioridade à eficiência, à resolução de problemas, e à otimização. Estes paradigmas visa a autonomia, bem como uma abordagem orientada para as tarefas; no entanto, tal pode traduzir-se em sistemas de IA monolíticos e opacos. Mais: estas abordagens ignoram aspetos importantes, como o impacto social, os princípios éticos e a capacidade de manutenção a longo prazo [10]. De forma a colmatar estas lacunas, propomos integrar a ética relacional, exemplificada através de filosofias feministas, com princípios de IA modular existentes na engenharia de software. Este processo de integração foca-se, principalmente, nos aspetos de comunidade, interconectividade, modularidade e transparência, garantindo que os sistemas de IA são socialmente responsáveis e tecnologicamente robustos, capazes de dar resposta às complexas necessidades dos atuais sistemas socioecológicos. Nesse sentido, ao integrar uma abordagem estruturada e modular, bem como a ética relacional centrada na comunidade, a IA consegue dar melhor resposta aos desafios associados com os sistemas acima referidos, garantindo um desenvolvimento tecnológico responsável e sustentável. Os atuais sistemas de IA - nomeadamente, a IA Generativa, são concebidos para priorizar o desempenho imediato, ao invés da capacidade de manutenibilidade a longo prazo e de certos princípios éticos. Este facto acarreta alguns problemas, incluindo a complexidade e a opacidade dos sistemas, uma vez que a natureza interconectada dos grandes modelos de IA dificulta a sua navegação e compreensão, levando a desafios de verificabilidade e de governança. Além disso, estas abordagens de IA reforçam as estruturas de poder existentes, sem considerar preconceitos sociais existentes, na medida em que são desenvolvidas a partir de uma perspetiva racional e individualista [1]. Ademais, o impacto social da IA - incluindo o seu potencial para reforçar os preconceitos de género e raciais -, não é adequadamente abordado nos paradigmas atuais [2]. De forma a prevenir tais limitações, torna-se necessário desenvolver um novo paradigma de mudança, para mudar de uma perspetiva racional para uma perspetiva social [4]. A Epistemologia Feminista desafia o conceito tradicional e individualista de IA, reforçando elementos como a empatia, a sensibilidade e a comunidade. Além disso, pretende fomentar os princípios de responsabilidade e transparência no design e na utilização de ferramentas IA, com particular incidência na forma como os sistemas de IA influenciam - e podem ser influenciados - por valores sociais e estruturas de poder [1, 6]. Outras escolas filosóficas, como o Ubuntu - uma filosofia não-ocidental enraizada nas tradições africanas -, também enfatizam a interconectividade, a comunidade e a ideia de que a “humanidade” de alguém está ligada à “humanidade” dos outros. Tais paradigmas alternativos promovem normas de reciprocidade, altruísmo e simbiose, defendendo uma IA que melhora as relações comunitárias e atente ao contexto social em que opera, de forma a mitigar preconceitos e a promover a justiça social [5]./p>
Simultaneamente, e para abordar as limitações técnicas dos sistemas de IA atuais, é necessária uma mudança para sistemas modulares assentes em princípios estabelecidos de engenharia de software, como a modularidade, a abstração e a separação de preocupações [3]. Tal paradigma modular garante mais flexibilidade e transparência, bem como a integração com o know-how humano. A decomposição de sistemas complexos de IA em componentes menores, geridos de forma mais simples, permite o desenvolvimento, a realização de testes, e a otimização independentes, aumentando a flexibilidade e a transparência. Simplificar interfaces e proteger os dados são processos que levam a sistemas de IA mais robustos, confiáveis e mantíveis [10]. Combinar a IA com a experiência humana e modelos análogos acrescenta robustez e relevância contextual, especialmente em cenários marcados pela incerteza ou por certas considerações éticas. Ao integrar a ética relacional com os princípios de IA modular, podemos desenvolver sistemas de IA que sejam socialmente responsáveis e tecnologicamente robustos. Esta integração inclui a presença de princípios éticos, transparência e responsabilidade no desenho base de sistemas de IA, garantindo que estão alinhados com valores humanos e determinadas necessidades da sociedade [7]. Além disso, uma colaboração interdisciplinar no desenvolvimento e na implementação de sistemas de IA é crucial para abordar interações complexas e relações de dependência características dos atuais sistemas sociotécnico-ecológicos [8]. Ao integrar estas características e propriedades, podemos desenvolver sistemas de IA socialmente responsáveis e tecnologicamente robustos. No entanto, é também importante abordar certos desafios. Garantir a transparência e a responsabilidade requer superar a complexidade dos sistemas de IA, o que pode tornar menos claros os processos de tomada de decisão. Incorporar princípios éticos no design de IA envolve lidar com preconceitos bastante enraizados, e garantir a justiça em diferentes contextos sociais. Alcançar a escalabilidade e a manutenibilidade sem sacrificar o desempenho exige soluções de engenharia inovadoras. Além disso, promover a colaboração interdisciplinar requer preencher lacunas entre diferentes domínios e garantir uma comunicação eficaz. Não obstante tais desafios, esta abordagem integrada promove um futuro mais inclusivo e sustentável em termos de tecnologia, focando-se nos desafios dos sistemas socioecológicos modernos, e garantindo a utilização responsável e ética da IA. A adoção de uma abordagem relacional ética da IA, combinada com um paradigma modular devidamente estruturado e de forte componente de engenharia, levará ao desenvolvimento de sistemas de IA que não são apenas poderosos e eficientes, mas que respeitem os valores humanos e as necessidades da sociedade. Esta abordagem integrada abre caminho para um futuro em que a IA serve como um agende de mudanças positivas rumo a uma maior inclusão.
Referências