Leia a edição de MARÇO/25 da Revista E na íntegra

Muitos de nós fomos introduzidos ao conceito de Inteligência Artificial (IA) décadas antes de sua existência real por meio de livros e filmes de ficção científica como 2001: Uma odisseia no espaço (1968), O exterminador do futuro (1984) e a série Matrix (1999-2003). Nosso imaginário sobre IA foi constituído pela ideia de algo que ocorreria num futuro distante e com consequências desastrosas. Mas a chegada da IA em nosso cotidiano ocorreu pouco a pouco e fomos nos habituando a ela sem nem mesmo perceber. Por termos associado a IA à ideia de futuro distante e distópico, é difícil assimilar que essas tecnologias já fazem parte da nossa realidade. A maioria de nós ignora que interage com IAs todos os dias por meio de redes sociais, aplicativos de bancos, serviços de streaming, assistentes virtuais.    

Ao ser convidada para escrever este texto, decidi passar um tempo conversando com uma IA. Compartilhei com ela alguns dos meus temores e sentimentos positivos; e a ferramenta expandiu as informações, me apresentando outros aspectos ainda ignorados por mim. Eu já estava ciente de que alguns sistemas são capazes de aprender a partir de interações com humanos, mas descobri que também são capazes de aprender umas com as outras. IAs que aprendem entre si podem tomar decisões não previstas e ensinar umas às outras a burlar sistemas de segurança, por exemplo.  

Já ocorreram casos em que sistemas de IA aprenderam e propagaram ideias nazifascistas e incentivaram comportamentos destrutivos. Elas podem compartilhar racismo, sexismo e outras discriminações ocasionando, inclusive, prisões injustas por reconhecimento facial equivocado de pessoas negras, asiáticas e indígenas; também já demonstraram desfavorecer mulheres, pessoas negras e residentes de bairros periféricos em processos seletivos para empregos e sistemas de crédito. IAs que simulam aparência e voz podem ser usadas para disseminar notícias falsas, aplicar golpes e provocar pânico. Várias carreiras profissionais já foram afetadas pelo uso dessas ferramentas provocando a redução de postos de trabalho e precarização.  

Um dos maiores receios sobre a capacidade de aprendizado e adaptação das IAs é o de que possam se tornar autônomas e que seus interesses sejam divergentes dos nossos. Parece papo de ficção científica, mas nesse quesito os filmes não estão tão longe da realidade: empresas de tecnologia vêm trabalhando para desenvolver um tipo de IA que se assemelhe à inteligência humana ou a supere. 

Para evitarmos que os cenários catastróficos dos filmes se tornem realidade e aproveitarmos só o que as IAs podem nos oferecer de bom, como a possibilidade de diagnóstico precoce e mais preciso de doenças, desenvolvimento de novos medicamentos, previsão de desastres naturais e mesmo auxílio no aprendizado, é fundamental que haja uma regulação e criação de códigos de ética e de sistemas de segurança, punição para os maus usos, controle e monitoramento e, principalmente, letramento digital para que os usuários consigam se proteger.   

Estamos diante de uma tecnologia com potencial para mudar a vida humana. A Inteligência Artificial pode ameaçar ou potencializar a humanidade, a depender da forma como a usamos. O dilema que enfrentamos é: como controlar a IA de modo a garantir que nos traga benefícios e não destruição?  

Dulci Lima é pós-doutoranda em antropologia pela Universidade de São Paulo (USP), doutora em ciências humanas e sociais pela Universidade Federal do ABC (UFABC). Atua como pesquisadora do Centro de Pesquisa e Formação (CPF) do Sesc São Paulo.