Letramento para a Inteligência Artificial permite uso consciente das novas tecnologias no cotidiano

POR MARIA JÚLIA LLEDÓ

Leia a edição de MARÇO/25 da Revista E na íntegra

Talvez você passe distraído por ela. Desde as primeiras horas, a Inteligência Artificial (IA) já começa a fazer parte do seu dia. Lá está, nas redes sociais, na televisão smart, nas plataformas de streaming, no mecanismo de reconhecimento facial em residências e empresas, nos aplicativos de compras, no diagnóstico médico cada vez mais preciso. Esse campo da ciência da computação que se concentra na criação de sistemas capazes de executar tarefas repetitivas, resolver problemas e até mesmo tomar decisões (atividades que, até então, eram exclusivamente humanas) se tornou íntimo do nosso cotidiano. Por isso, compreender o que é a IA, como funciona e quais os impactos e limitações dessa tecnologia tornaram-se o grande desafio da contemporaneidade. 

Essa história começa em 1956, num encontro que ficou conhecido como Conferência de Dartmouth, em que um grupo de cientistas no campus da Dartmouth College, em New Hampshire, Estados Unidos, estabeleceu as bases da IA no país e cunhou o termo “Inteligência Artificial”. De lá para cá, a ciência se encarregou de aprimorar esse sistema que funciona por meio da coleta e combinação de um grande volume de dados para identificação de padrões com a finalidade de realizar tarefas de maneira autônoma. Em sua estrutura, a IA engloba aprendizado de máquina (machine learning) e o subcampo deep learning (aprendizado profundo), que se baseia em redes neurais artificiais para analisar dados e aprender com eles, permitindo que os computadores resolvam problemas complexos.  

Feito com IA 
Na prática, desde que começou a usar a Inteligência Artificial, a maior parte da população desconhecia seu modus operandi ou vieses. Primeiro, a IA preditiva, utilizada para prever riscos, causas e resultados – como aquela que sugere o próximo filme ou música que você vai consumir em plataformas de streaming –, provocou significativas mudanças na forma como fazemos escolhas, por exemplo. Com o lançamento do ChatGPT, da empresa OpenAI, em novembro de 2022, foi a vez da IA generativa provocar uma ruptura.  

Acessível ao público, essa plataforma transformou a forma como pesquisamos, como nos informamos e criamos ao digitar comandos (prompts) que geram novos textos, imagens e vídeos a partir de um gigantesco volume de dados existentes na rede. Sua popularização levou o Brasil a ultrapassar a média global de uso da IA generativa em apenas dois anos, segundo pesquisa realizada pelo Google em parceria com a Ipsos, divulgada em 2024.  

“A gente tem que olhar para as IAs generativas, as que geram conteúdo, como o ChatGPT, e para as IAs preditivas, que atuam sobre a seleção e personalização de conteúdos que acessamos, porque ambas têm o poder de direcionar a nossa visão de mundo.  Elas não só afetam nossa capacidade de criar textos e imagens, como atuam em outras esferas do nosso acesso à informação e ao conhecimento”, alerta a educadora e designer Mariana Ochs, coordenadora de educação do Instituto Palavra Aberta, cujo programa EducaMídia visa o desenvolvimento de habilidades para o consumo, a produção e a circulação de conteúdos de forma atenta, segura e responsável.   

Duas faces
Mas por que não podemos confiar em tudo o que a IA nos fornece? Numa sociedade hiperconectada, que ainda enfrenta desigualdades sociais históricas, há lacunas na diversidade de fontes e conteúdos que se tornam dados disponíveis para treinar os dispositivos de IA. Ou seja, é preciso considerar o risco de reproduzir, no ambiente digital, as disparidades existentes no mundo real. “O fato de o Brasil ter sérios problemas de alfabetização, onde o acesso à internet e à tecnologia é muito desigual, se reflete no uso da Inteligência Artificial”, ressalta o professor e pesquisador Lucas Reis, doutor em Big Data. 

Em Racismo algorítmico: Inteligência Artificial e discriminação nas redes digitais (Edições Sesc São Paulo, 2022), o pesquisador Tarcízio Silva reforça a profundidade dos desafios nos ambientes digitais. “Precisamos entender os modos pelos quais o racismo se imbrica nas tecnologias digitais através de processos ‘invisíveis’ nos recursos automatizados e/ou definidos pelas plataformas, tais como recomendação de conteúdo, moderação, reconhecimento facial e processamento de imagens”, escreve.  

Outro exemplo, segundo a educadora Mariana Ochs, se dá quando uma pessoa gera imagens para ilustrar uma publicação ou um material didático por meio de uma IA generativa. “Essa mesma IA cria com base em dados de um banco de imagens que representa determinados valores, ou que cristaliza algumas desigualdades históricas da nossa sociedade, com isso, obtemos imagens preconceituosas que perpetuam racismo, sexismo, classismo, capacitismo”, aponta. 

Por outro lado, a Inteligência Artificial aplicada na medicina traz inúmeros benefícios, como uma maior precisão em diagnósticos e tratamentos personalizados. No campo das artes, ferramentas de IA generativa são utilizadas para criação de obras que problematizam crenças e estereótipos, como o trabalho de Igi Lola Ayedun, que em Há muito que venho sonhando com imagens que nunca vi (2022), da série “Eclosão de um sonho, uma fantasia”, sugere novas possibilidades de mundo dentro de uma estética afrofuturista. Ou o trabalho da artista Giselle Beiguelman, que na exposição Plantas insurgentes, realizada no Sesc São Paulo, no ano passado, apresentou imagens de seres híbridos – uma mistura de vegetais, animais e minerais – criados com recursos de IA. “Usei grandes conjuntos de dados que eliminam as particularidades dos seres e chegam a similaridades genéticas entre eles. A Inteligência Artificial abre vários caminhos possíveis, sem separar natureza e cultura. Ela transcende essa visão”, disse à Revista E de janeiro de 2024. 

Alfabetização midiática 
Na educação, a Inteligência Artificial também pode ser uma ferramenta capaz de auxiliar professores no atendimento personalizado às necessidades de cada estudante. Pode também ajudar na organização de planos de aula e em outras atividades. Entre boas práticas e impactos negativos, a implementação da IA em diferentes campos da sociedade demanda uma resposta mundial e local aos desafios lançados. No final de 2024, a Organização das Nações Unidas para a Educação, a Ciência e a Cultura anunciou, em nota, que a alfabetização midiática informacional é uma resposta imediata eficaz ao atual contexto. A Unesco também lançou no ano passado o Guia para a IA Generativa na educação e na pesquisa (2024), que pretende apoiar os países na implementação de ações imediatas, no planejamento de políticas de longo prazo e no desenvolvimento da capacidade humana para o uso dessas novas tecnologias.  

No Brasil, tramita no Congresso o projeto de lei que regulamenta a Inteligência Artificial, mas já existem normas da educação que falam de letramento e cultura digital, bem como de educação midiática. Nesse caso, a Inteligência Artificial seria, segundo Ochs, “mais uma camada na possibilidade de acessar, analisar conteúdo, construir compreensão e conhecimento, construir uma visão de mundo, criar de maneira ética e responsável e participar de uma forma positiva em prol do bem comum”. Aprovado no ano passado, o Plano Nacional de Educação Digital apresenta uma preocupação com infraestrutura e acesso, e com uma educação para uso qualificado desses ambientes.   

Neste enredo muito mais complexo do que qualquer ficção científica, a Inteligência Artificial ganha, inclusive, materialidade. Grandes empresas como a OpenAI ainda não publicam relatórios ambientais sobre os impactos dessas tecnologias. No entanto, há estudos que apontam o gasto de energia e de água, por exemplo, para manter os centros de processamento treinam as IAs. Em resposta a essa questão, a plataforma ChatGPT diz que “estudos recentes indicam que o ChatGPT consome aproximadamente 500 ml de água para gerar um texto de 100 palavras”. Também pouco se fala sobre a “força de trabalho oculta”, como é denominado o grupo de homens e mulheres de países mais pobres que ganham menos de dois dólares a hora para treinar sistemas de IA. Pessoas que rotulam milhões de dados e imagens para ensinar a IA a agir.  

Imerso nesse volume de informações, o ser humano é convocado a acionar o pensamento crítico para usar qualquer tipo de recurso de Inteligência Artificial. Afinal, por trás de toda tecnologia, há seres humanos que dão o comando. E assim como outras invenções da humanidade, valores como ética e senso comum vão direcionar os próximos passos. Como lembra o pesquisador Lucas Reis: “todas as vezes que surge uma mudança tecnológica, surgem visões utópicas de que essa tecnologia vai resolver tudo, e visões distópicas, de que essa tecnologia vai destruir tudo. Mas a realidade sempre fica no meio do caminho”.