Pode causar estranheza o título deste livro. Um atlas é comumente uma coleção de mapas organizados. E foi exatamente isso que a pesquisadora e ensaísta Kate Crawford realizou. Temos aqui uma cartografia dos componentes visíveis e invisíveis do que tem sido nomeado inteligência artificial. Mais do que a apresentação dos componentes e das rotas da cadeia de desenvolvimento e uso da IA, ela nos conduz em uma viagem impressionante pelos locais e pontos obscuros de uma realidade que aparenta ser inofensiva, altamente positiva, anunciada como um salto tecnológico para beneficiar toda a humanidade. Kate Crawford consegue alinhar um conhecimento sociotécnico rigoroso com uma escrita suave e envolvente para nos apresentar um cenário terrivelmente preocupante. A pesquisadora reuniu itinerários que nos dão a noção definitiva da materialidade da IA.

O livro nos apresenta a devastação deixada pelas minas de extração de lítio na América do Norte e segue até a Mongólia Interior, onde um gigantesco lago artificial de lama preta tóxica é o subproduto da mineração de terras raras, indispensáveis à cadeia de produção de hardwares vitais para máquinas de alto processamento computacional. Crawford alerta que “para entender os negócios da IA, precisamos considerar a guerra, a fome e a morte que a mineração traz a tiracolo”. Entre diversos pensadores e pesquisadores que Crawford utiliza para nos conduzir nessa navegação, Lewis Mumford se destaca por ter escrito a existência de tecnologias autoritárias e complexas que acabam compondo uma megamáquina. Mumford se referia ao Projeto Manhattan, origem da bomba nuclear. Assim, Crawford propõe envergarmos a IA como “outro tipo de megamáquina, um conjunto de abordagens tecnológicas que depende de infraestruturas industriais, cadeias de suprimentos e trabalho humano e que, mesmo que se estenda ao redor do globo, se mantém obscuro”.

O que vai se tornando evidente é que a IA opera mais do que algoritmos de álgebra linear e modelos probabilísticos; ela combina infraestrutura, capital e trabalho. Crawford nos leva às imensas instalações da Amazon e da Foxconn para mostrar que deveríamos nos preocupar não com a mera substituição de humanos por robôs, mas com o neotaylorismo, incrementado pelo aprendizado de máquina e pelas redes neurais, que altera profundamente o trabalho e seus ambientes, subordinando-os à vigilância, à avaliação algorítmica e à modulação do tempo. Para além da precarização do trabalho e das métricas ameaçadoras de controle dos sistemas de IA, Crawford descortina o cenário em que a computação de larga escala está profundamente enraizada na exploração de corpos humanos, dos quais se alimenta”.

Estamos vivendo uma nova fronteira da acumulação capitalista. Os dados são ativos de alto valor econômico e o insumo fundamental da IA. Crawford nos apresenta as colossais estruturas de armazenamento e processamento de dados extraídos de todas as partes do mundo e concentrados nas Big Techs. Sem dados não é possível extrair os padrões e realizar as classificações dos modelos de IA. Nos anos 1980, Robert Mercer, que posteriormente se tornou um dos sócios da Cambridge Analytica, afirmou: “nenhum dado é melhor que ter mais dados”. A nova corrida pelo ouro está na produção e captura incessante e quase ubíqua de dados de todas as atividades humanas e maquínicas. Um dos resultados é o gasto colossal de energia, acompanhado do elevado consumo de água para o funcionamento e a refrigeração dos armazéns de dados, muitos dos quais possuem mais de cem mil computadores em uma única instalação. O impacto ambiental dos data centers e da IA baseada em dados parece ser insustentável. A Agência Internacional de Energia estimou que em 2022 o consumo dos data centers, da IA e das criptomoedas havia atingido 2% da demanda global de energia elétrica.
Somente a demanda dos data centers na Irlanda, em 2022, foi de 17% do total de eletricidade consumida nesse país.

Este livro é indispensável, também, porque abre as janelas do treinamento dos modelos de IA com seu viés racializado, com a redução dos humanos a categorias binárias de gênero e com o empobrecimento da diversidade cultural e a eliminação ou invisibilização dos desviantes da padronização. Enfim, a cartografia trazida por Kate Crawford nos permite ver que a “IA não é nem inteligente nem artificial. Em vez disso, ela é corpórea e material, feita com recursos naturais, combustíveis, trabalho, infraestruturas, logística, histórias e classificações humanas”.

Sergio Amadeu da Silveira
Sociólogo e professor da Universidade Federal do ABC

Texto publicado originalmente na orelha do livro.

Veja também:

:: trecho do livro

—

Produtos relacionados

ATLAS DA I.A.:
poder, política e os custos planetários da inteligência artificial

AS VINTE MIL LÉGUAS DE CHARLES DARWIN:
o caminho até a origem das espécies