Por que é preciso educar para a inteligência artificial?

Mestre em inteligência artificial, o jornalista e escritor Alexandre Le Voci Sayad faz um passeio histórico pelo uso da IA na educação e aponta a importância de desenvolver o pensamento crítico dos estudantes, para que também entendam os impactos éticos da tecnologia

A televisão foi, por décadas, uma janela pela qual enxergamos as transformações no mundo. Enquanto os telejornais nos inundavam com aquilo que em breve faria parte da história, o maneirismo das telenovelas registravam a vida privada no Brasil – e essa também se influenciaria por ela. Para os currículos escolares, entretanto, essas caixas quase “mágicas” sempre foram vistas com desconfiança, quando não, repúdio.

Antes do surgimento de atrações que explicitavam seu caráter educativo, como o programa Vila Sésamo, e também de redes de comunicação de interesse público como a PBS (nos Estados Unidos), a BBC (na Inglaterra) e a TV Cultura (no Brasil), a solução sugerida e adotada pelos educadores era defenestrar a TV. Um movimento de apropriação dessa mídia, e sua compreensão como linguagem e cultura, levou anos para acontecer. Até hoje, para alguns herdeiros da Escola de Frankfurt, a produção de cultura de massa é enxergada como alienação dentro do que, na própria tradição da escola, se convencionou a chamar de pensamento crítico.

A reação anacrônica dos currículos escolares à evolução da tecnologia na sociedade é um fato comum. A narrativa da televisão pouco diferiu do rádio, e mais recentemente das mídias digitais e da internet. O desenvolvimento da inteligência artificial, por sua vez, não pode ser dissociado dessa mesma linha evolutiva da técnica humana. Trata-se de um campo da engenharia que procura reproduzir o funcionamento do cérebro humano e suas funções. Nesse caminho, utopia e distopia desorientam e deixam a escola impávida, afinal a formação de educadores se desenvolve lentamente frente ao espírito do contemporâneo, que é fugaz e impermanente.

A mediação do momento, algoritmos e sistemas de inteligência artificial, traz características particulares; é invisível e quase onipresente. Ao contrário de outros modismos ou previsões mercadológicas temporárias, a inteligência artificial deve ser levada a sério por quem pensa em políticas públicas de educação, além de, claro, professores. Ela veio para ficar. Alguns autores a consideram como a principal tecnologia deste século, dado o impacto sistêmico sobre muitas áreas da vida humana.

Por exemplo, não é difícil perceber como os algoritmos de IA agem nos sistemas de empréstimos bancários; como a disseminação de informações falsas interfere em decisões democráticas; como os dados de internautas são utilizados como base da economia digital; como as redes sociais podem restringir ou ofertar diferentes informações a depender de cada usuário; e, por fim, como a “IA generativa” (a que é utilizada no ChatGPT) atinge em cheio algumas fragilidades do educar contemporâneo.

O que o ChatGPT faz, por exemplo, é comparar dados disponíveis e combiná-los, a ponto de construir textos. Quanto mais utilizado, mais apurado fica. Mas ele faz parte de apenas uma das famílias da IA, dentro de milhões de finalidades e aplicações, que vão de carros autônomos a algoritmos de recomendação que sugerem compras, ou conexões, dentro das redes sociais.

Por que precisamos educar para a inteligência artificial? Procurei responder a essa pergunta investigando o pensamento crítico, que é um conceito que há séculos vem se repetindo dentro dos sistemas educacionais, mas referenciado com pouca precisão. A pesquisa de mestrado “Inteligência Artificial e Pensamento Crítico”, realizada na PUC (Pontifícia Universidade Católica – São Paulo) está disponível na íntegra na internet; assim como uma versão em forma de livro, mais simples e compacta, em linguagem coloquial, onde aprofundo as definições da IA e seus impactos éticos.

Os motivos mais óbvios para responder a essa pergunta crucial podem ser reunidos em três grandes grupos:

• Como uma nova mediação, como encaixar a IA dentro dos parâmetros do “pensar o mundo criticamente”? Pensar criticamente significa, em primeiro lugar, compreender a realidade que nos cerca; a inteligência artificial tem um papel fundamental nessa mediação hoje, por mais complexos que sejam os ecossistemas de comunicação de um país, ou uma comunidade.
• Como o uso de dados, a privacidade e a vigilância sobre os cidadãos tornam-se campos sensíveis com o uso intenso da IA. Um algoritmo se alimenta de dados digitalizados para funcionar; as políticas de proteção desses dados, apesar de muito avançadas em alguns países, como no Brasil, ainda se mostram pouco eficientes. Diversas pesquisas da organização não-governamental Human Rights Watch comprovaram que aplicativos educativos (inclusive os utilizados em lousas digitais conectadas à internet) vendiam dados de estudantes para outras empresas, com finalidade comercial. Algoritmos não têm fronteiras internacionais; onde vão parar as imagens de crianças e jovens que utilizam o TikTok diariamente?
• Como as gerações irão assimilar as transformações e impactos da IA no trabalho? A inteligência artificial começou por substituir tarefas repetitivas (tal qual a robótica fez décadas antes), mas como o campo não para de avançar, mesmo trabalhos que exigem cognição mais complexa, como os ligados à área do Direito, têm ocupações eliminadas por algoritmos. A IA pode, por exemplo, registrar e comparar padrões de processos jurídicos e penas aplicadas.
  A pesquisa e o livro mergulham mais profundamente no primeiro grupo acima. Nenhuma tecnologia é neutra e os vieses humanos tendem a ser refletidos em suas criações. Nesse sentido, algoritmos de IA são tendenciosos, podendo até tornar-se explicitamente racistas ou misóginos. Seja porque foram treinados com dados com essas características, desenvolvidos por profissionais que não se preocuparam com a ética no processo ou então se tornaram complexos ao ponto de que se torna impossível saber por que geraram uma resposta inadequada.

Empresas de recursos humanos dos Estados Unidos, por exemplo, foram processadas porque seu algoritmo de coleta de currículos passou a desprezar os de candidatas do sexo feminino. Em “Coded Bias”, documentário disponível na Netflix, uma estudante negra norte-americana procura saber por que seu rosto não é reconhecido pelos sistemas de reconhecimento facial da universidade onde estuda.

O pensamento crítico é algo central nas escolas republicanas de países democráticos – é um conceito que deve abraçar as questões de inteligência artificial como elementos da contemporaneidade, ou então, pode envelhecer olhando para o passado. Segundo a pesquisa, a presença da IA afronta ao pensar criticamente em algumas frentes, tais quais: na leitura da realidade, na coleta e análise de dados, no desenvolvimento do pensamento científico, na construção da democracia e no desenvolvimento da autonomia intelectual.

A IA é uma lente pela qual enxergamos e interagimos com as informações – e assim, tomamos decisões. Mas como ela funciona? Pura matemática; sua natureza é a de um sistema estatístico de probabilidade. Sobre uma base gigantesca de dados, o sistema compara padrões e entrega respostas cada vez mais precisas – inclusive de cenários futuros. Ao contrário da programação de computadores, o algoritmo de inteligência artificial tem um funcionamento recursivo, ou seja, ele se corrige e melhora a própria performance. Em linguagem popular, “aprende”.

Por: Porvir