Quem educa as máquinas? | © Freepik

Depois de tanto tempo, eu não poderia voltar a escrever esta coluna sem falar do meu assunto favorito nos últimos seis anos: educação. Aha, enganei vocês, né?

Talvez nem tanto. Quanto mais penso no futuro do livro e nas transformações trazidas pela inteligência artificial, mais volto ao mesmo assunto: quem ensina, quem aprende e quem se responsabiliza pelo que acontece no meio do caminho.

Aqui estamos nós, com medo das “máquinas”, de novo. Parece que isso virou uma constante da nossa existência. A cada novidade, boa parte do debate se concentra no que pode dar errado. E, vamos combinar, muita coisa pode dar errado: um desenho, uma receita de bolo, uma publicação, um futuro milimetricamente planejado. A possibilidade de perder o controle acompanha até as nossas melhores intenções.

Não, isso não é apenas uma daquelas divagações filosóficas da meia-noite que costumo registrar, de forma bastante analógica, nos meus cadernos. É uma inquietação que atravessa tanto a educação quanto a indústria do livro: como agir quando não temos todas as respostas?

Lembram de quando o livro digital começou a ganhar espaço e eu passei a escrever esta coluna? Houve quem me achasse apocalíptica; houve quem me achasse avoadinha. Pois reparem onde chegamos: a um caminho do meio. O digital passou a fazer parte da vida — ops, da indústria do livro - e nosso amado suporte de papel continua aqui. A convivência se mostrou mais complexa e mais interessante do que a previsão de que um formato simplesmente eliminaria o outro.

Essa experiência não oferece uma receita pronta para lidar com a inteligência artificial. Mas deveria nos ensinar alguma coisa sobre a pressa de anunciar o fim de tudo.

Na educação, vejo outra corrida: a busca por escala. Sistemas de ensino, plataformas e edtechs tentam alcançar cada vez mais alunos. A ambição é legítima. A questão é o que acontece quando confundimos ampliar o acesso a uma ferramenta com garantir que alguém aprenda.

Educação é chão de escola. É professor, educador, pedagogo. É vínculo, contexto, olho no olho. É perceber que alguém ficou para trás, mudar a explicação, escutar uma pergunta que não estava no roteiro. Como colocar tudo isso na conta da escalabilidade?

A tecnologia precisa estar na escola. Ela já faz parte do mundo que essas crianças habitam e ajudará a moldar o mundo em que trabalharão. Aprender a usá-la conscientemente exige espaço para experimentar, questionar e compreender seus limites. E exige humanos. Muitos.

É com esse olhar que tenho acompanhado a inteligência artificial. Hoje, escuto mais do que falo. O que vejo vem desafiando meu otimismo de futuro (esse que insisto em manter) e me fazendo pensar nas condições necessárias para sustentá-lo.

As IAs são desenvolvidas, treinadas e avaliadas por pessoas. Há escolhas humanas no que aprendem, nos limites que recebem e nos contextos em que são colocadas para funcionar. Quando passam a integrar o trabalho de uma escola ou de uma editora, essas escolhas ganham consequências concretas: quem confere uma informação? Quem avalia se uma resposta faz sentido? Quem responde por um erro?

Tenho vontade de dizer que estamos “educando” uma tecnologia ainda em formação. Mas a metáfora tem limite: uma IA não é uma criança. É um sistema, e cabe a nós decidir que tarefas delegar a ele, sob quais condições e com que supervisão.

Quanto mais espaço damos a esses sistemas, mais precisamos levar a sério o trabalho de acompanhar, avaliar e corrigir seu uso. A facilidade de obter uma resposta não nos dispensa de perguntar se ela está certa, se é adequada ou se deveria orientar uma decisão.

É aqui que livro, educação e inteligência artificial se encontram: na nossa relação com o conhecimento. Na forma como ele é produzido, organizado, compartilhado e colocado em dúvida. E, sobretudo, na formação de pessoas capazes de fazer essas perguntas.

O editor que avalia o que publica, o professor que acompanha a aprendizagem e o desenvolvedor que testa os limites de um sistema exercem responsabilidades diferentes. Todos, porém, precisam de condições para fazer seu trabalho com critério. A presença humana, sozinha, não é garantia de nada: é preciso tempo, preparo e autonomia para discordar, corrigir e até interromper um processo.

Por isso, quando algo der errado, dizer que “foi a inteligência artificial” será uma explicação insuficiente. Precisaremos olhar também para quem a desenvolveu, quem decidiu adotá-la, quais alertas foram ignorados e que responsabilidade cada um tinha naquele contexto.

Estamos em um tempo que pede escuta e autoconhecimento. Pede também disposição para assumir os fracassos com a mesma energia com que anunciamos as inovações.

Continuo otimista. Mas meu otimismo depende da nossa disposição para fazer esse trabalho. Na escola, nas editoras e no desenvolvimento de tecnologia, teremos de aprender a escolher o que delegar e a responder por essas escolhas.

Voltei para falar de educação. E é nela que continuo encontrando a pergunta mais importante desta conversa: como formar pessoas capazes de assumir essa responsabilidade?