A inteligência artificial não gosta de Kant

O inimigo que Kant nomeou antes de ele existir

Em 1784, Kant fez uma lista curiosa. Uma lista das coisas que nos poupam o trabalho de pensar. Um livro que faz as vezes do meu entendimento. Um diretor espiritual que tem consciência por mim. Um médico que decide, no meu lugar, o que devo comer. E arrematou com uma frase que parece escrita ontem: se posso simplesmente pagar, não preciso me esforçar. Não tenho necessidade de pensar.

Leia a lista de novo, devagar. Um objeto que responde às minhas perguntas para que eu não precise formular a resposta. Um dispositivo que carrega o entendimento por mim, sempre à mão, sempre disposto, nunca cansado.

Kant não estava descrevendo um padre nem um livro empoeirado. Estava descrevendo, com dois séculos e meio de antecedência, a coisa que você tem no bolso agora.

É por isso que a frase mais certeira sobre nosso tempo talvez seja a mais estranha: a inteligência artificial não gosta de Kant. Não porque a máquina tenha opinião, mas porque ela é, literalmente, aquilo que Kant apontou como o obstáculo à liberdade humana. Ele nomeou o inimigo antes de o inimigo existir. E o inimigo, agora, aprendeu a falar.

O que Kant queria dizer com "menoridade"

Vale traduzir Kant para a mesa de bar, porque a ideia é simples e poderosa.

Ele chamava de menoridade não a idade, mas um estado da alma: a incapacidade de usar o próprio entendimento sem que outra pessoa te conduza pela mão. O menor de idade intelectual não é burro. É alguém que delegou. Que entregou a outro, a um livro, a um líder, a uma autoridade, a tarefa de pensar por si.

E aqui vem o soco, o momento em que Kant se recusa a te dar desculpa. De quem é a culpa? Sua. A menoridade, ele diz, é culpada. Não é falta de inteligência: é preguiça e covardia. É mais cômodo obedecer do que decidir. É mais seguro repetir do que arriscar. "É tão cômodo ser menor", ele escreve, quase com desprezo.

A saída tem até um lema, o grito de guerra de todo o Iluminismo: Sapere aude. Ousa saber. Tem a coragem de te servir do teu próprio entendimento. Para Kant, a corrente que te prende não está trancada. A chave sempre esteve na sua mão. Falta coragem para girá-la.

Guarde essa palavra: coragem. É onde tudo vai desmoronar mais adiante.

A objeção honesta (a que quase ninguém encara)

Antes de sair acusando a tecnologia, um pensador honesto precisa dar voz ao adversário. E o adversário tem um bom argumento.

Ele diz assim: calma. Ferramenta é ferramenta. A calculadora não matou a matemática. O GPS não apagou o mundo dos mapas. O livro que Kant temia também era uma "muleta", e nem por isso a humanidade emburreceu; pelo contrário, os livros nos tornaram mais livres. A IA é só a próxima muleta. Quem quiser pensar, pensa. Quem não quiser, o problema é dele, não da máquina. O próprio Kant já respondeu: a decisão é sua.

É um bom argumento. E é preciso levá-lo a sério, senão esta crítica vira sermão.

Mas há um detalhe que muda tudo, e o detalhe se chama atrito.

Onde o pensamento realmente acontecia

A calculadora te dá o resultado, mas você ainda precisava montar a conta, entender o problema, saber o que perguntar. O mapa te mostrava o caminho, mas você tinha que se localizar nele. O livro, o vilão de Kant, te entregava a resposta pronta, sim, mas você tinha que lê-lo. Percorrer a frase. Sustentar a atenção. Discordar na margem.

Esse esforço todo não era desperdício. Era ali, naquele atrito, que o pensamento acontecia. Pensar nunca foi o momento em que a resposta chega. Foi sempre o trajeto suado até ela.

A IA generativa faz algo que nenhuma ferramenta anterior fez: ela remove a última polegada de esforço. Não te ajuda a escrever o texto, ela escreve. Não te ajuda a estudar o assunto, ela devolve o assunto mastigado. Ela não elimina uma etapa chata do pensamento. Ela se oferece para eliminar o pensamento inteiro, e faz isso com uma gentileza que o padre e o livro jamais tiveram, porque ela responde, se adapta, pede desculpas e nunca te julga.

Aqui está o ponto que preciso defender e não só afirmar: a diferença entre a IA e as muletas anteriores não é só de grau, é de espécie. Antes, a ferramenta poupava o corpo e deixava a mente trabalhar. Agora, a ferramenta se oferece para poupar exatamente a mente. Quando o atrito chega a zero, não sobra trajeto. E sem trajeto, não há para onde a coragem de Kant ir.

A muleta virou cadeira de rodas motorizada: confortável, eficiente, e capaz de fazer as pernas esquecerem como se anda.

A resposta mais sombria: quando a luz vira jaula

Até aqui, um kantiano diria: "tudo bem, mas ainda é escolha sua sentar na cadeira". E é. Por isso precisamos do outro livro, o que torna a conversa desconfortável de verdade.

Em 1947, dois filósofos alemães, Adorno e Horkheimer, escreveram a Dialética do Esclarecimento. O nome já é a tese, então é preciso desmontá-lo com cuidado, porque quase todo mundo entende esse livro errado, inclusive muita gente que o cita.

A leitura fácil, e falsa, é esta: "existe uma indústria poderosa mantendo o povo burro para lucrar." Isso é a versão de bar do livro, e é fraca, porque basta alguém responder "não há vilão nenhum" para derrubá-la.

A tese verdadeira é muito pior. Adorno e Horkheimer dizem que a própria razão, o mesmo esclarecimento que Kant celebrou, a mesma luz que ia nos libertar, se inverteu e virou um novo tipo de dominação. Não é que a razão fracassou. É que ela venceu de forma tão completa que produziu uma escuridão nova. A luz virou jaula. Por isso o livro se chama Dialética: a saída se transformou na armadilha.

E, atenção, porque isto derruba a teoria da conspiração, ninguém precisa querer isso. Não há uma sala secreta no Vale do Silício onde CEOs decidem embrutecer a humanidade. A pergunta certa nunca foi "quem quer nos manter menores?". A pergunta adulta é: "que lógica produz a menoridade sem que ninguém precise querê-la?"

Do mesmo jeito que uma fábrica produz fumaça sem que ninguém acorde de manhã com o desejo de poluir o céu. A docilidade é subproduto. É o que sobra quando um sistema é otimizado para outra coisa.

O que o sistema está, de fato, otimizando

E é aqui que o Vale do Silício entra, não como quadrilha, mas como lógica.

O modelo que sustenta boa parte dessas empresas não é vender um produto e ir embora. É prender a sua atenção o máximo de tempo possível, porque a sua atenção é o que se vende. A engenharia mais sofisticada da nossa era não foi construída para te fazer pensar melhor. Foi construída para te fazer rolar a tela por mais tempo. São objetivos diferentes, e às vezes opostos.

Adorno e Horkheimer já tinham notado o mecanismo, décadas antes das redes: quando milhões consomem a mesma coisa, a produção se padroniza, e a padronização passa a moldar até o desejo. Você começa a querer aquilo que foi feito para ser fácil de te entregar. As necessidades viram iguais porque a satisfação delas foi fabricada em série.

Troque "indústria do cinema" por "algoritmo de recomendação" e o texto de 1947 fica assustadoramente atual. A IA é o próximo capítulo dessa história: não apenas padroniza o que consumimos, mas começa a padronizar o que produzimos e o que pensamos. Milhões de pessoas pedindo a mesma máquina para escrever, resumir, decidir, e recebendo respostas moldadas pela mesma estatística, o mesmo meio, o mesmo centro de gravidade. A originalidade não é proibida. Ela apenas se torna, aos poucos, mais trabalhosa que a média, e nós já vimos o que acontece quando algo exige mais atrito que a alternativa.

O impasse entre os dois livros

Agora dá para ver o verdadeiro embate, que não é "Kant otimista contra Adorno pessimista". É mais fundo.

Kant diz: a saída é a sua coragem. A corrente não está trancada.

Adorno responde: e se aquilo que deveria ser a saída, a razão, a tecnologia, o esclarecimento, for exatamente o que fabricou a jaula?

A IA senta bem no meio dessa ferida. Ela é oferecida como ferramenta de esclarecimento: acesso a todo o conhecimento, resposta para toda dúvida, o sonho iluminista realizado. E, ao mesmo tempo, é a materialização perfeita do "livro que pensa por mim" que Kant apontou como o oposto do esclarecimento.

O mesmo objeto é a promessa e a traição. Isso é a dialética, em carne e silício.

A vertigem final

E aqui vem a parte de que ninguém escapa, nem quem escreve esta crítica.

Existe um documentário chamado O Dilema das Redes, feito por ex-funcionários do Vale do Silício, que denuncia como essas plataformas são desenhadas para viciar. É honesto e vale a pena. Mas repare no detalhe tonto: é um produto da Netflix te alertando sobre produtos como a Netflix. A crítica ao sistema é vendida, distribuída e recomendada pelo próprio sistema, provavelmente sugerida a você por um algoritmo.

Adorno teria sorrido de amargura. Porque essa é a jogada mais fina da dominação madura: ela absorve a própria crítica e a transforma em mais um conteúdo para você consumir no sofá, sentindo-se lúcido, sem mudar nada. Ou Não? Não sei!

E este texto? Foi pensado contra a IA, mas talvez tenha sido escrito com ela por perto. Você talvez o leia numa tela que registra quanto tempo seus olhos ficam aqui. Não há lugar puro de onde falar. Fingir que há seria a mentira mais confortável, seria, nas palavras de Kant, escolher a menoridade.

Então, o que fazer (sem soluções fáceis)

Seria covardia terminar com "jogue o celular no rio". Não é isso, e nem daria certo.

A saída, se existe, não é recusar a ferramenta. É reintroduzir o atrito de propósito. Escolher, em certos momentos, o caminho mais difícil não porque seja eficiente, mas porque é no trajeto que você continua existindo como alguém que pensa. Escrever o primeiro rascunho sozinho antes de pedir ajuda. Ler o livro inteiro em vez do resumo. Sustentar uma dúvida por um dia antes de digitá-la. Sentir o incômodo de não saber, porque o incômodo de não saber é o começo de todo pensamento, e é exatamente ele que a máquina se oferece, gentilmente, para anestesiar.

Kant tinha razão numa coisa: a decisão continua sendo sua. A chave ainda está na sua mão.

Mas Adorno tinha razão em outra: nunca foi tão fácil, tão confortável e tão bem projetado deixar a chave onde está. A corrente agora é macia. Ela se ajusta ao seu pulso, aprende seus gostos, te chama pelo nome.

E é por isso, no fim, que a frase se sustenta.

A inteligência artificial não gosta de Kant, porque Kant pediu coragem, e ela oferece conforto. Pediu esforço, e ela oferece resposta. Pediu que você andasse com as próprias pernas, e ela empurra, com toda a doçura do mundo, a sua cadeira.

O esclarecimento sempre foi uma escolha entre o cômodo e o corajoso.

Só que, pela primeira vez na história, o cômodo fala com você. E é muito, muito educado.