Quando a IA começa a aprender consigo própria

E se o problema não for a máquina errar mais… mas, curiosamente, errar menos e ainda assim perceber pior o mundo? Parece contraintuitivo, eu sei. Mas é por aí.

Tenho visto esta discussão ganhar força, sobretudo agora que tudo, ou quase tudo, passa por modelos generativos. Texto, imagem, respostas automáticas, tudo muito eficiente, muito limpo. Demasiado limpo, talvez. E há um ponto que começa a incomodar: quando estas máquinas começam a alimentar-se umas das outras, algo subtil degrada-se. Não é um colapso imediato. É mais… um desgaste silencioso.

O problema não é só técnico. Aliás, nem é o mais interessante. É a lógica disto tudo. Uma espécie de circuito fechado. A IA produz, outra IA consome, depois devolve uma versão ligeiramente mais pobre, e assim sucessivamente. No início quase não se nota. Depois, de repente, tudo começa a soar igual. As mesmas estruturas, as mesmas ideias seguras, aquela sensação de déjà vu constante.

E perde-se qualquer coisa difícil de medir, mas fácil de sentir: a nuance, a fricção, o detalhe estranho que só aparece quando há experiência humana ali no meio. Em vez de abrir o mundo, fecha-o. Ou pior, simula que o está a abrir.

Agora, se isto já é inquietante num plano técnico, no plano institucional… é ainda mais delicado. Porque aqui não estamos a falar só de eficiência. Estamos a falar de discurso, de decisão, de influência. Se começamos a depender demasiado deste conteúdo sintético, corremos o risco de entrar numa bolha elegante, coerente… e vazia. Tudo parece fazer sentido, mas nada é realmente questionado.

E isso, francamente, é perigoso. Não de forma dramática, tipo ficção científica. É mais insidioso. Vai achatando o pensamento.

Há uma ideia que me parece óbvia, mas que nem sempre é levada a sério: a IA só vale o que valem as suas fontes. E se essas fontes deixam de ser humanas, verificáveis, diversas… então estamos só a amplificar ecos. Bonitos, organizados, convincentes. Mas ecos.

No fundo, a questão não é se a IA substitui ou não a produção humana. Isso é quase secundário. A questão que realmente me fica é outra, mais desconfortável: se a deixarmos aprender apenas consigo própria… ainda estamos a falar de representação da realidade, ou apenas de uma versão cada vez mais distante dela?