A Anthropic acabou de publicar sobre seus avanços na melhoria recursiva de inteligência artificial. Isso significa, em termos práticos, que os modelos de linguagem estão aprendendo a escrever código que treina outros modelos de linguagem com mais eficiência. É o velho sonho cibernético. A máquina que constrói a máquina.
Por muito tempo nós achamos que a inteligência artificial seria apenas uma ferramenta passiva aguardando pacientemente nosso comando no terminal. Mas a realidade é que a automação da própria automação está batendo na nossa porta. E nós não estamos prontos para a velocidade com que isso vai acontecer. Quando um algoritmo consegue refinar sua própria arquitetura durante a noite, o ciclo de lançamento de software humano parece uma piada de mau gosto. Nós passamos semanas discutindo o nome de uma variável em pull requests, enquanto um cluster de GPUs otimiza milhares de parâmetros em segundos.
Talvez estejamos apenas assistindo à nossa própria obsolescência em tempo real, documentando o processo com belos gráficos de performance.
Eu confesso que sinto uma pontada de desespero sempre que penso na escalabilidade desse conceito. Se um modelo cria um modelo levemente superior, e este ciclo se repete infinitamente, em que momento nós perdemos a capacidade de compreender o código gerado? Provavelmente muito antes de percebermos. A opacidade do sistema aumenta a cada iteração. Nós já lidamos com caixas pretas hoje, mas uma caixa preta desenhada por outra caixa preta eleva a abstração a um nível quase inatingível para a cognição humana padrão.
Pausa para reflexão. Respire. A poeira cósmica não vai nos engolir amanhã. Há sempre um limite físico de hardware. Energia custa caro. Resfriamento de data centers custa mais caro ainda.
Entretanto, o conceito de melhoria recursiva muda a dinâmica do jogo. Os engenheiros não estão mais programando a solução para um problema. Eles estão programando o otimizador que vai programar o otimizador. O nosso papel passa de construtores para meros especificadores de restrições. E isso, se você parar para pensar, é aterrador e fascinante ao mesmo tempo.