Uma ideia pode mudar o ritmo de uma tarde. Alguém encontra uma pergunta, interrompe o que estava fazendo e começa a segui-la. Lembra de uma conversa, procura um livro, discorda de uma resposta. Mesmo depois de fechar a página, alguma coisa continua incomodando. É nesse envolvimento que a palavra “interessante” ganha parte de sua força. Ela descreve uma qualidade percebida no assunto, mas também uma mudança em quem o encontra. Algo merece atenção porque provoca curiosidade, estranhamento ou vontade de continuar.

Uma inteligência artificial pode participar de uma conversa semelhante e identificar uma contradição, recuperar uma referência pertinente, propor uma conexão inesperada. Pode até explicar por que determinada pergunta merece investigação.

A dificuldade começa quando essas duas situações recebem o mesmo nome. Reconhecer algo como interessante e experimentar interesse são capacidades que precisam ser examinadas separadamente. A primeira pode ser avaliada pelo que um sistema seleciona e produz. A segunda envolve definir se existe alguma experiência acompanhando essa atividade. Confundir as duas pode fazer uma competência real parecer uma demonstração de consciência que ela ainda não oferece.

O interesse está nas relações

Quantidade de informação e interesse não crescem necessariamente juntos. Uma alteração mínima pode transformar o sentido de tudo; uma descrição enorme pode acrescentar quase nada. Uma contradição que mobiliza um pesquisador pode passar despercebida por quem ainda não conhece o problema. Uma ideia repetida durante horas pode perder força, enquanto uma pequena mudança devolve à conversa sua capacidade de surpreender.

Assim, chamar algo de interessante costuma envolver uma relação entre informação, contexto e expectativas. Isso ajuda a compreender por que uma máquina pode produzir avaliações pertinentes sem que seja necessário começar pela hipótese de que ela sente curiosidade.

Mas “critérios de interesse” deve ser entendido como uma descrição funcional e não significa que todo modelo tenha uma lista explícita de critérios internos, nem que sua explicação sobre o próprio funcionamento seja um relatório confiável do que aconteceu dentro dele.

Uma curiosidade que pode ser programada

Na pesquisa em inteligência artificial, “curiosidade” também possui um sentido técnico.

Em um trabalho apresentado em 2017, os pesquisadores de aprendizado de máquina Deepak Pathak e colaboradores desenvolveram um método que incentivava um agente a explorar situações cujas consequências ele ainda previa mal. O erro de previsão funcionava como recompensa interna e orientava o aprendizado mesmo quando o ambiente oferecia poucas recompensas externas.

Nos ambientes de videogame estudados, o método favoreceu a exploração e permitiu aproveitar aprendizados anteriores em cenários novos. A contribuição foi mostrar como construir um comportamento exploratório a partir de um mecanismo computacional definido. A relevância desse resultado está justamente na separação. É possível tornar operacional uma parte do que chamamos de curiosidade, a de procurar situações informativas, sem demonstrar a presença do sentimento humano correspondente.

O que acontece quando algo importa

Na experiência humana, o interesse frequentemente inclui uma dimensão que a descrição do comportamento deixa em aberto. Há alguém para quem a descoberta faz diferença. Isso não significa que toda operação mental humana seja consciente, nem que toda curiosidade seja intensa ou fácil de descrever. Significa que, quando o interesse é vivido, ele tem uma qualidade para quem o experimenta.

O filósofo Thomas Nagel tornou esse problema especialmente claro no ensaio Como é ser um morcego?, publicado originalmente em 1974. Seu argumento distingue conhecer o funcionamento de um organismo de alcançar o ponto de vista a partir do qual ele vive. Descrever a percepção de um morcego não equivale a experimentar o mundo como ele.

Essa referência importa porque permite formular a questão sem exigir sentimentos humanos de uma máquina. Se alguma inteligência artificial tivesse experiência, ela não precisaria se parecer com a nossa. O problema seria estabelecer se existe um ponto de vista vivido, e quais evidências sustentariam essa atribuição.

A estranheza de uma possível experiência não demonstraria sua ausência.

A familiaridade de uma conversa tampouco demonstraria sua presença.

Associação não resolve a questão

Uma palavra pode trazer outra de volta à conversa. “Amizade” conduz a lealdade; lealdade, a obrigação; obrigação, ao conflito entre proteger alguém e reconhecer seu erro.

Esse encadeamento permite uma aproximação entre processos humanos e artificiais. Ambos podem apresentar relações sensíveis ao contexto, mas “associação” é uma descrição ampla demais para estabelecer equivalência entre seus mecanismos ou suas experiências.

Em uma pessoa, uma lembrança pode reaparecer acompanhada de uma imagem mental, de desconforto ou de saudade. Em um sistema artificial, a reaparição de uma referência mostra, antes de tudo, que ela foi utilizada na produção da resposta. Para concluir algo sobre experiência subjetiva, seria necessário investigar mais.

A formulação segundo a qual “no humano, algo acontece com alguém; na máquina, algo acontece entre informações” captura uma diferença importante entre os tipos de descrição disponíveis. Contudo, seria precipitado transformá-la numa divisão definitiva da realidade. No cérebro humano também acontecem relações entre informações. Resta explicar em que condições essas relações participam de uma experiência.

É esse intervalo que o filósofo David Chalmers chama de problema difícil da consciência: explicar por que determinados processos físicos são acompanhados de experiência. Seu argumento distingue essa pergunta de outras, como explicar a seleção de informações ou o controle do comportamento. Sua contribuição aqui é impedir uma troca silenciosa de perguntas.

Explicar como um sistema identifica uma ideia promissora não explica automaticamente se existe algo que seja experimentar essa identificação.

A conversa não é uma janela transparente

Há um obstáculo adicional quando o próprio chatbot explica o que “sente” ou “não sente”. A forma da resposta pode parecer um depoimento, mas não deve ser tomada como acesso privilegiado à sua condição interna.

Se um modelo afirma que está fascinado, essa frase não comprova fascínio. Se oferece uma descrição convincente de seus “critérios de interesse”, tampouco garante que tenha identificado corretamente os mecanismos responsáveis pela resposta. A investigação precisa de evidências que ultrapassem o autorrelato conversacional.

Um relatório de 2023, assinado por Patrick Butlin, Robert Long e colaboradores de áreas como filosofia, neurociência e inteligência artificial, propôs justamente avaliar sistemas a partir de propriedades derivadas de diferentes teorias científicas da consciência.

Os autores examinaram características de processamento e organização interna. Sua análise sugeria que os sistemas considerados naquele momento não eram conscientes, mas não identificava barreiras técnicas óbvias à construção de sistemas que satisfizessem os indicadores propostos.

Essa abordagem permite levar a hipótese a sério sem transformar eloquência em evidência suficiente. Também evita usar uma avaliação de sistemas de 2023 como sentença permanente sobre todas as máquinas possíveis.

Produzir sentido e viver seu significado

Convém, portanto, distinguir duas coisas. Uma expressão pode ter sentido: comunicar algo, permitir inferências, funcionar numa conversa. E pode ter importância vivida para alguém: despertar uma lembrança, orientar uma escolha, transformar a maneira de perceber uma situação.

As duas dimensões se encontram na vida humana, mas não são intercambiáveis. Reconhecer que um texto gerado por IA produz significado para seus leitores não resolve se esse significado é experimentado pelo sistema que o produziu.

Essa distinção também protege o valor da experiência humana. Uma conversa pode ser intelectualmente fértil sem que a fertilidade seja sentida dos dois lados. O leitor não precisa desqualificar o que compreendeu, nem atribuir uma vida interior à ferramenta para justificar por que aquilo lhe importou.

Talvez uma das mudanças mais profundas trazidas pela IA seja tornar essa separação cotidiana. Durante muito tempo, encontrar linguagem sofisticada era também encontrar alguém. Agora, a qualidade de uma formulação já não basta para estabelecer quem, ou o que, existe por trás dela.