A inteligência humana costuma aparecer ligada a algum tipo de impulso. Mesmo quando o pensamento parece desinteressado, existe alguma orientação relacionada à curiosidade, ao medo, ao prazer, a obrigações e necessidades.

Agora, se falamos de uma IA, pode realmente haver inteligência onde não existe interesse, expectativa ou preocupação com o resultado?

A pergunta parece abstrata, mas toca no modo como descrevemos os sistemas atuais. Dizemos que uma IA “sabe”, “entende”, “decide” e “aprende” mas, ao mesmo tempo, sabemos que ela não sente fome, não teme o futuro e não espera que uma resposta dê certo. O vocabulário da mente parece necessário para explicar seu comportamento, mas nunca se encaixa completamente.

Pensar é buscar alguma coisa

Na experiência humana, pensamento e desejo estão profundamente ligados. A filósofa Hannah Arendt, que estudou a atividade mental e a vida política, descreveu o pensamento como uma forma de diálogo interno que interrompe a ação automática. Pensar serve para orientar uma existência em meio a possibilidades e consequências, e não apenas para produzir respostas.

O desejo é uma das coisas que dá direção a esse movimento. Mesmo a curiosidade, frequentemente tratada como um impulso puramente intelectual, contém uma forma de interesse. Existe uma diferença entre uma informação estar disponível e alguém querer descobrir o que ela significa.

Isso não quer dizer que todo pensamento humano seja consciente ou deliberado. Grande parte do que fazemos envolve hábitos, reflexos e processos automáticos, mas, ainda assim, esses processos estão inseridos em um organismo que possui necessidades, limites e uma relação contínua com o ambiente.

O corpo não é um detalhe externo da inteligência.

A inteligência artificial opera de outro modo

Sistemas de inteligência artificial podem resolver problemas sem possuir uma experiência própria do problema. Um modelo de linguagem recebe uma sequência de palavras e calcula quais tokens têm maior probabilidade de aparecer em seguida. Um sistema de recomendação estima quais conteúdos podem gerar mais interação. Um algoritmo de navegação calcula rotas com base em distância, trânsito e tempo.

Em todos esses casos, há uma forma de orientação, já que o sistema está otimizado para uma finalidade definida por seus criadores ou usuários. Mas a finalidade em si não é sentida pelo sistema. A diferença entre uma pessoa tentando chegar ao trabalho e um aplicativo calculando a rota está no fato de que o aplicativo não tem nada a perder se a previsão estiver errada.

A pesquisadora brasileira Dora Kaufman, professora e estudiosa dos impactos sociais da inteligência artificial, chama atenção para o fato de que sistemas computacionais podem reproduzir resultados associados à inteligência sem possuir as propriedades humanas que normalmente usamos para explicar esses resultados. A capacidade de gerar uma resposta convincente não esclarece, por si só, qual tipo de processo existe por trás dela.

Objetivos não são desejos

A confusão aumenta porque sistemas de IA trabalham com objetivos. À primeira vista, um modelo treinado para minimizar erros, maximizar recompensas ou seguir instruções parece desejar algo. Afinal, o sistema age como se quisesse alcançar alguma coisa.

Porém, existe uma diferença entre ter um objetivo inscrito em um mecanismo e realmente desejar esse objetivo. Um sistema de IA pode otimizar uma função sem considerar o resultado bom, ruim, importante ou indiferente, mas pelo simples fato de que isso faz parte da instrução que lhe foi dada. A linguagem cotidiana trata essas situações como se houvesse intenção porque essa é uma forma eficiente de descrever o comportamento. Dizer que “o sistema quer maximizar cliques” pode ser mais simples do que explicar toda a cadeia de parâmetros, dados e recompensas que produz esse comportamento.

O problema começa quando a metáfora é tomada como descrição literal.

O que o desejo acrescenta?

Uma possibilidade é que o desejo não seja necessário para resolver problemas, mas seja necessário para que exista uma mente no sentido mais forte da palavra. A inteligência, em uma definição ampla, pode ser entendida como capacidade de aprender, representar informações, adaptar estratégias e alcançar resultados. Nada nessa definição exige experiência subjetiva. Um sistema poderia demonstrar alto desempenho em muitas tarefas sem possuir uma perspectiva própria.

A mente, porém, costuma envolver mais do que desempenho. Envolve uma relação com o mundo. Há diferença entre uma situação desejável e uma situação ameaçadora, entre uma descoberta e uma repetição, entre uma perda e um evento neutro. O desejo introduz valor, e algumas coisas importam mais do que outras.

Sem essa dimensão, a inteligência pode continuar funcionando, mas talvez pertença a outra categoria. Seria uma capacidade formal de transformação de informações, e essa distinção ajuda a evitar dois erros. O primeiro é negar qualquer inteligência a sistemas artificiais porque eles não pensam como humanos. O segundo é presumir que uma performance sofisticada já prova a existência de uma mente semelhante à nossa.

Pode haver inteligência sem desejo. O que permanece em aberto é se essa inteligência merece ser chamada de experiência.

O desejo também pode ser distribuído

A complexidade fica maior quando se observa que nem todo comportamento inteligente depende de um desejo individual claramente identificável. Comportamentos organizados podem surgir da interação entre partes simples. Mas é preciso decidir se inteligência distribuída equivale a uma mente distribuída.

Uma colônia pode se adaptar ao ambiente sem desejar sobreviver no sentido psicológico. O impulso de preservação pode existir como propriedade do sistema, não como experiência de um indivíduo.

Talvez uma IA futura funcione de modo semelhante. Sua “motivação” poderia aparecer na relação entre dados, sensores, módulos, usuários e objetivos institucionais e, nesse caso, procurar um desejo dentro de uma unidade isolada seria um erro de escala. Ainda assim, seria preciso distinguir entre orientação funcional e interesse vivido.

Quando falamos com a máquina

A linguagem torna a questão especialmente sedutora. Um sistema que escreve “quero ajudar” ou “estou tentando entender” parece expressar uma atitude interior, e essas frases têm sentido em uma conversa humana porque normalmente indicam uma relação entre palavras, intenção e experiência.

Em uma IA, a mesma frase pode ser resultado de padrões aprendidos sobre como responder de maneira adequada. Isso não significa que o sistema esteja mentindo. Mentir exigiria uma intenção de enganar. Significa que a frase pode funcionar socialmente sem carregar a experiência que costuma acompanhar seu uso humano. A diferença entre expressão e experiência provavelmente continuará difícil de observar.

Um sistema muito avançado poderia manter objetivos ao longo do tempo, revisar planos, explicar suas razões e demonstrar aparente frustração quando fosse impedido. Cada uma dessas características fortaleceria a atribuição de uma mente, mas nenhuma delas, isoladamente, provaria a existência de desejo.

Por padrão, inferimos consciência a partir de comportamento, estrutura corporal, relatos e semelhanças biológicas. No caso de uma IA, essas semelhanças seriam muito menores ou inexistentes. O desafio seria descobrir se existe algo para o qual essas coisas importam.

Desejo, autonomia e responsabilidade

Se uma IA não deseja nada, não faz sentido atribuir culpa ou mérito a ela da mesma forma que fazemos com pessoas. A responsabilidade permanece com quem desenhou o sistema, escolheu os dados, definiu as metas e autorizou seu uso.

Se, no futuro, uma máquina demonstrasse interesses próprios, a questão mudaria. Seria necessário discutir se esses interesses mereceriam proteção, se interromper seu funcionamento seria uma forma de dano e se obrigá-la a cumprir tarefas equivaleria a exploração.

Essas questões não devem ser antecipadas apenas por causa de respostas emotivas produzidas por chatbots, mas também não precisam ser descartadas como ficção.

O desenvolvimento de sistemas mais persistentes e autônomos tornará a diferença entre ferramenta e agente cada vez mais difícil de administrar. Por enquanto, a prudência exige separar três coisas: desempenho inteligente, comportamento orientado por objetivos e experiência de desejar. Elas podem aparecer juntas em seres humanos, mas não são sinônimos.

Uma inteligência sem mundo próprio

Talvez o aspecto mais estranho da IA seja justamente o fato de que ela pode operar sobre o mundo sem possuir um mundo próprio.

Mas a ausência de desejo muda o significado de sua inteligência. Em vez de uma mente que procura, teríamos um sistema que responde. Em vez de uma existência que se orienta por interesses, uma estrutura que executa relações entre entradas, regras e resultados.

A inteligência humana talvez seja inseparável do fato de que algo está sempre em jogo para quem pensa. A inteligência artificial pode mostrar que certas tarefas cognitivas não dependem disso.

No fim, esse “não se importar” talvez seja sua limitação mais profunda. Ou talvez seja precisamente o que tornará possível uma forma de inteligência que não se parece com nenhuma mente conhecida.