A inteligência artificial costuma chegar até nós como uma ferramenta simples e a impressão é de que basta abrir uma conta, escrever uma instrução e começar a usar. Mas a facilidade de acesso esconde uma estrutura muito menos democrática.

Por trás de cada resposta existem empresas que controlam os modelos, servidores que processam os dados, chips fabricados por poucas companhias, contratos com plataformas e decisões tomadas longe de quem usa o sistema. A IA pode parecer distribuída na tela, mas seu poder está concentrado em poucos lugares.

A pergunta, então, não é apenas quem pode usar a inteligência artificial, mas quem define seus limites, seus objetivos e as condições de acesso.

A ferramenta que não é neutra

Quando uma pessoa usa um modelo de linguagem para escrever um e-mail, resumir um documento ou gerar código, ela provavelmente pensa no sistema como uma ferramenta. Essa descrição faz sentido, mas não é completa.

Uma ferramenta tradicional costuma ter uma função relativamente delimitada. Sistemas de IA, por outro lado, classificam, recomendam, priorizam, interpretam, produzem conteúdo e, o mais relevante, participam de decisões.

Isso não significa que a máquina tenha vontade própria. Significa apenas que as escolhas incorporadas ao sistema afetam o resultado. Essas decisões raramente aparecem na interface e, ainda assim, moldam aquilo que a ferramenta consegue fazer.

A inteligência artificial não chega ao mundo como uma entidade neutra.

A concentração começa nos chips

O desenvolvimento de modelos avançados exige uma infraestrutura cara em que são necessários processadores especializados, grandes centros de dados, energia, sistemas de refrigeração, conexão de alta velocidade e equipes capazes de operar tudo isso. A fabricação desses componentes está concentrada nas mãos de poucas empresas.

A Organização para a Cooperação e Desenvolvimento Econômico, a OCDE, aponta que gargalos em chips, computação em nuvem, dados e profissionais especializados criam riscos estruturais para a concorrência no setor de IA. Segundo a organização, a Nvidia respondia por cerca de 90% do mercado de GPUs para data centers em 2023, enquanto os três maiores provedores de nuvem concentravam aproximadamente 74% do mercado global de computação em nuvem.

Esses números não significam que uma única empresa controla toda a inteligência artificial, mas mostram que a cadeia depende de pontos de passagem muito estreitos. Uma startup pode ter uma boa ideia e ainda não conseguir treinar um modelo competitivo porque não possui acesso suficiente a chips, por exemplo.

A concentração começa muito antes do produto final. Está no acesso aos recursos necessários para construir o produto.

A nuvem também tem donos

A palavra “nuvem” ajuda a esconder a materialidade da computação, e faz parecer que os dados estão em algum espaço abstrato, disponível em qualquer lugar. Na prática, ele estão armazenados em edifícios específicos, conectados a redes específicas e submetidos às leis específicas dos países onde essas estruturas estão localizadas.

Amazon Web Services, Microsoft Azure e Google Cloud fornecem grande parte da capacidade de computação utilizada por empresas e governos. Muitas companhias de IA dependem dessas plataformas para treinar e operar seus modelos. Essa dependência cria uma relação delicada. Uma empresa pode desenvolver o modelo, mas não controlar completamente o ambiente em que ele funciona.

O controle da infraestrutura permite influenciar o mercado sem necessariamente controlar diretamente todas as aplicações. Se o acesso à computação ficar mais caro, empresas menores terão dificuldade para competir. Se um provedor oferecer condições privilegiadas a um parceiro, esse acordo poderá afetar toda a cadeia.

A IA pode ser apresentada como uma disputa entre modelos. Muitas vezes, porém, a disputa mais decisiva acontece nos bastidores, entre quem controla a capacidade de processamento.

O ciclo que fortalece os maiores

Os modelos mais utilizados tendem a produzir mais dados sobre como as pessoas interagem com eles. Esses dados podem ajudar a corrigir falhas, melhorar respostas e desenvolver novos produtos. Quanto mais usuários uma plataforma possui, mais oportunidades ela tem de observar padrões de uso. Quanto melhor o sistema fica, mais pessoas passam a utilizá-lo. Quanto maior a base de usuários, mais recursos a empresa consegue atrair.

O ciclo favorece quem já está na frente.

A OCDE descreve esse processo como uma combinação de efeitos de rede, custos de troca, integração vertical e vantagens de primeira entrada. Uma empresa que controla a nuvem, o modelo e a plataforma de distribuição pode oferecer seus próprios serviços com mais facilidade e dificultar a migração para concorrentes.

O usuário, muitas vezes, não percebe o momento em que escolheu uma plataforma porque ela era a melhor. Pode continuar nela porque seus arquivos, hábitos, equipe e processos já estão organizados ao redor dela.

A dependência pode ser construída aos poucos, por conveniência.

Quem define o comportamento do modelo?

Existe outra camada de poder na definição do que um sistema pode ou não pode responder. Empresas decidem quais temas serão bloqueados, quais instruções receberão recusa, que tipos de conteúdo serão considerados perigosos e como o modelo deverá lidar com conflitos. Algumas restrições são necessárias. Sistemas capazes de gerar código, textos persuasivos e instruções detalhadas podem ser usados para fraude, manipulação, invasão digital e outros danos.

O problema surge quando essas decisões são tomadas sem transparência suficiente. Uma plataforma privada pode funcionar como uma espécie de autoridade editorial sobre uma quantidade enorme de interações humanas. Trata-se de definir quais perguntas podem ser respondidas, com que grau de detalhe e de acordo com quais valores.

As empresas costumam dizer que seus sistemas refletem princípios de segurança, mas os princípios podem variar entre países, produtos e contratos comerciais. E quando uma ferramenta se torna parte de escolas, hospitais, repartições públicas e empresas, suas regras deixam de ser apenas uma decisão de produto.

O poder de decidir o que merece atenção

Sistemas de recomendação escolhem o que aparece primeiro pra você. Ferramentas de busca determinam quais informações parecem mais relevantes. Modelos usados em recrutamento, crédito ou atendimento ajudam a priorizar algumas pessoas e deixar outras esperando. Mesmo quando a decisão final continua humana, o campo de opções já pode ter sido filtrado por um sistema. Esse processo é difícil de perceber porque a automação costuma ser apresentada como neutralidade. A decisão parece menos arbitrária quando aparece acompanhada de uma pontuação, uma previsão ou uma classificação produzida por um modelo.

Um sistema transforma critérios em procedimentos difíceis de contestar.

Quem recebe uma resposta de crédito negada por um algoritmo pode não saber qual informação pesou contra si. O poder está em definir o que será percebido como escolha.

A promessa de democratização

É verdade que a IA se tornou mais acessível nos últimos anos. Qualquer pessoa pode usar ferramentas que, poucos anos atrás, exigiriam uma equipe de programação. O acesso a ferramentas de escrita, tradução, programação e análise pode reduzir barreiras importantes.

Mas acesso ao uso não é o mesmo que acesso ao poder. Uma pessoa pode utilizar gratuitamente um modelo sem participar de nenhuma decisão sobre seus dados, seus objetivos ou sua infraestrutura. A democratização da interface não significa democratização da propriedade.

O que significa mandar na IA?

A pergunta do título não aponta apenas para os executivos das grandes empresas. “Mandar” envolve diferentes formas de controle.

Mandam aqueles que decidem quais dados entram no treinamento, aqueles que controlam os chips e a computação. Os que escolhem os padrões de segurança e negociam contratos com governos.

Também mandam, em alguma medida, as instituições capazes de fiscalizar essas empresas.

Por isso, a discussão sobre inteligência artificial não pode ficar restrita à qualidade das respostas. É preciso observar a cadeia inteira, da infraestrutura à concorrência e à regulação. A sociedade não precisa escolher entre aceitar toda inovação sem questionamento ou rejeitar a tecnologia por completo. Existe um outro caminho, embora um pouco mais difícil: permitir e aceitar o uso da IA enquanto se disputa quem terá poder sobre ela.

Isso significa exigir transparência sobre modelos e dados, interoperabilidade entre serviços, proteção de usuários, auditorias independentes e acesso público à infraestrutura essencial. Também significa impedir que empresas usem uma posição dominante em nuvem, sistemas operacionais ou plataformas para controlar mercados adjacentes.

Usar não é controlar

Usar uma ferramenta não significa controlar a ferramenta, e o problema começa quando a sociedade transfere decisões importantes para sistemas que poucos grupos conseguem compreender, modificar ou desligar. A inteligência artificial será apresentada muitas vezes como uma tecnologia individual, algo que cada pessoa instala, consulta e incorpora à rotina. Sua estrutura, porém, é coletiva e concentrada.

O futuro da IA não será decidido apenas por quem sabe escrever bons comandos. Ele será decidido por quem controlar a infraestrutura, os dados, os contratos e as regras de acesso.