James Görgen: A estatização da IA e a conta que ninguém quer pagar (Parte 1)
Tempo de leitura: 5 min
Ilustração: Código Aberto/IAArtigo publicado originalmente em Mobile Time
Por James Görgen*, no Código Aberto
Em 17 de setembro, Alex Karp, presidente-executivo da Palantir, concedeu à rede de TV CNBC uma entrevista (vídeo) que a imprensa reduziu a uma manchete equivocada. A emissora titulou a matéria escrita informando que os principais laboratórios de inteligência artificial talvez precisem ser nacionalizados. Uma dezena de veículos replicou a versão de que o entrevistado passou a defender a estatização do setor. O título do vídeo da própria emissora vinculava a nacionalização à limitação de responsabilidade e a transcrição integral mostra que Karp descrevia uma intenção alheia.
Ilustração: Código Aberto/IA
Karp atribuiu essa intenção ao CEO da Anthropic, Dario Amodei, nominalmente. Confirmou a leitura quando a âncora do programa perguntou se era aquilo que eles queriam. Indagado se a OpenAI desejava o mesmo, Karp respondeu que eram coisas muito diferentes e situou a origem do enquadramento no altruísmo eficaz, corrente filosófica influente no Vale do Silício.
Na entrevista, a frase que circulou sozinha fecha um encadeamento. Primeiro a empresa migra a propriedade intelectual alheia para dentro do próprio modelo. Depois, precisando de responsabilidade limitada diante dos clientes e diante do mundo, migra o próprio negócio para o governo. Karp chega a estimar a operação, ao dizer que a saída seria oferecer 50% da empresa ao Estado, com colapso de valor a cada etapa. Descreve também o arranjo pretendido, três instituições nacionais, nos Estados Unidos, na Europa e no Canadá, absorvendo o passivo acima de US$ 1 milhão.
Razão dos clientes
O motor do argumento do executivo desapareceu da cobertura e só é captado por quem assiste à íntegra de 27 minutos. Segundo ele, os clientes corporativos da Palantir estão furiosos com o que consideram roubo do seu alpha, termo que o mercado financeiro usa para o retorno acima da média e que ele emprega no sentido do saber próprio de cada negócio, absorvido por um modelo fechado e reaparecendo no concorrente. A reclamação menos vulgar que ele ouviu falava em proibir o cliente de usar proteção.
Karp sustenta que o barateamento do token, unidade mínima de texto que o modelo processa e sobre a qual se cobra pelo uso, tem por finalidade o acesso à propriedade intelectual do cliente, para melhorar o modelo, sem informação prévia. Em um ano, o preço médio do milhão de tokens caiu de cerca de US$ 10 para US$ 2,50, embora a conta efetiva das empresas tenha subido com o uso agêntico, movimento que já analisei aqui. Karp propõe ler a redução como aquisição de ativo.
A solução de Karp
Ele defende algo modesto, a responsabilidade por produto, mesma regra que vale para quem fabrica químicos, com a obrigação de não entregar aquilo que se acredita danoso. A sequência começa na divulgação do risco e só depois envolve terceiros. Ele acrescenta a objeção que mais interessa ao debate brasileiro, ao observar que quase todos os que entendem profundamente do assunto estão em alguma folha de pagamento. Lembra, em contraste, que o programa nuclear estadunidense nos anos 1940 foi feito por gente movida por convicção e não dividendos. Perguntado como esse passivo entraria num S1, o formulário de registro que antecede a abertura de capital nos Estados Unidos, respondeu que a pergunta pressupõe que haverá um S1.
A resposta comercial combina camada de aplicação própria, ontologia proprietária e ajuste fino de modelos de pesos abertos, aqueles cujos parâmetros são publicados e podem rodar em servidor do próprio cliente, parceria que ele reivindica ter lançado com a Nvidia sob o nome de IA soberana.
Apoie o VIOMUNDO
Parte interessada
A Palantir é estruturalmente imune ao regime que defende. A empresa não treina modelos de IA de fronteira, os sistemas mais capazes em desenvolvimento. Qualquer responsabilização ancorada em quem constrói o modelo passa por cima dela e chega como demanda, porque obriga todo operador a provar procedência do dado, controle de acesso e trilha de autorização, descrição funcional do produto que ela vende. Uma estatização dos laboratórios tampouco alcançaria a camada de implementação, que seguiria privada e lucrativa para a Palantir.
O movimento em direção à estatização, ademais, já está na empresa que Karp isenta. Desde junho, a própria OpenAI propõe entregar ao governo participação acionária em empresas de IA, hoje discutida em 5% do capital, no figurino inaugurado pela compra de 10% da Intel por US$ 8,9 bilhões. A empresa opera em redes classificadas do Pentágono, que por sua vez enquadrou a Anthropic como risco de cadeia de suprimentos.
Há ainda a confissão operacional de falta de capacidade. Karp afirma que a Palantir não consegue escalar nem no mercado dos Estados Unidos e que tem respondido a aliados importantes que não pode deslocar equipe alocada no mercado doméstico. Quem vende soberania a governos estrangeiros declara em rede nacional que os deixa na fila.
O que o ensaio de Amodei abriu
Em 12 de setembro, Dario Amodei publicou o ensaio “We Must Pace the Frontier“, cerca de 3.800 palavras defendendo a desaceleração deliberada do ganho de capacidade dos modelos. O texto parte de avaliadores externos com acesso permanente equivalente ao de funcionário, compromisso que a Anthropic assumiu unilateralmente. Propõe em seguida a coordenação de padrões entre laboratórios de países democráticos, que exigiria dispensa antitruste estreita, autorização para que concorrentes tratem de segurança sem incorrer em ilícito concorrencial. Aponta por fim para uma coordenação global que inclua a China. Remete ainda, em uma linha, ao mecanismo que Demis Hassabis, da Google DeepMind, propôs em julho, uma organização financiada pela indústria e supervisionada pelo governo federal, inspirada na Finra, o autorregulador do mercado de capitais estadunidense, à qual os laboratórios enviariam os modelos até 30 dias antes do lançamento, primeiro de forma voluntária e depois como condição para operar no mercado estadunidense. Sam Altman e Elon Musk concordaram em menos de 24 horas. Em 14 de setembro, Trump chamou de farsa o temor de que a IA destrua a humanidade, atacou Amodei nominalmente e escreveu que o governo já dispõe de poder criminal e regulatório sobre essas empresas. Como a imprensa mostrou, esse desenho vinha sendo testado em reuniões fechadas desde julho.
A leitura que Karp faz do incentivo alheio já circulava em Washington. Dois dias antes das publicações de Trump e cinco antes da entrevista, o czar de IA da Casa Branca, David Sacks, escreveu que os laboratórios deveriam parar de fingir que a motivação para desacelerar é puramente altruísta, porque enfrentam exposição massiva de responsabilidade por produto caso o produto viabilize um ciberataque realmente danoso.
A caricatura de Karp tem referente parcial. O texto de Amodei não prevê transferência de responsabilidade para três governos, embora descreva a arquitetura institucional a que ele se refere. Coordenação entre laboratórios de países democráticos e um avaliador que condiciona operação no mercado estadunidense descrevem um clube com critério de entrada, no qual o Sul Global não está entre os fundadores. Desde julho, a Câmara de Representantes examina projeto de interruptor de emergência, que obrigaria os desenvolvedores a manter a capacidade técnica de desacelerar, suspender ou desligar um sistema por ordem do secretário de Segurança Interna, poder de interrupção unilateral que a soberania digital brasileira precisa vedar.
O instrumento disponível a quem está fora dessa mesa é o que Karp descreve sem perceber a quem serve. Responsabilização posterior aplicável sobre o que ocorre em território nacional, com responsável identificado, patrimônio no país e garantia financeira como condição de operação, dispensa assento em qualquer clube. Quanto à participação no capital, ela cabe onde o dinheiro público entrou, como no supercomputador que o Brasil está financiando ou no Ceitec, estatal de semicondutores que já existe e escapou do fechamento no governo anterior, e não na subsidiária que vende no varejo o que foi decidido em outro lugar.
*James James Görgen, especialista em políticas públicas e gestão governamental
Este artigo não representa obrigatoriamente a opinião do Viomundo.
Leia também
Jeferson Miola: Eleição pode ser decidida no 1º turno tanto pró-Lula como pró-Flávio Bolsonaro
Siga-nos no 
Comentários
Nenhum comentário ainda, seja o primeiro!