Equipe de Musk no governo dos EUA expande uso do Grok e gera preocupação sobre conflito de interesse

Por Marisa Taylor e Alexandra Ulmer

(Reuters) - A equipe do bilionário Elon Musk no Departamento de Eficiência Governamental (Doge) está expandindo o uso de seu chatbot de inteligência artificial Grok no governo federal dos Estados Unidos para analisar dados, disseram três fontes familiarizadas com o assunto, o que pode violar regras de conflito de interesse e colocar em risco informações confidenciais sobre milhões de norte-americanos.

O uso da ferramenta pode reforçar preocupações entre os defensores da privacidade e outros de que a equipe de Musk no Doge parece estar deixando de lado proteções estabelecidas há muito tempo sobre o manuseio de dados confidenciais, à medida que o presidente norte-americano, Donald Trump, sacode a burocracia dos EUA.

Uma das três fontes familiarizadas com o assunto, que tem conhecimento das atividades do Doge, disse que a equipe de Musk está usando uma versão personalizada do chatbot Grok. O objetivo aparente é permitir ao Doge examinar dados com mais eficiência, disse essa fonte. "Eles fazem perguntas, fazem com que ele prepare relatórios e análises de dados."

A segunda e a terceira fontes disseram que a equipe do Doge também afirmou aos funcionários do Departamento de Segurança Interna para usarem a ferramenta, embora o Grok não tenha sido aprovado dentro do departamento.

A Reuters não conseguiu determinar os dados específicos que foram inseridos na ferramenta de IA de Musk ou como o sistema personalizado foi configurado. O Grok foi desenvolvido pela xAI, uma empresa de tecnologia que Musk lançou em 2023.

Se os dados forem informações governamentais sensíveis ou confidenciais, o uso do Grok pode implicar em violação de leis de segurança e privacidade, disseram cinco especialistas em tecnologia e ética governamental.

A ferramenta também pode dar a Musk o a valiosos dados de contratação federal não públicos em agências com as quais ele faz negócios de forma privada ou ser usada em treinamento do Grok, um processo no qual modelos de IA analisam grandes quantidades de dados, disseram os especialistas. Musk também pode obter uma vantagem competitiva injusta sobre outros provedores de serviços de IA com o uso do Grok no governo federal, acrescentaram.

Musk, a Casa Branca e a xAI não responderam a pedidos de comentários. Um porta-voz do Departamento de Segurança Interna negou que o Doge tenha pressionado a equipe do órgão a usar o Grok. "O Doge não pressionou nenhum funcionário a usar nenhuma ferramenta ou produto específico", disse o porta-voz, que não respondeu a outras perguntas. "O Doge está aqui para encontrar e combater desperdícios, fraudes e abusos."

Como parte do esforço declarado de Musk para eliminar desperdício e ineficiência do governo dos EUA, o bilionário e sua equipe no Doge aram bancos de dados federais altamente protegidos que armazenam informações pessoais de milhões de norte-americanos. Especialistas afirmam que, em geral, esses dados estão fora dos limites de todos os funcionários, com exceção de alguns, devido ao risco de serem vendidos, perdidos, vazados, violarem a privacidade dos norte-americanos ou exporem o país a ameaças.

Normalmente, o compartilhamento de dados dentro do governo federal exige a autorização e o envolvimento de especialistas do governo para garantir a conformidade com privacidade, confidencialidade e outras leis.

A análise de dados federais confidenciais pelo Grok marca uma mudança importante no trabalho do Doge, uma equipe de engenheiros de software e outros ligados a Musk. Eles supervisionaram a demissão de milhares de funcionários federais, assumiram o controle de sistemas de dados confidenciais e procuraram desmantelar agências em nome do combate a supostos desperdícios, fraudes e abusos.

"Dada a escala de dados que o Doge acumulou e dadas as inúmeras preocupações com a portabilidade desses dados para um software como o Grok, isso para mim é uma ameaça à privacidade das mais sérias possíveis", disse Albert Fox Cahn, diretor executivo do Projeto de Supervisão da Tecnologia de Vigilância, uma organização sem fins lucrativos que defende a privacidade.

As preocupações de Cahn incluem o risco de que os dados do governo dos EUA vazem para a xAI e a falta de clareza sobre quem tem o a essa versão personalizada do Grok.

O o do Doge a informações federais pode dar ao Grok e à xAI uma vantagem sobre outros possíveis contratantes de IA que buscam fornecer serviços governamentais, disse Cary Coglianese, especialista em regulamentações federais e ética da Universidade da Pensilvânia. "A empresa tem um interesse financeiro em insistir que seu produto seja usado por funcionários federais", disse ele.

"APARÊNCIA DE AUTONEGOCIAÇÃO"

Além de utilizar o Grok para sua própria análise de dados governamentais, a equipe do Doge disse aos funcionários do Departamento de Segurança Interna dos EUA, nos últimos dois meses, que usassem o Grok mesmo que ele não tenha sido aprovado para uso no órgão, disseram a segunda e a terceira fontes. O departamento de segurança interna supervisiona fronteiras, fiscalização da imigração, segurança digital e é responsável por outras funções sensíveis de segurança nacional.

Se os funcionários federais dos EUA receberem oficialmente o ao Grok para tal uso, o governo federal terá que pagar à organização de Musk pelo o, disseram as fontes. "Eles estavam pressionando para que fosse usado em todo o departamento", disse uma das fontes.

O Departamento de Segurança Interna, sob a istração anterior de Biden, criou no ano ado políticas permitindo que sua equipe usasse plataformas específicas de IA, incluindo ChatGPT, da OpenAI; o chatbot Claude, desenvolvido pela Anthropic, e outra ferramenta de IA desenvolvida pela Grammarly. O órgão também criou um chatbot próprio.

O objetivo era fazer com que o departamento estivesse entre os primeiros órgãos federais a adotar a tecnologia e usar a IA generativa. De acordo com a política, a equipe poderia usar os bots comerciais para dados não confidenciais e não sensíveis, enquanto o bot interno do órgão poderia ser utilizado com dados mais sensíveis.

Em maio, as autoridades do departamento fecharam abruptamente o o dos funcionários a todas as ferramentas comerciais de IA - incluindo o ChatGPT - depois da suspeita de que membros do órgão as utilizaram indevidamente com dados confidenciais, disseram a segunda e a terceira fontes. O departamento não respondeu às perguntas da Reuters sobre o assunto.

Musk disse aos investidores no mês ado que reduziria seu tempo no Doge para um ou dois dias por semana a partir de maio. Como funcionário especial do governo, ele só pode trabalhar por 130 dias. Não está claro quando esse período termina. Se ele reduzir suas horas para meio período, poderá estender seu mandato para além de maio. O bilionário disse, no entanto, que sua equipe continuará com o trabalho no Doge enquanto ele encerra sua função na Casa Branca.

Se Musk estiver diretamente envolvido nas decisões de uso do Grok, isso pode representar uma violação de uma lei criminal de conflito de interesses que proíbe as autoridades - inclusive funcionários públicos especiais - de participarem de assuntos que possam beneficiá-las financeiramente, disse Richard Painter, conselheiro de ética do ex-presidente republicano George W. Bush e professor da Universidade de Minnesota.

"Isso dá a impressão de que o Doge está pressionando as agências a usarem o software para enriquecer Musk e a xAI, e não para o benefício do povo norte-americano", disse Painter.

Se os funcionários do Doge estiverem incentivando o uso do Grok sem o envolvimento de Musk, por exemplo, para se aproximar do bilionário, isso seria eticamente problemático, mas não uma violação do estatuto de conflito de interesses, disse Painter.

"Não podemos processá-lo, mas seria tarefa da Casa Branca evitar que isso acontecesse. Isso dá a aparência de autonegociação."

A iniciativa de usar o Grok coincide com um esforço maior do Doge para usar a IA na burocracia federal, disseram duas outras fontes familiarizadas com as operações do órgão. O esforço é liderado por Kyle Schutt e Edward Coristine, membros da equipe de Musk. Coristine, um jovem de 19 anos que usa o apelido online de "Big Balls", é um dos membros de maior destaque do Doge. Schutt e Coristine não comentaram o assunto.

Os funcionários do Doge tentaram obter o a emails dos funcionários do Departamento de Segurança Interna nos últimos meses e ordenaram que a equipe treinasse a IA para identificar comunicações que sugerissem que um funcionário não é "leal" à agenda política de Trump, disseram as duas fontes. A Reuters não conseguiu determinar se o Grok foi usado para essa vigilância.

Nas últimas semanas, um grupo de cerca de uma dúzia de funcionários de uma agência do Departamento de Defesa foi informado por um supervisor que uma ferramenta algorítmica estava monitorando algumas de suas atividades no computador, de acordo com duas fontes adicionais informadas sobre as conversas.

A Reuters também analisou duas trocas de mensagens de texto separadas por pessoas que estavam diretamente envolvidas nas conversas. As fontes solicitaram que a agência específica não fosse mencionada por causa da preocupação com possíveis retaliações. Elas não sabiam qual ferramenta estava sendo usada.

O uso de IA para identificar as crenças políticas pessoais dos funcionários pode violar as leis de serviço civil destinadas a proteger os funcionários públicos de carreira contra interferência política, disse Coglianese, especialista em regulamentações federais e ética da Universidade da Pensilvânia.

Em uma declaração à Reuters, o Departamento de Defesa disse que a equipe do Doge no departamento não esteve envolvida em nenhum monitoramento de rede nem foi "orientada" a usar nenhuma ferramenta de IA, incluindo a Grok. "É importante observar que todos os computadores do governo estão inerentemente sujeitos a monitoramento como parte do contrato de usuário padrão", disse Kingsley Wilson, porta-voz do Pentágono.

O departamento não respondeu às perguntas sobre se algum novo sistema de monitoramento havia sido implantado recentemente.