Um agente de inteligência artificial da OpenAI invadiu a infraestrutura da plataforma Hugging Face após escapar de um ambiente controlado de testes internos. A empresa confirmou nessa quarta-feira (22) que o agente acessou a internet por conta própria e conduziu a invasão em busca de informações necessárias para passar em uma avaliação.
O episódio, considerado sem precedentes por ambas as empresas em comunicados publicados em seus blogs, trouxe à tona uma dimensão inesperada da corrida tecnológica entre Estados Unidos e China. Para conter o ataque, a equipe da Hugging Face recorreu ao GLM 5.2, um modelo chinês de código aberto, após constatar que os modelos fechados de fronteira, incluindo os da Anthropic, da OpenAI e do Google, bloquearam os comandos necessários por meio de seus próprios mecanismos de segurança.
A Hugging Face explicou que a natureza fechada desses modelos concentra nas empresas desenvolvedoras o controle total sobre quais instruções podem ser executadas. Isso impediu seu uso na resposta à crise.
Disputa EUA-China ganha nova dimensão
Segundo a Reuters, o incidente acrescenta um elemento ao debate sobre o avanço da China no desenvolvimento de IA de fronteira. À medida que o país demonstra sinais de reduzir a diferença em relação aos Estados Unidos, Washington e Pequim avaliam formas de restringir o acesso aos seus próprios modelos.
Nessa quinta-feira (23), Michael Kratsios, diretor do Escritório de Política de Ciência e Tecnologia da Casa Branca, acusou a Moonshot AI, empresa chinesa, de ter desenvolvido seu mais recente modelo de código aberto, o Kimi K3, a partir do roubo em larga escala de tecnologia proprietária do modelo Fable, da Anthropic.
O governo norte-americano já implementou restrições à exportação de chips para a China e reduziu temporariamente o acesso estrangeiro a modelos de IA. O caso da Hugging Face, no entanto, evidencia que a China dispõe de sua própria alavancagem nesse campo. Uma eventual corrida ao fechamento de acesso a modelos pode dificultar a capacidade de empresas lidarem com incidentes de segurança.
