A administração Trump desacordo com Antrópico sobre seus modelos de IA mais avançados parece estar chegando ao auge rapidamente.
Funcionários de Trump disseram ao Inner Loop que se a Anthropic quiser relançar Claude Fable 5, o modelo de IA que eles ficou off-line com controles de exportação Na semana passada, devido a preocupações sobre o jailbreak – um método de usar avisos para contornar as salvaguardas de um modelo – a empresa precisará tomar medidas para realmente resolver o que o governo alega serem vulnerabilidades.
Antrópico tem disse por dias que as preocupações da administração são exageradas e que os efeitos das fugas são mínimos. Reiterou esta posição ao Departamento de Comércio e ao Gabinete do Diretor Nacional Cibernético, Sean Cairncross, em reunião técnica na segunda-feira.
Mas as autoridades dizem que não discutem se os jailbreaks são significativos, uma vez que a Agência de Segurança Nacional concluiu que existem maneiras de desativar as proteções no Fable 5, que são implementadas para impedir que os usuários acessem os recursos do modelo Mythos relacionados à segurança cibernética, química e biologia.
Nesta fase, o governo vê essencialmente a situação como um problema a ser resolvido pela Antrópico, segundo três pessoas familiarizadas com as discussões.
Nem o Centro de Padrões e Inovação de IA do Departamento de Comércio nem a Agência de Segurança Nacional têm a equipe ou a largura de banda necessária para perseguir todos os jailbreak concebíveis em todos os modelos que chegam ao mercado, disseram as pessoas.
Como resultado, o governo acredita que a Anthropic deveria ser mais proativa em testar continuamente não apenas o Fable 5, mas todos os seus modelos de IA de fronteira para encontrar potenciais jailbreaks e sinalizá-los ao próprio governo.
Mas, em um nível mais fundamental, ainda não está claro como o Anthropic supostamente impedirá o jailbreak.
Especialistas independentes em segurança cibernética assumiu cada vez mais a visão que as barreiras de proteção nos modelos de IA são apenas uma solução provisória, uma vez que os utilizadores qualificados e os futuros modelos de IA encontrarão formas de contornar as restrições – o que significa que o que a Casa Branca parece querer não pode ser feito.
Um porta-voz da Casa Branca não quis comentar.
DNI = Não convide
No início da semana, a escolha de Trump para servir como Diretor Interino de Inteligência Nacional, Bill Pulte, estava a caminho de nunca sequer assumir o cargo. Agora, Trump lançou-lhe uma tábua de salvação – e é o nomeado permanente do DNI, Jay Clayton, que agora enfrenta a perspectiva de nunca exercer o cargo.
Para recapitular: Trump inicialmente nomeou Pulte, seu chefe de financiamento habitacional, para substituir o DNI Tulsi Gabbard cessante.
Confrontado com a resistência bipartidária porque Pulte não tem a experiência de segurança nacional exigida por lei para o cargo e porque sinalizou supostamente questionável acusações de fraude hipotecária contra os inimigos políticos de Trump, Trump anunciou Clayton, o procurador dos EUA para o Distrito Sul de Nova York, como seu nomeado para um DNI permanente.
Gabbard estava programado para partir em 18 de junho, com o primeiro dia de Pulte marcado para 19 de junho. Mas os republicanos do Senado se perguntavam: se Clayton pudesse ter sua audiência acelerada para 17 de junho e começar em 22 de junho, será que Pulte entraria no prédio?
Na quarta-feira, Trump explodiu o plano. Como parte de uma rivalidade mais ampla com a liderança republicana do Senado sobre a obstrução, Trump anunciou que a audiência de Clayton seria adiada indefinidamente, em um aparente esforço para evitar que Pulte fosse atacado. Os republicanos do Senado então anunciado que a audiência prosseguiria, a menos que Clayton não comparecesse ou sua nomeação fosse retirada.
A situação pode ser um duro golpe para o Gabinete do Diretor de Inteligência Nacional, que Trump ordenou que Pulte reduzisse enormemente, e os funcionários não ficaram impressionados com o que consideram o esforço mínimo de Pulte para conhecer a agência e a falta de briefings regulares, disseram pessoas familiarizadas com o assunto.
