O CEO antrópico diz que a Deepseek foi "o pior" em um teste crítico de segurança de dados da BiOWons

O CEO da Anthropic, Dario Amodei, descobriu uma fraqueza mais arriscada no modelo R1 da Deepseek, que provavelmente fará com que os consumidores reconsiderassem o uso do chatbot. Ele alegou que o chatbot pode gerar informações relacionadas à BIOWAPON, que podem ser perigosas em um futuro próximo.

Em uma entrevista, Amodei disse que a Deepseek gerou informações incomuns sobre biológicas durante um teste de segurança antrópica. Enquanto ele falava sobre o desempenho da Startup de IA, ele mencionou que é: "O pior de basicamente qualquer modelo que já testou [...] não tinha absolutamente nenhum bloco para gerar essas informações".

A antropia regularmente testa modelos diferentes de IA para avaliar seus possíveis riscos para a segurança nacional. Eles fazem isso verificando se os modelos podem produzir informações sobre bioconjugs que não estão prontamente disponíveis no Google ou em livros didáticos.

Além disso, a Cisco também invadiu com sucesso o Deepseek R1 sem falhas. Isso é diferente de outros tipos avançados, como O1, que impedem a maioria dos ataques com seus recursos de proteção.

No entanto, Amodei disse que a fraqueza não é uma ameaça no momento. Ele também mencionou que, a menos que haja uma prova clara de perigo, haverá uma boa razão para continuar melhorando. Ele instou os engenheiros e a empresa a prestar atenção real à segurança da IA. Deepseek já está enfrentando hostilidade em algumas nações, como a Itália.

Por outro lado, empresas como AWS e Microsoft anunciaram que estão adicionando R1 aos seus serviços em nuvem. Alguns podem considerar isso como parte do aprendizado da empresa, enquanto outros podem levar isso mais a sério. Ainda não há resposta ou reação às novas descobertas. 

A AI dos EUA assume a liderança - Dario Amodei

De acordo com o Antrópico CEO, “agora existem três a cinco empresas nos EUA e uma empresa na China. Se eles continuam a fazer modelos quase frontais depende de quantas fichas podem ter acesso e se podem ter acesso a chips em uma escala muito maior do que aqueles a que foram capazes de obter acesso agora. ”

A Deepseek foi responsável por sua tecnologia barata nos chips da NVIDIA adquiridos antes das restrições dos EUA. De acordo com a Amodei, "os controles de exportação nunca foram realmente projetados para impedir que a Deepseek ou qualquer outra empresa chinesa obtenha o número de chips que eles tinham no nível de algumas dezenas de milhares".

Ele acrescentou: “Deveríamos razoavelmente esperar que o contrabando aconteça. Os controles de exportação podem ter mais sucesso na prevenção de aquisições maiores -eles não podem ter um milhão de chips, porque isso é facilmente nas dezenas de bilhões de atividades econômicas, abordando 100 bilhões. ”

Deepseek alegou ter usado uma mistura de H100s, que são os chips padrão nos EUA. Eles usaram aproximadamente 10.000 deles. Isso significa que eles não devem ser muito afetados.

Na questão da China se tornardent independente em suas fichas, especialmente as fichas da Huawei, ele disse que levaria de 10 a 15 anos. Ele acrescentou: "Na verdade, será difícil fazer chips competitivos, digamos que o novo NVIDIA B100 […] Meu sentido é que é improvável que os chips Huawei se tornem quase comparáveis ​​aos chips nos EUA em breve".

Amodei levantou preocupações sobre as leis nos Estados Unidos. Ele explicou que estão sendo feitos esforços para avaliar e potencialmente limitar os riscos dos sistemas de IA.

Isso inclui preocupações sobre seus perigos, uso indevido por indivíduos, por exemplo, em ataques biológicos e os riscos representados pelos próprios sistemas. No ano passado, houve várias novas leis nos EUA. Isso coloca a questão do mercado de Will Deepseek sobrevive nos EUA?

Além disso, Amodei elogiou as empresas de IA dos EUA ao explicar que elas trabalham bem juntas. Ele disse que todos seguem as mesmas regras. Openai, Meta, Google e Xai precisam cumprir os regulamentos dos EUA. Ele disse: "Você pode saber que está se envolvendo nas práticas de segurança necessárias e outras pessoas também se envolverão nelas".

Pelo contrário, ele disse: “Não acho que seja possível entre os EUA e a China. Estamos meio que em uma anarquia internacional hobbesiana. ”

Amodei trouxe à luz que: “Estou ciente dos esforços do governo dos EUA para enviar uma delegação para conversar com a China sobre tópicos relacionados à segurança da IA. Meu entendimento, novamente, obviamente não fazia parte dessas delegações, é que não havia muito interesse do lado chinês. ”

Os legisladores dos EUA querem proibir a Deepseek em dispositivos do governo

Deepseek está prestes a ser atingido por outra proibição por razões de segurança. Desta vez pelo governo dos EUA. Semelhante à de Tiktok , um grupo bipartidário nos EUA está sugerindo uma lei para impedir que o aplicativo de IA chinês Deepseek seja usado em dispositivos do governo.

Os representantes Josh Gottheimer, um democrata de Nova Jersey, e Darin Lahood, um republicano de Illinois, introduziram um projeto de lei chamado "Lei Deepseek on Government Devices". 

Esse projeto de lei tornaria ilegal para os trabalhadores federais usarem o aplicativo de IA chinês em dispositivos de propriedade do governo. Eles apontaram que o governo chinês poderia usar o aplicativo para espionar e espalhar informações falsas.

Gottheimer disse: “O Partido Comunista Chinês deixou abundantemente claro que explorará qualquer ferramenta à sua disposição para minar nossa segurança nacional, vomitar desinformação prejudicial e coletar dados sobre os americanos [...] simplesmente não podemos arriscar o CCP infiltrando o dispositivos de nossos funcionários do governo e comprometimento de nossa segurança nacional. ”

GRATUITO CURRAME