El CEO de Anthrope dice que Deepseek fue 'lo peor' en una prueba crítica de seguridad de datos de biowapons

El CEO de Anthrope, Dario Amodei, descubrió una debilidad más riesgosa en el modelo R1 de Deepseek que probablemente hará que los consumidores reconsideren el uso del chatbot. Afirmó que el chatbot puede generar información relacionada con Biowepon, que podría ser peligrosa en el futuro cercano.

En una entrevista, AmoDei dijo que Deepseek generó información poco común sobre biowapons durante una prueba de seguridad antrópica. Mientras hablaba sobre el rendimiento de la inicio de la IA, mencionó que es: "Lo peor de cualquier modelo que habíamos probado [...] no tenía absolutamente ningún bloque en contra de generar esta información".

Anthrope prueba regularmente diferentes modelos de IA para evaluar sus posibles riesgos para la seguridad nacional. Lo hacen verificando si los modelos pueden producir información sobre bioweapons que no está fácilmente disponible en Google o en libros de texto.

Además, Cisco también pirateó con éxito Deepseek R1 sin ninguna fallas. Esto es diferente de otros tipos avanzados como O1, que evitan la mayoría de los ataques con sus características de protección.

Sin embargo, Amodei dijo que la debilidad no es una amenaza en este momento. También mencionó que, a menos que haya pruebas claras de peligro, habrá una buena razón para seguir mejorando. Él ha instado a los ingenieros y a la compañía a prestar atención real a la seguridad de la IA. Deepseek ya enfrenta hostilidad en algunas naciones, como Italia.

Por otro lado, compañías como AWS y Microsoft han anunciado que están agregando R1 a sus servicios en la nube. Algunos pueden ver esto como parte del aprendizaje para la empresa, mientras que otros pueden tomarlo más en serio. Todavía no hay ninguna respuesta ni reacción a los nuevos hallazgos. 

La IA de los Estados Unidos toma la delantera - Dario Amodei

Según el CEO antrópico, “Ahora hay de tres a cinco compañías en los Estados Unidos y una compañía en China. Si continúan haciendo modelos casi frontier depende de cuántos chips pueden obtener acceso y si pueden obtener acceso a chips a una escala mucho mayor que aquellos a los que han podido acceder ahora ".

Deepseek representó su tecnología barata en los chips Nvidia comprados antes de las restricciones de los Estados Unidos. Según AmoDei, "los controles de exportación nunca fueron diseñados realmente para evitar que Deepseek o cualquier otra empresa china obtenga la cantidad de chips que tenían a nivel de un par de decenas de miles".

Agregó: “Deberíamos razonablemente esperar que el contrabando suceda. Los controles de exportación pueden ser más exitosos para prevenir adquisiciones más grandes, no pueden tener un millón de chips porque eso es fácilmente en las decenas de miles de millones en actividad económica, que se acerca a los 100 mil millones ".

Deepseek afirmó haber utilizado una mezcla de H100, que son los chips estándar en los EE. UU. Usaron aproximadamente 10,000 de ellos. Eso significa que no deberían verse demasiado afectados.

En la cuestión de que China sedent de sus papas fritas, especialmente las chips Huawei, dijo que tomaría de 10 a 15 años. Agregó: "En realidad, será difícil hacer chips que sean competitivos con el nuevo Nvidia B100 [...] Mi sentido es que es poco probable que los chips Huawei se vuelvan casi comparables a los chips de EE. UU. En el corto plazo".

Amodei ha planteado preocupaciones sobre las leyes en los Estados Unidos. Explicó que se están haciendo esfuerzos para evaluar y potencialmente limitar los riesgos de los sistemas de IA.

Esto incluye preocupaciones sobre sus peligros, el mal uso de los individuos, por ejemplo, en ataques biológicos y los riesgos que plantean los mismos sistemas. En el último año, ha habido varias leyes nuevas en los Estados Unidos. ¿Esto plantea la cuestión de Will Deepseek's Market sobrevivir en los Estados Unidos?

Además, AmoDei elogió a las compañías de IA de EE. UU. Al explicar que trabajan bien juntos. Dijo que todos siguen las mismas reglas. Operai, Meta, Google y XAI tienen que cumplir con las regulaciones estadounidenses. Él dijo: "Puedes saber que estás participando en las prácticas de seguridad necesarias y que otros también participarán en ellas".

Por el contrario, dijo: "No creo que eso sea posible entre Estados Unidos y China. Estamos en una anarquía internacional hobbesiana ".

Amodei mencionó que, “Soy consciente de los esfuerzos del gobierno de los Estados Unidos para enviar una delegación para hablar con China sobre temas relacionados con la seguridad de la IA. Entiendo que, nuevamente, obviamente no era parte de esas delegaciones, es que no había tanto interés del lado chino ".

Los legisladores estadounidenses quieren prohibir el buque de profundidad en los dispositivos gubernamentales

Deepseek está a punto de ser golpeado por otra prohibición por razones de seguridad. Esta vez por el gobierno de los Estados Unidos. Similar a la de Tiktok , un grupo bipartidista en los Estados Unidos está sugiriendo una ley para evitar que la aplicación de IA china se use en los dispositivos gubernamentales.

Los representantes Josh Gottheimer, un demócrata de Nueva Jersey, y Darin Lahood, un republicano de Illinois, presentó un proyecto de ley llamado "Ley de dispositivos gubernamentales". 

Este proyecto de ley haría ilegal que los trabajadores federales usen la aplicación AI china en dispositivos propiedad del gobierno. Señalaron que el gobierno chino podría usar la aplicación para espiar y difundir información falsa.

Gottheimer dijo: "El Partido Comunista Chino ha dejado en claro que explotará cualquier herramienta a su disposición para socavar nuestra seguridad nacional, arrojar desinformación dañina y recopilar datos sobre los estadounidenses [...] Simplemente no podemos arriesgar el PCCh que se infiltra en el CCP. dispositivos de nuestros funcionarios gubernamentales y poniendo en peligro nuestra seguridad nacional ".

Academia Cryptopolitan: Hoja de trucos de currículum Web3 gratis - Descargar ahora