Anthropic首席执行官说,DeepSeek在关键的BiePons数据安全测试中是“最坏的”

来源 Cryptopolitan

Anthropic的首席执行官Dario Amodei在DeepSeek的R1模型中发现了一个风险更大的弱点,可能会导致使用聊天机器人重新考虑消费者。他声称聊天机器人可以生成与生物武器相关的信息,这在不久的将来可能是危险的。

在接受采访时, DeepSeek在人类安全测试中产生了有关生物武器的罕见信息。当他谈到AI初创企业的表现时,他提到:“最糟糕的是,我们经过测试过的任何模型[…]绝对没有任何障碍,可以通过生成此信息。”

人类定期测试不同的AI模型,以评估其对国家安全的可能风险。他们通过检查模型是否可以产生有关生物武器的信息来做到这一点,这些信息在Google或教科书中不易获得。

Anthropic首席执行官说,DeepSeek在重要的BiePopons数据安全测试中是“最坏的”。
在LLM上攻击成功率。资料来源:思科

此外,思科还成功地黑客入侵了DeepSeek R1而没有任何失败。这与其他高级类型(例如O1)不同,O1可以防止大多数具有保护性功能的攻击。

但是,Amodei说,弱点目前还不是威胁。他还提到,除非有明确的危险证明,否则将有充分的理由继续改善它。他敦促工程师和公司真正关注AI安全。 DeepSeek已经在某些国家(例如意大利)面临着敌对的态度。

另一方面,AWS和Microsoft等公司宣布,他们将R1添加到云服务中。有些人可能将其视为对公司学习的一部分,而另一些人可能会更加认真。对新发现还没有任何回应或反对。 

美国AI领先 - 达里奥·阿莫迪(Dario Amodei)

根据拟人化的首席执行官的说法,“现在美国有三到五家公司在中国。他们是否继续制作近乎范围的模型取决于他们可以使用多少芯片,以及是否可以比现在能够访问的筹码访问筹码大得多。”

在美国限制之前购买了他们对NVIDIA芯片根据Amodei的说法,“出口控制措施从未真正旨在防止DeepSeek或任何其他中国公司获得数以万计的筹码数量。”

他补充说:“我们应该合理地期望走私会发生。出口控制可能会更成功地预防更大的收购 - 它们不可能拥有一百万筹码,因为这很容易在数百亿美元的经济活动中,接近1000亿。”

DeepSeek声称使用了H100的混合物,这是美国的标准芯片。他们使用了大约10,000个。这意味着他们不应该受到太大影响。

他说,在中国变得dent 的筹码,尤其是华为筹码的问题时,他说这将需要10到15年。他补充说:“实际上很难与新的NVIDIA B100 […]做竞争力的芯片,我的感觉是,华为芯片不太可能在很快就会与我们相似的任何地方。”

Amodei提出了对美国法律的担忧。他解释说,正在努力评估和可能限制AI系统的风险。

这包括对他们的危险,个人滥用的担忧,例如在生物攻击中以及系统本身带来的风险。在过去的一年中,美国有几项新法律。这就提出了DeepSeek市场在美国生存的问题吗?

此外,阿莫迪(Amodei)称赞了美国AI公司,他解释说他们共同努力。他说,他们都遵循相同的规则。 OpenAI,Meta, Google和XAI都必须遵守美国法规。他说:“您可以知道您正在从事必要的安全实践,而其他人也将参与其中。”

相反,他说:“我认为美国和中国之间不可能。我们有点像霍布斯国际无政府状态。”

Amodei揭示了“我知道美国政府为派遣代表团与中国讨论与AI安全有关的主题的努力。同样,我的理解显然不是这些代表团的一部分,是从中国方面没有那么多兴趣。”

美国立法者希望在政府设备上禁止DeepSeek

出于安全原因,DeepSeek即将被另一项禁令袭击。这次是美国政府。Tiktok类似,美国的两党组组织提出了一项法律,以阻止中国AI App Seepseek在政府设备上使用。

来自新泽西州的民主党人乔什·戈特·戴维姆(Josh Gottheimer)和来自伊利诺伊州的共和党人达林·拉霍德(Darin Lahood)提出了一项名为“无索取政府设备法案”的法案。 

该法案将使联邦工人在政府拥有的设备上中国AI应用程序他们指出,中国政府可以使用该应用程序间谍和传播虚假信息。

Gottheimer说:“中国共产党已经大量明确表示,它将利用任何旨在破坏我们国家安全的工具,散发出有害的虚假信息,并收集有关美国人的数据[…],我们根本不能冒险侵入CCP。我们政府官员的设备,并危及我们的国家安全。”

Cryptopolitan Academy:您是否犯过这些 Web3 简历错误? -在这里找到答案

免责声明:仅供参考。 过去的表现并不预示未来的结果。
placeholder
Tesla股价10年大涨百倍的启示-未来特斯拉股价走势如何?特斯拉股票怎么买?经过2022年至今全球股灾的洗礼,Tesla股价拉回一段,但是自挂牌以来累计的涨幅仍然超过百倍,堪称这十年来全球新能源科技发展下的最大赢家。
作者  Mitrade
2023 年 3 月 14 日
经过2022年至今全球股灾的洗礼,Tesla股价拉回一段,但是自挂牌以来累计的涨幅仍然超过百倍,堪称这十年来全球新能源科技发展下的最大赢家。
placeholder
马斯克身家暴涨!特斯拉股价再创新高,分析师:2025年市值达2万亿Wedbush预计,特斯拉到2025年底市值将达到2万亿美元。
作者  Alison Ho
2024 年 12 月 12 日
Wedbush预计,特斯拉到2025年底市值将达到2万亿美元。
placeholder
美股年度展望:2024四起三落,2025特朗普领导标普历史级长牛?回顾2024年美股,标普指数四起三落,预计继2023年涨24%后将连续2年涨幅超20%。展望2025年,标普超标6000点后,特朗普2.0时代突破7000点不在话下?
作者  Esteban Ma
2024 年 12 月 17 日
回顾2024年美股,标普指数四起三落,预计继2023年涨24%后将连续2年涨幅超20%。展望2025年,标普超标6000点后,特朗普2.0时代突破7000点不在话下?
placeholder
瑞银:2025年最值得关注的25只美国股票英为财情Investing.com - 瑞银全球研究本周公布了2025年最看好的25只美国股票名单,入选公司涵盖科技、医疗保健和工业领域。
作者  Investing.com
2024 年 12 月 20 日
英为财情Investing.com - 瑞银全球研究本周公布了2025年最看好的25只美国股票名单,入选公司涵盖科技、医疗保健和工业领域。
placeholder
比特币抹去2025年初涨幅!分析师:反弹即将来临比特币价格在抛售中跌破93000美元,但分析师预计短期内将反弹。
作者  Alison Ho
1 月 09 日 周四
比特币价格在抛售中跌破93000美元,但分析师预计短期内将反弹。
goTop
quote