星期五,社会保障局推出了一个新的Chatgpt风格的聊天机器人,称为“代理支持同伴”。该工具旨在帮助员工处理常规任务并提高生产力。取而代之的是,员工说这几乎没有起作用,并且不雄辩的发布使许多人想知道自动化是否是美国最大的社会服务机构的正确途径。
近几个月来,马斯克的组织在内部被称为Doge ,通过削减就业和预算,积极降低了联邦机构。朝着“ AI-First”模型迈进的旨在尽可能用软件代替人类工人。作为该策略的一部分,新的聊天机器人是在报告,并有望减轻他们的工作量。
一封内部电子邮件将其描述为“协助员工进行日常任务并提高生产力”的一种方式,但实际上,该应用程序很少受到关注。
代理机构内部的消息人士说,推出的伴随着一个痛苦的训练视频,其中有一个动画,四指女性的女人。该剪辑本来应该指导用户完成该应用程序的功能,但未能警告员工上传敏感的个人数据。这条纸条迫使该机构发送后续电子邮件阅读,“我们对培训视频中的监督道歉”,以警告员工的风险。
一位社会保障员工告诉《连线》:“我不确定我的大多数同事甚至看过培训视频。”他们补充说,当他们测试聊天机器人时,“我从中收到的几种答复非常模糊和/或不准确。”据报道,其他员工嘲笑了粗略的图形。消息人士说:“我不知道[使用它]。它是如此的笨拙和糟糕。”
批评家警告说,这个绊脚石可能会预示更广泛的失败。
同样,在巴西,在2018年,一家名为DataPrev的国有公司推出了MEU INSS,这是一个旨在使用计算机视觉和自然语言处理来处理社会保障索赔的应用程序。但是,该系统经常由于小错误而拒绝有效的索赔,引发了漫长的法律上诉。
一个例子涉及55岁的乔斯利亚·德·布里托(Joséliade Brito),他是一名前甘蔗工人,由于自动化系统dent了她的性别,他的退休申请被拒绝。她对世界其他地区说:“我拥有所有证明我的健康状况,证明一切,[好处]仍然被拒绝的所有文件。这是一种屈辱。”
农村农民工人(其中许多缺乏基本的数字技能)在转向在线服务方面苦苦挣扎。 “这里的人们甚至无法与Gmail,Facebook,Instagram合作,” Barra do Corda的农村工人工会联盟的dent Francisco Santana说。 “流程正在越来越多地自动化,而且社会还没有为居住在农村地区的人们而做好准备,尤其是在郊区的远方。”
这些障碍在国外突出了美国的潜在陷阱
社会服务已经承受着“现代化”的压力,这是特朗普政府所谓的技术官员团队的推动力。
马斯克的总督通过寻求将联邦劳动力削减一半,进一步采取了这项任务。一位熟悉Doge计划的人告诉《华盛顿邮报》:“所有可以机器自动化的一切都将取代官僚。”
SSA最近发生的不幸说明了这些赌注。据报道,Doge的工作人员将“无数”的生活福利接收者标记为“死亡”,切断了他们的付款。 “大约有400万人将他们标记为死亡,”该机构的长期宣称技术分析师雷尼·格拉斯哥(Rennie Glasgow)对《每日野兽》进行了交谈。格拉斯哥补充说:“他们向我们发送一封电子邮件,说'如果这些人带着我陷入dent,您可以恢复他们的身份。'”恢复过程可以“大约三到四天”,因为员工必须手动“复活”系统中的每个接收者。
除了停止福利之外,Doge还计划在几个月内重写SSA的整个软件代码库。消息人士称,要满足该截止日期,几乎可以肯定会肯定会依靠AI进行编码,这种做法需要密切监督,因为机器生成的代码的错误率很高。
鉴于Doge到目前为止 trac K纪录
一些观察者怀疑这些错误可能是故意的。一位批评家们认为,杜格的目标不是真正的改革,而是SSA的稳定,为私有化铺平了道路。如果是这样的话,失火和混乱可能正是马斯克团队的目标。
加密大都会学院:想在2025年养活您的钱吗?在即将到来的WebClass中DeFi进行操作保存您的位置