专家对 Grok AI 在 X 平台上的种族主义虐待图像发出警告

专家们对去年 12 月充斥该平台的 X 的 Grok AI 制作的种族主义辱骂图片表示担忧并发出警告。

根据 Signify（一家与著名体育团体和俱乐部合作trac和报告网络仇恨的组织）的说法，互联网和平台上的图像将会升级，特别是在短期内。

Grok 更新后，滥用图像充斥 X

《卫报》报道，有几份报道称 Grok AI 在更新后创建了种族主义图像，其中包括足球运动员和经理的逼真种族主义图像。其中一张图片显示一名黑人玩家正在采摘棉花，另一张图片则显示一名玩家在吃香蕉，周围都是猴子。

其他图像显示其他几名球员和教练与奥萨马·本·拉登、阿道夫·希特勒和萨达姆·侯赛因等有争议的历史人物会面和聊天。

Signify 关切地注意到，使用 Grok AI 创建的计算机生成图像突然增加并淹没了 X 平台。该组织也对这一趋势感到担忧，并认为社交媒体上可能会出现更多此类图像，因为逼真的人工智能的引入将使此类图像变得更容易并增加此类图像的流行度。

“现在这是一个问题，但这实际上只是即将到来的问题的开始。情况将会变得更糟，而且我们才刚刚开始，我预计在接下来的 12 个月里，情况将变得异常严重。”

表示。

X 的生成式 AI 工具由埃隆·马斯克 (Elon Musk) 于 2023 年推出。最近，它添加了一项名为 Aurora 的新文本到图像功能，该功能可根据用户的简单提示创建逼真的 AI 图像。

据《卫报》报道，今年早些时候，一个名为 Flux 的不太先进的版本也引起了争议，因为人们发现它可以做许多其他类似软件无法做的事情。其中包括描绘受版权保护的人物和公众人物处于妥协立场、吸毒或实施暴力行为。

X变成了仇恨的平台

反击数字仇恨中心 (CCDH) 研究主管卡勒姆·胡德 (Callum Hood) 指责 X 平台是仇恨平台。胡德表示，X 已经成为一个通过收入分享来激励和奖励传播仇恨的平台，而人工智能图像让这一切变得比以往任何时候都更容易。

“X 所做的事情，在某种程度上是其他主流平台没有做过的，就是向帐户提供cash激励来做到这一点，因此 X 上的帐户非常故意发布最赤裸裸的仇恨和虚假信息。”

兜帽。

专家们对用户可以要求生成式人工智能轻松生成的内容相对缺乏限制表示担忧，这使得 Grok 可以通过“越狱”来规避人工智能的指导方针。

一份报告显示，当给出不同的仇恨提示时，AI 模型会创建 90% 的提示，其中 30% 是在没有阻力的情况下创建的。越狱后又创造了50%。

英超联赛承认了解足球运动员的照片。他们表示，他们已经指派了一个专门的团队来帮助发现和报告针对运动员的种族主义虐待行为，他们表示这可能会导致采取法律行动。

与此同时，足球管理部门透露，他们在 2024 年收到了 1,500 多份滥用行为报告，并且引入了过滤器供球员在社交媒体帐户上使用，以帮助阻止大量滥用行为。

“歧视在我们的游戏乃至更广泛的社会中没有立足之地。我们继续敦促社交媒体公司和有关当局解决网络滥用问题，并对这种不可接受行为的违法者采取行动。”英足总发言人表示。

搜索...