專家對 Grok AI 在 X 平臺上的種族主義虐待圖像發出警告

專家們對去年 12 月充斥該平臺的 X 的 Grok AI 製作的種族主義辱罵圖片表示擔憂併發出警告。

根據 Signify（一家與著名體育團體和俱樂部合作trac和報告網絡仇恨的組織）的說法，互聯網和平臺上的圖像將會升級，特別是在短期內。

Grok 更新後，濫用圖像充斥 X

《衛報》報道，有幾份報道稱 Grok AI 在更新後創建了種族主義圖像，其中包括足球運動員和經理的逼真種族主義圖像。其中一張圖片顯示一名黑人玩家正在採摘棉花，另一張圖片則顯示一名玩家在喫香蕉，周圍都是猴子。

其他圖像顯示其他幾名球員和教練與奧薩馬·本·拉登、阿道夫·希特勒和薩達姆·侯賽因等有爭議的歷史人物會面和聊天。

Signify 關切地注意到，使用 Grok AI 創建的計算機生成圖像突然增加並淹沒了 X 平臺。該組織也對這一趨勢感到擔憂，並認爲社交媒體上可能會出現更多此類圖像，因爲逼真的人工智能的引入將使此類圖像變得更容易並增加此類圖像的流行度。

“現在這是一個問題，但這實際上只是即將到來的問題的開始。情況將會變得更糟，而且我們纔剛剛開始，我預計在接下來的 12 個月裏，情況將變得異常嚴重。”

表示。

X 的生成式 AI 工具由埃隆·馬斯克 (Elon Musk) 於 2023 年推出。最近，它添加了一項名爲 Aurora 的新文本到圖像功能，該功能可根據用戶的簡單提示創建逼真的 AI 圖像。

據《衛報》報道，今年早些時候，一個名爲 Flux 的不太先進的版本也引起了爭議，因爲人們發現它可以做許多其他類似軟件無法做的事情。其中包括描繪受版權保護的人物和公衆人物處於妥協立場、吸毒或實施暴力行爲。

X變成了仇恨的平臺

反擊數字仇恨中心 (CCDH) 研究主管卡勒姆·胡德 (Callum Hood) 指責 X 平臺是仇恨平臺。胡德表示，X 已經成爲一個通過收入分享來激勵和獎勵傳播仇恨的平臺，而人工智能圖像讓這一切變得比以往任何時候都更容易。

“X 所做的事情，在某種程度上是其他主流平臺沒有做過的，就是向帳戶提供cash激勵來做到這一點，因此 X 上的帳戶非常故意發佈最赤裸裸的仇恨和虛假信息。”

兜帽。

專家們對用戶可以要求生成式人工智能輕鬆生成的內容相對缺乏限制表示擔憂，這使得 Grok 可以通過“越獄”來規避人工智能的指導方針。

一份報告顯示，當給出不同的仇恨提示時，AI 模型會創建 90% 的提示，其中 30% 是在沒有阻力的情況下創建的。越獄後又創造了50%。

英超聯賽承認了解足球運動員的照片。他們表示，他們已經指派了一個專門的團隊來幫助發現和報告針對運動員的種族主義虐待行爲，他們表示這可能會導致採取法律行動。

與此同時，足球管理部門透露，他們在 2024 年收到了 1,500 多份濫用行爲報告，並且引入了過濾器供球員在社交媒體帳戶上使用，以幫助阻止大量濫用行爲。

“歧視在我們的遊戲乃至更廣泛的社會中沒有立足之地。我們繼續敦促社交媒體公司和有關當局解決網絡濫用問題，並對這種不可接受行爲的違法者採取行動。”英足總髮言人表示。

搜索...