Character.ai 因聊天機器人版本的已故少女而面臨強烈反對

來源 Cryptopolitan

莫莉·羅斯基金會(Molly Rose Foundation)是爲了紀念莫莉·拉塞爾而成立的,其首席執行官安迪·伯羅斯(Andy Burrows)表示:“這是一種完全應受譴責的節制失敗,也是一種令人作嘔的行爲,將給所有認識和喜愛莫莉的人帶來進一步的心痛。”

這位首席執行官補充說,人工智能公司被允許做不道德的事情,而不是因爲他們所做的事情而受到懲罰。

巴羅斯說:“隨着人工智能公司被允許將安全和適度作爲非核心或非首要優先事項,歷史將被允許再次發生。”

Character.aident引發了加強監管的呼聲

Burrow 進一步對 Character.ai 表示失望,因爲它允許在其平臺上創建和託管此類聊天機器人,這是不負責任的做法。伯羅說,這需要對該行業進行tron的監管。

“看到 Character.ai 表現出缺乏責任感,真是令人心痛不已,這個案例提醒我們,應該儘快加快對人工智能和用戶生成平臺進行更tron監管的必要性。”

洞穴。

據《每日電訊報》 報道,Character.ai 表示,他們會優先處理此類案件,並會根據用戶舉報,積極主動地對角色進行嚴格審覈。然而,在與《電訊報》聯繫後,該公司似乎已經刪除了相關的角色聊天機器人。

Character.ai 告訴BBC ,他們已經刪除了相關聊天機器人,並認真對待安全問題,並“主動並根據用戶報告”對創建的頭像和人員進行了審覈。

“我們有一個專門的信任與安全團隊,負責審查報告並根據我們的政策採取行動,”Character.ai 表示。

Character.ai 由前 Google 工程師 Noam Shazeer 和 Daniel De Freitas 創建,就是其中之一。

人造朋友的興起

技術的持續快速發展使人工智能聊天機器人變得更加複雜,導致公司使用它們通過交互來充當客戶聯絡人。

聊天機器人是計算機生成並模仿人類對話的程序。 Character.ai 表示,其平臺上的聊天機器人應給出被視爲具有攻擊性或可能對用戶或其他人造成傷害的響應。

“我們的平臺有服務條款,禁止使用該服務冒充任何個人或實體,在安全中心,我們的指導原則是我們的產品不得也不應該產生可能對用戶或其他人造成傷害的響應。”

角色.ai。

爲了dent任何違反規則的行爲,Character.ai 表示,它使用自動化工具和用戶報告。該公司補充說,它還在建立一個信任和安全團隊來監控其平臺上的此類活動。

不過,該公司表示,人工智能沒有完美版本,與人工智能相關的安全是一個不斷發展的空間。

與此同時,美國佛羅里達州的一名婦女梅根·加西亞 (Megan Garcia) 起訴了 Character.ai,她的 14 歲兒子 Sewell Setzer 在癡迷於《權力的遊戲》角色形象後自殺身亡。目前正在法庭審理中。

根據加西亞在法庭上填寫的 Setzer 與該聊天機器人的聊天記錄,Setzer 曾討論過用 Character.ai 聊天機器人結束自己的生命。

“我要回家了”是塞策與聊天機器人的最後一次對話,聊天機器人回答說“儘快回家”,不久後他結束了自己的生命。

“我們有專門針對自殺和自殘行爲的保護措施,我們將立即針對 18 歲以下青少年推出更嚴格的安全法規,”Character.ai 告訴哥倫比亞廣播公司新聞。

免責聲明:僅供參考。 過去的表現並不預示未來的結果。
placeholder
日央行10月會議前瞻:料按兵不動,大選黑天鵝後12月升息無望?日本央行將於10月31日週四公佈10月貨幣政策會議的結果。繼9月按兵不動後,市場預計日央行將再次維持不變,日本執政黨大選慘敗帶來的政治不確定性恐令今年年底前都難以進一步升息。
作者  Esteban Ma
7 小時前
日本央行將於10月31日週四公佈10月貨幣政策會議的結果。繼9月按兵不動後,市場預計日央行將再次維持不變,日本執政黨大選慘敗帶來的政治不確定性恐令今年年底前都難以進一步升息。
placeholder
蘋果財報前瞻:股價跑輸大盤,Q4業績有望出亮點嗎?蘋果第四季財報,iPhone 16銷量、蘋果AI以及訂閱服務仍是市場焦點?股價跑輸大盤,華爾街分析師怎麼看?
作者  Penny Pan
7 小時前
蘋果第四季財報,iPhone 16銷量、蘋果AI以及訂閱服務仍是市場焦點?股價跑輸大盤,華爾街分析師怎麼看?
placeholder
「減肥概念」仍受追捧,禮來減肥藥Zepbound為何漲不動了?禮來暢銷減肥藥Zepbound和糖尿病藥物Mounjaro仍是本次財報的亮點,然而Zepbound的收入意外不及分析師預期。
作者  Penny Pan
8 小時前
禮來暢銷減肥藥Zepbound和糖尿病藥物Mounjaro仍是本次財報的亮點,然而Zepbound的收入意外不及分析師預期。
placeholder
美國10月ADP大超預期!勞動市場依舊強勁,非農將超預期?美國10月非農業公佈前夕,有「小非農」之稱的ADP就業數據大超預期。
作者  Penny Pan
8 小時前
美國10月非農業公佈前夕,有「小非農」之稱的ADP就業數據大超預期。
placeholder
繼谷歌業績大超預期後 微軟、Meta財報即將閃亮登場 納指再接再厲?Investing.com -周三(30日),美股開市前,Alphabet Inc Class A (NASDAQ:GOOGL)Q3業績超預期c升5%,帶動「科技七巨頭」普升,微軟公司 (NASDAQ:MSFT)升超2%,Meta Platforms Inc (NASDAQ:META)升1.97%。特斯拉和谷歌的最新業績無疑是給美股注入強心劑,隔夜納指再創歷史新高,盤後即將登場的微軟、Meta財報,市場持樂觀態度。
作者  Investing.com
8 小時前
Investing.com -周三(30日),美股開市前,Alphabet Inc Class A (NASDAQ:GOOGL)Q3業績超預期c升5%,帶動「科技七巨頭」普升,微軟公司 (NASDAQ:MSFT)升超2%,Meta Platforms Inc (NASDAQ:META)升1.97%。特斯拉和谷歌的最新業績無疑是給美股注入強心劑,隔夜納指再創歷史新高,盤後即將登場的微軟、Meta財報,市場持樂觀態度。
goTop
quote