Roblox，Alphabet，OpenAI和Discord爲開源在線兒童安全工具籌集了2700萬美元

Google，Openai，Roblox和Discord正在努力爲社會做一些集體，因爲它們最近成立了一個新的非營利組織，旨在在線改善兒童安全。 

該計劃被稱爲強大的開放在線安全工具（ROOST），並將努力確保公司更容易獲得核心安全技術，同時爲我提供免費的，開源的AI工具，以dent我的ifying，審查和報告兒童性虐待材料。

兒童性騷擾是一種全球流行病，儘管努力遏制它，但仍在在線空間中蓬勃發展。近來，許多應用程序用戶甚至立法者都在暗示，像梅塔（Meta）的馬克·扎克伯格（Mark Zuckerberg）這樣的應用程序創建者對其產品所造成的傷害負責，尤其是在涉及兒童色情和性虐待的地方。 

該倡議解決了一個關鍵需求 

該聯合計劃在部分響應生成AI對在線環境中的變化而發生了部分發生。創始Roost合作伙伴和前Google首席執行官Eric Sc​​hmidt表示，該計劃希望解決“在線兒童安全方面的創新至關重要的需求”。

目前，有關CSAM檢測工具的詳細信息尚未完全可用。但是，我們確實知道他們將利用大型語言AI模型並“統一”現有選項來處理內容。

Schmidt說：“從重點關注兒童保護的平臺開始，Roost的合作，開源方法將促進創新，並使基本基礎設施更加透明，易於訪問和包容性，目的是爲所有人創建更安全的互聯網。” 

如前所述，Roost公告恰逢社交媒體和在線平臺上有關兒童安全的持續監管推動力。現在，公司正在尋求與自我調節提案相提並論的議員。

Roost將與領先的AI基礎模型開發人員合作以實現其目標

根據國家失蹤和被剝削兒童中心（NCMEC）的說法，涉嫌剝削的兒童剝削在2022年至2023年之間增加了12％。截至2020年，美國一半以上的兒童涉足Roblox，並且該公司因未能遭受的未能遭受重大批評。解決兒童的性剝削並在其平臺上接觸不適當的內容。

Roost的創始成員及其所有資源，將在其成型的過程中爲項目提供各種資金，併爲項目提供工具或專業知識。該倡議還表示，它將與領先的AI基金會模型開發人員合作，爲內容保障建立“實踐社區”。這將包括提供經過審查的AI培訓數據集，以及我在安全方面dent差距。

該計劃還將使“已經存在的工具”更容易訪問，從而有效地將其成員組織的各種檢測和報告技術結合到了其他公司可以更容易實施的統一解決方案中。 

Roblox和不和諧努力改變其聲譽

與Roblox一起， Discord還在2022年提起的社交媒體訴訟中被挑出，該訴訟稱這些平臺並沒有阻止成年人在沒有監督的情況下向兒童發送消息。

Roblox的工程，信任和安全副dent Naren Koneru表示，Roost可能會託管AI審覈系統，公司可以通過API呼叫整合。但是，關於Roost的AI適量工具將涵蓋的內容有一些模糊性。

例如，Discord表示，其貢獻將建立在2023年與Meta和Google一起加入的燈籠跨平臺信息共享項目上。但這也可能包括Roblox的AI模型的更新版本，用於檢測褻瀆，種族主義，欺凌，性愛和其他不適當的內容，該公司計劃今年將其作爲開源產品發佈。 

這些工具將如何與已經存在的一線CSAM檢測系統（如Microsoft的PhotoDNA圖像分析工具）相交還有待觀察。

除了成爲Roost的一部分之外， Discord還發布了一項新的“忽略”功能，該功能使用戶可以隱藏他們收到的消息和通知，而無需通知他們靜音的人。

“在不和諧中，我們認爲安全是一種普遍的利益，” Discord的首席法律官克林特·史密斯（Clint Smith）在《棲息地》公告中分享道。 “我們致力於使整個互聯網（不僅是不和諧）成爲一個更好，更安全的地方，尤其是對於年輕人而言。” 

目前，該倡議已籌集了超過2700萬美元的資金，這將佔其前四年運營，並由麥戈文基金會（McGovern Foundation），在線信託基金和安全基金會的未來，奈特基金會（Knight Foundation）和AI協作等慈善組織的支持。 

Roost組織還將得到兒童安全，人工智能，開源技術和“反暴力極端主義”專家的支持。從本質上講，這是偉大思想的高潮，以遏制兒童性虐待以及其內容如何遍及世界。而且，由於它是開源的，因此可以進行全球開發人員社區的持續更新和改進，這意味着即將創建的野獸棲息地將隨着時間的流逝而繼續發展。

Cryptopolitan Academy：您是否犯過這些 Web3 簡歷錯誤？ -在這裏找到答案