Meta 發佈人工智能工具，其中包括一種檢查其他人工智能模型準確性的工具

預計這將使人工智能模型能夠對模型的響應做出可靠的判斷。

Meta 希望解決不準確的挑戰

根據路透社的一篇文章，該模型可以檢查並提高對棘手問題（例如科學、數學和編碼等學科中的問題）的響應準確性，因爲它需要將複雜的問題分解爲更小的邏輯步驟。

Meta 透露其意圖包括解決 ChatGPT 等其他人工智能模型所遇到的挑戰，以及對過時和不準確答案的批評。

據報道，Meta 的研究人員完全使用人工智能生成的數據來訓練評估器模型，消除了該階段的人工輸入。

兩名 Meta 研究人員告訴路透社，使用人工智能可靠地評估其他人工智能的能力讓我們得以一睹構建能夠從自己的錯誤中學習的自主能力的可能途徑。

“我們希望，隨着人工智能變得越來越超人類，它會越來越好地檢查自己的工作，這樣它實際上就會比普通人類更好。”研究員傑森·韋斯頓。

“自學和自我評估的想法對於達到這種超人類水平的人工智能來說基本上是至關重要的，”他補充道。

Meta 正在邁向自主人工智能

研究人員表示，人工智能行業的利益相關者將這些代理視爲數字助理，它們足夠智能，無需人工干預即可執行各種任務。

研究人員認爲，自我改進模型可以消除對當今使用的通常昂貴且低效的過程的需求，這種過程被稱爲“人類反饋強化學習”。這需要人工註釋者的輸入，他們必須具備專業知識來準確標記數據並驗證複雜數學和書寫查詢的答案是否正確。

Google 和 Anthropic 等業界同行也發表了有關 RLAIF（即 AI 反饋強化學習）概念的研究論文。

然而，與 Meta 不同的是，這些其他公司往往不會發布他們的模型供公衆使用。

人工智能行業專家認爲，利用人工智能來檢查人工智能對於構建無需人工干預即可運行的自主人工智能應用具有重要意義。這意味着最終人工智能模型將從自己的錯誤中學習、自我糾正並改進，而無需人類的任何輸入。

這家社交媒體巨頭還發布了其他工具，包括對其圖像dent分段任何模型（SAM）的更新，該工具可以加快法學碩士響應生成時間和可用於幫助發現新無機材料的數據集。