人工智慧難逃「能源危機」?

美股研究社
更新於 2024-6-27 07:47
Mitrade
coverImg
來源: DepositPhotos

ChatGPT查詢比傳統的Google搜尋耗電量高出6到10倍。


所有線上互動都依賴儲存在遠端伺服器中的資料。這些伺服器堆疊在世界各地的資料中心,需要大量能源。目前,資料中心約佔全球用電量的1.0%–1.5%,預計到本世紀末,這一數字將增加到3%–4%,這在很大程度上是由於人工智慧(AI)的蓬勃發展。


人工智慧已成為一股變革力量,改變了我們處理、分析和利用所有產業數據的方式。人工智慧發展如此迅速,世界經濟論壇報告稱,維持人工智慧崛起所需的運算能力大約每100天翻一番。


而且,人工智慧運算比傳統的網路查詢耗能更多。例如,ChatGPT查詢比傳統的Google搜尋耗電量高出6到10倍。


图片


根據施耐德電機(OTCPK:SBGSF)白皮書,人工智慧目前約佔4.5GW的電力消耗,預計將以每年25%至33%的速度成長,到2028年總消耗量將達到14GW至18.7GW。


图片


如上表所示,AI工作負荷分為兩個關鍵階段(訓練和推理)。這兩個階段主要透過能源使用和水消耗來影響環境。目前,AI的環境足跡分為訓練階段約佔20%,推理階段佔80%。


在訓練階段,AI模型透過消化大量資料來學習模式,這需要大量的能源。例如,訓練GPT-3(ChatGPT的前身)的圖形處理單元(GPU)估計消耗了1,300兆瓦時的電力,大致相當於1,450個美國家庭每月平均用電量。這些模型還需要冷卻用水以及發電和製造用水。


據摩根大通的ChatESG8稱,“在微軟最先進的美國數據中心訓練GPT-3會蒸發70萬公升清潔淡水。”


訓練完成後,AI模型將進入推理階段並開始運行。新工具可以減輕人工智慧的工作量:


限制功率。為了降低AI工作負載的能耗,製造商和開發商都在研究限制GPU功耗的方法,並提高工作負載的準確性。 「限制功率」是一種可透過軟體在資料中心採用的技術。它涉及設定GPU或CPU等硬體組件的功耗限制,以管理能源使用。


根據麻省理工學院林肯實驗室10的研究,在AI模型訓練期間限制GPU的功率可使能耗減少12%–15%。但缺點是,限制功率可能會使任務時間增加約3%。但是,考慮到模型的訓練時間為幾天、幾週或幾個月,這個時間增加可以忽略不計。


剔除表現不佳的模型。此外,在訓練期間,AI開發人員可以專注於提高準確性。透過分析模型學習的速度,開發人員可以儘早停止表現不佳的模型。再次引用林肯實驗室的研究,“...儘早停止可以帶來巨大的節省:用於模型訓練的能量減少了80%。”


優化硬體。為了提高推理階段的能源效率,可以利用優化器將AI模型與碳效率最高的硬體組合進行匹配,例如,在計算密集的推理部分使用高功率GPU,在計算要求較低的部分使用低功耗中央處理器(CPU),可在不影響效能的情況下將能耗降低10%至20%11。


微軟是一家採用工具來減輕AI工作量的公司。據該公司稱,截至2023年6月,微軟已將其功率上限系統部署到公司資料中心的數百萬台伺服器上,從而釋放了數百兆瓦的收穫電能12。此上限系統還允許Bing和BingAds透過最大化進氣量(也稱為渦輪增壓)安全地提高性能,從而使性能提高約20%。


微軟也開發了客製化資料中心晶片,例如AzureMaia(也稱為Maia100),這是一款針對AI優化的GPU,專為運行複雜的AI工作負載而設計。它基於5nm節點構建,並針對可擴展性和可持續性進行了優化,具有動態功率優化和液體冷卻等功能。


資料中心的能源需求由計算(佔電力需求的40%)和冷卻(佔40%)驅動。剩餘的20%則由電源、儲存和通訊設備13所佔。因此,資料中心基礎設施的改善也可以在減少資料中心對環境的影響方面發揮重要作用。


由於冷卻佔資料中心能源需求的40%,因此高效冷卻是重中之重。從空氣冷卻到液體冷卻的轉變是一項潛在的基礎設施創新,許多人認為它具有變革性。在直接進入晶片的液體冷卻方法中,「…冷卻液在伺服器中循環以吸收和散發熱量,並且作為一種處理AI集群產生的集中熱量的更有效方法,它正在迅速普及。」14與空氣冷卻相比,液體冷卻消耗的能量減少了10%15,提高了電力利用率,並減少了用水量。


輝達正在積極支援其高性能資料中心GPU的直接晶片液體冷卻。他們已經發布了採用這種冷卻方法的首款資料中心PCIeGPU。此外,輝達計劃繼續支援其GPU和HGX平台中的液體冷卻。總之,這種方法提高了AI工作負載的效率、永續性和最佳系統效能。此外,Nv獲得了美國能源部(DOE)的500萬美元獎勵,用於開發一種結合兩相直接晶片和浸入式冷卻技術的冷卻解決方案,使用符合環保要求的冷媒16。


目前全球約有8,000個資料中心在營運。美國以佔資料中心總數的三分之一領先,其次是歐洲(16%)和在華(10%)。在過去十年中,這些資料中心的性質已經發生了變化,從「傳統」轉變為「雲端」和「超大規模」。


图片


隨著超大規模企業(即最大的資料中心所有者-谷歌、微軟和亞馬遜)的崛起,資料中心的效率有所提高,因為上述所有公司都制定了氣候目標,並面臨著實現這些目標的內部和外部壓力。但人工智慧的崛起正在危及這些企業目標。目前採購再生能源或利用碳信用/抵銷的做法已不再足夠。


谷歌除了確保使用高效硬體、彈性電源和冷卻系統來改善AI工作負載之外,超大規模企業還必須確保採購再生能源。為此,許多企業都在效仿谷歌進行「負荷轉移」。超大規模企業不再僅僅依賴電網的化石燃料和可再生能源組合,而是試圖以每日甚至每小時為單位轉移全球資料中心的運營,以跨時區獲取過剩的可再生能源生產運營。谷歌邁出了開創性的一步,按小時將其資料中心的電力使用與零碳能源保持一致。然而,實現不間斷的清潔能源仍然難以實現。


人工智慧是一項變革性技術,但它的使用直接導致碳排放量上升和數百萬加侖淡水的消耗。然而,它也可以發揮積極作用,提高建築效率、醫療保健和氣候建模。顯而易見的是,人工智慧的發展不能以犧牲地球為代價。


因此,美國和國外的許多官方代表正在努力開發一個標準化系統,以報告人工智慧對社會和環境的影響。引領這一進程的是國際標準化組織(ISO),它將發布「永續人工智慧」的標準,其中包括衡量能源效率、原材料使用、運輸和水消耗的標準,以及在整個生命週期內減少人工智慧影響的做法。 “ISO希望讓人工智慧用戶能夠就他們的人工智慧消費做出明智的決定。”


作者|Calamos Investments

編譯|華爾街大事件

* 本文內容僅代表作者個人觀點,讀者不應以本文作為任何投資依據。在做出任何投資決定之前,您應該尋求獨立財務顧問的建議,以確保您了解風險。差價合約(CFD)是槓桿性產品,有可能導致您損失全部資金。這些產品並不適合所有人,請謹慎投資。查閱詳情


這篇文章有幫到您嗎?
相關文章
placeholder
因新貴搶佔市場份額,耐吉股價暴跌並慘遭瑞銀下調目標價!耐吉預計季度營收將大幅下降,也下調2025年財測,導致耐吉股價大跌,瑞銀下調其目標價。
作者  Tony Chou
耐吉預計季度營收將大幅下降,也下調2025年財測,導致耐吉股價大跌,瑞銀下調其目標價。
placeholder
通膨如期降溫!美國5月核心PCE降至三年新低,9月降息路更穩了6月28日週五,美國商務部公佈了聯準會青睞的PCE個人消費支出物價指數報告,美國5月通膨進一步放緩,核心PCE物價指數錄得三年多最低,這對聯準會降息無疑又是一份利好報告。
作者  Esteban Ma
6月28日週五,美國商務部公佈了聯準會青睞的PCE個人消費支出物價指數報告,美國5月通膨進一步放緩,核心PCE物價指數錄得三年多最低,這對聯準會降息無疑又是一份利好報告。
placeholder
【今日美股】耐吉盤前大跌逾14%!6月28日美股盤前,三大股指期貨走高。耐吉盤前大跌逾14%。
作者  Tony Chou
6月28日美股盤前,三大股指期貨走高。耐吉盤前大跌逾14%。
placeholder
首辯川普勝率壓倒拜登,強美元再狂奔?通膨和降息再添變數6月27日晚,美國現任總統拜登和前總統川普進行了2024年美國大選第一場辯論,市場評估川普的勝率更高。鑒於川普全面征稅計劃將進一步推動通膨,下半年美元指數有望繼續維持強勢。
作者  Esteban Ma
6月27日晚,美國現任總統拜登和前總統川普進行了2024年美國大選第一場辯論,市場評估川普的勝率更高。鑒於川普全面征稅計劃將進一步推動通膨,下半年美元指數有望繼續維持強勢。
placeholder
川普擊敗拜登!高盛:美股和美元將上漲 美國大選辯論川普略勝拜登一籌,高盛警告選舉對金融市場的風險。
作者  Alison Ho
美國大選辯論川普略勝拜登一籌,高盛警告選舉對金融市場的風險。