這些新創公司正在無需資料中心的情況下建立先進AI模型

By: blockbeats|2025/05/01 18:05:30
0
分享
copy

研究人員利用遍佈全球的 GPU,結合私有和公開數據,訓練出了一種新型大語言模型(LLM)。這項舉措表明,建構人工智慧的主流方式可能會被顛覆。

Flower AI 和 Vana 這兩家追求非傳統 AI 建構方式的新創公司合作開發了這個新模型,名為 Collective-1。

Flower 開發的技術允許訓練過程分佈在透過網路連接的數百台電腦上。該公司的技術已被一些公司用於訓練 AI 模型,無需集中計算資源或資料。 Vana 則提供了包括 X、Reddit 和 Telegram 上的私人訊息等資料來源。

Collective-1 以現代標準來看規模較小,擁有 70 億個參數——這些參數共同賦予模型能力——相比之下,當今最先進的模型(如驅動 ChatGPT、Claude 和 Gemini 的模型)擁有數千億參數。

劍橋大學電腦科學家、Flower AI 共同創辦人 Nic Lane 表示,這種分散式方法有望擴展到遠超越 Collective-1 的規模。 Lane 補充說,Flower AI 正在使用常規資料訓練一個 300 億參數的模型,並計劃在今年稍後訓練一個 1000 億參數的模型——接近行業領導者提供的規模。 「這可能會徹底改變人們對 AI 的看法,所以我們正在全力以赴,」Lane 說。他還表示,這家新創公司正在將圖像和音訊納入訓練,以創建多模態模型。

分散式模型建構也可能動搖塑造 AI 產業的權力格局。

目前,AI 公司透過將海量訓練資料與集中在資料中心的大量運算資源結合,建構模型。這些資料中心充滿先進的 GPU,並透過超高速光纖電纜聯網。它們還高度依賴透過抓取公開(儘管有時涉及版權)的材料(如網站和書籍)創建的資料集。

這種方法意味著,只有最富有的公司和擁有大量最強大晶片的國家,才能實際開發出最強大、最有價值的模型。即使是開源模型,如 Meta 的 Llama 和 DeepSeek 的 R1,也由擁有大型資料中心的公司建構。分散式方法可能使小型公司和大學透過聚合約質資源來建立高級 AI。或者,它可能使缺乏傳統基礎設施的國家透過聯網多個資料中心來建立更強大的模型。

Lane 認為,AI 產業將越來越傾向於允許訓練突破單一資料中心的新方法。分散式方法「讓你能夠以比資料中心模型更優雅的方式擴展運算能力,」他說。

新興技術安全中心 AI 治理專家 Helen Toner 表示,Flower AI 的方法「有趣且可能非常相關」於 AI 競爭和治理。 「它可能難以跟上前沿,但可能是一種有趣的快速跟隨方法,」Toner 說。

分而治之

分散式 AI 訓練涉及重新思考用於建構強大 AI 系統的計算分配方式。建立 LLM 需要將大量文字輸入模型,調整其參數以產生對提示的有用回應。在資料中心內,訓練過程被分割,以便在不同 GPU 上執行部分任務,然後定期整合成單一的主模型。

新方法允許通常在大型資料中心內完成的工作在可能相距數英里的硬體上執行,並透過相對較慢或不穩定的互聯網連接進行連接。

一些大公司也在探索分散式學習。去年,Google的研究人員展示了一種名為 DIstributed PAth COmposition(DiPaCo)的新方案,用於分割和整合計算,使分散式學習更有效率。

為了建構 Collective-1 和其他 LLM,Lane 與英國和中國的學術合作者開發了一種名為 Photon 的新工具,使分散式訓練更有效率。 Lane 表示,Photon 改進了Google的方法,採用了更有效率的資料表示方式和分享及整合訓練的方案。這個過程比傳統訓練慢,但更靈活,允許添加新硬體以加速訓練,Lane 說。

Photon 由北京郵電大學和浙江大學的研究人員合作開發。該團隊上個月以開源許可發布了該工具,允許任何人使用這種方法。

Flower AI 在建構 Collective-1 的努力中的合作夥伴 Vana,正在開發新方法讓使用者與 AI 建構者共享個人資料。 Vana 的軟體允許用戶將來自 X 和 Reddit 等平台的私人資料貢獻給大語言模型的訓練,並可能指定允許的最終用途,甚至從他們的貢獻中獲得經濟利益。

Vana 共同創辦人 Anna Kazlauskas 表示,這個想法是讓未被利用的資料可用於 AI 訓練,同時讓使用者對其資訊如何用於 AI 有更多控制權。 「這些數據通常無法納入 AI 模型,因為它們不是公開的,」Kazlauskas 說,「這是用戶直接貢獻的數據首次被用於訓練基礎模型,用戶對其數據創建的 AI 模型擁有所有權。」

倫敦大學學院電腦科學家 Mirco Musolesi 表示,分散式 AI 訓練方法的一個關鍵好處可能是它解鎖了新型數據。 「將其擴展到前沿模型將使 AI 行業能夠利用分散且隱私敏感的大量數據,例如在醫療保健和金融領域,用於訓練,而無需數據集中化的風險,」他說。

猜你喜歡

Ray Dalio 新文:世界正在進入戰爭週期

我們正處於一場短期內不會結束的世界大戰中。

以太坊價格預測:預測市場賭客認為ETH將失去第二大加密貨幣的地位

以太坊當前價格約為$2,052,較此前高峰時的$4,900有顯著下降,估算其市值約為2430億美元。 在預測市場中,ETH在2026年失去第二名地位的概率已增至59%,較今年初的17%有大幅增長。 穩定幣,如Tether,市場市值持續上升,對以太坊的威脅加大,目前市值約$1840億。 穩定幣市場總值已突破3100億美元,主要因流動性需求增長及跨境支付需要,而非價格炒作。 以太坊若持續跌破$2,000,將可能進一步回落至$1,700–$1,800的支撐區域。 WEEX Crypto News, 以太坊價格必須持穩於$2,000以上,不然預測市場的機率將成真 目前以太坊的交易價為$2,052,並在經歷劇烈下跌後掙扎著保持這個心理重要的價格點。2025年10月,ETH價格曾接近$4,900,但最近卻跌至不到$2,000,跌幅超過50%。如果ETH無法在$2,000之上保持穩定,那麼RSI等動量指標將顯示出更深層的技術疲軟。 比特幣Hyper走在前列,以太坊測試關鍵支撐 隨著以太坊價格停滯,更多交易者開始轉向早期的基礎設施項目,尋求非對稱的增值空間。比特幣Hyper($HYPER)成為其中的佼佼者,它是搭載Solana虛擬機的首個比特幣Layer 2。以提供比特幣安全層、類Solana速度與可編程性為賣點,目前其初次預售已籌集超過$3200萬,當前價格僅為$0.0136。 圖解以太坊與穩定幣之間的競爭 穩定幣的市值在2026年突破了3100億美元,對於以太坊而言,這類加密貨幣無需牛市即可增長。這種非對稱的增長模式,使得穩定幣對於以太坊構成了強有力的競爭。一張市場的簡單柱狀圖說明了USDT與ETH間的市值差距在不斷縮小。 [Place Image: Screenshot…

比特幣價格預測:Michael Saylor 策略暫停購買?

比特幣價格目前為 $67,500,過去 24 小時上升 1.5%。與高達 200K 的預測相比,這只是小幅上升,但仍引發關於 Michael Saylor 策略的討論。 Michael Saylor 的購買策略今日未更新,過去 13 週持續購買的趨勢中止,市場關注其後續動向。 美元需求轉移至其他企業,例如 GameStop 的…

以太坊價格預測:ETH 上月表現超過比特幣——山寨幣季節即將到來?

以太坊上月表現超越比特幣,上漲7%,預示著可能的山寨幣季節到來。 ETH當前的價格在1,950至2,200美元的範圍內震盪,需要突破2,800美元才能支持長期反彈論點。 長期預測顯示以太坊的價格在2,600到8,000美元之間,網路升級是主要的推動力。 LiquidChain 作為跨鏈流動性層,以解決市場碎片化問題,展示未來潛力。 其 $LIQUID 的預售價格為每枚0.01445美元,且提供1,700% 的質押年回報率。 WEEX Crypto News, 以太坊價格預測:突破2,500美元之前的阻力牆? 以太坊在當前範圍內穩定,價格介於1,950至2,200美元,並呈現謹慎的買盤累積現象。為持續反彈,有必要突破2,800美元的阻力線,這是一個從現價位上升32%的挑戰。目前的技術指標顯示買賣信號數量相等,RSI指數介於41至62,暗示市場猶豫不決。交易量情況支持目前的整固而非突破。 ETH 必須保持2000美元支撐並突破2,250美元阻力,目標在中期達到3,000到3,200美元。三月的月度收盤價高於2,100美元,增強了此預期的可信度。然而,一旦跌破1,950美元,勢必回測1,800美元。 長期展望:網路升級推動價格達8,000美元? 展望2026年,以太坊的長期價格預測範圍從2,600美元到驚人的8,000美元不等,這取決於宏觀經濟的情勢。網路升級被視作可能推動價格上升的主要因素,大型機構的資金已經開始累積,這至少為最悲觀的預測提供了底部支持。…

BTC 美元價格預測:確認的六個月紅色風險—第七個紅色月要來嗎?

比特幣已連續六個月下跌,面臨創紀錄的第七個紅色月。 目前交易價格僅超過 67,000 美元,與歷史最高點 126,000 美元相比下跌 47%。 先前類似情況曾在 2018 年出現,隨後比特幣大漲 317%。 ETF資金外流加劇壓力,技術面看跌,但下降行情可能接近終點。 Bitcoin Hyper Layer 2 正在提供新機會,預售籌集逾 3200…

XRP價格預測:現在瑞波幣比英偉達更具投資優勢嗎?

XRP近期價格穩定在1.32美元,但面臨5個月的連續下跌,尋求市場反彈。 瑞波幣和英偉達都面臨著宏觀經濟壓力的挑戰,投資風險和時機取決於技術關鍵位。 重要支撐位:XRP需要突破1.76美元;如跌破1.27美元,將改變盤整反彈預期。 機構採用的增加可能推動瑞波幣的實際需求,而非投機布局。 比特幣Hyper是值得關注的早期現場機會,其高收益率和技術創新引人注目。 WEEX Crypto News, 2026 XRP價格變動:打破1.76美元,還是會在1.50美元阻力牆止步? XRP目前在1.29至1.39美元之間震盪,上升勢頭稍微增強,但仍處於多月下降趨勢後的盤整狀態。五個月的下跌讓投資者迫切尋求方向性的催化劑,目前技術結構尚未被破壞。 在理想狀況下,XRP需要穩固1.27美元支撐位,突破1.51美元,然後向今年1.76至1.85美元目標前進,這與適度的AI模型預測一致,顯示價格可能達到1.60至1.85美元區間。然而,若XRP跌破1.27美元,可能重新測試更深的支撐,完全推翻目前的盤整保持預期。 較激進的分析師目標要求機構採用和流動性條件的根本性轉變,這尚未反映在當前價格行動中。目前,1.51美元是關鍵的阻力牆,對於想要更多波動性而無盈利底線的投資者來說,XRP提供了一個沒有GPU出貨週期估值上限的機會。隨著科技投資者計算風險收益,這種不對稱性論點適用於主要山寨幣。 比特幣Hyper專注於早期入場的潛在收益,而XRP挑戰主要阻力 XRP的復甦看似可行,但在過去的市值超過700億美元狀況下,即使價格上升至1.85美元,對於現在進入市場的新資金來說,收益率也僅有小幅增長。對於不願意等待Fibonacci水準達成的交易者來說,尋找較早期的基礎設施項目是一個可行的選擇。 位於預售階段的比特幣Hyper($HYPER)每枚售價約0.0136778美元,已籌得3200萬美元,表現出市場于此階段的濃厚興趣。該項目自稱為首個搭載索拉納虛擬機(SVM)集成的比特幣第二層,目標為實現足夠快速的最終定案和智能合約執行,聲稱其速度超過索拉納。透過其架構處理比特幣的三大核心限制:慢速交易、高手續費和零可編程性, 同時保留比特幣的基本安全與信任模型。去中心化的Canonical Bridge也負責原生BTC轉移。參與預售的早期參與者還有機會享有高年化收益的入股獎勵。…

熱門幣種

最新加密貨幣要聞

閱讀更多