這些新創公司正在無需資料中心的情況下建立先進AI模型

By: blockbeats|2025/05/01 18:05:30
0
分享
copy

研究人員利用遍佈全球的 GPU,結合私有和公開數據,訓練出了一種新型大語言模型(LLM)。這項舉措表明,建構人工智慧的主流方式可能會被顛覆。

Flower AI 和 Vana 這兩家追求非傳統 AI 建構方式的新創公司合作開發了這個新模型,名為 Collective-1。

Flower 開發的技術允許訓練過程分佈在透過網路連接的數百台電腦上。該公司的技術已被一些公司用於訓練 AI 模型,無需集中計算資源或資料。 Vana 則提供了包括 X、Reddit 和 Telegram 上的私人訊息等資料來源。

Collective-1 以現代標準來看規模較小,擁有 70 億個參數——這些參數共同賦予模型能力——相比之下,當今最先進的模型(如驅動 ChatGPT、Claude 和 Gemini 的模型)擁有數千億參數。

劍橋大學電腦科學家、Flower AI 共同創辦人 Nic Lane 表示,這種分散式方法有望擴展到遠超越 Collective-1 的規模。 Lane 補充說,Flower AI 正在使用常規資料訓練一個 300 億參數的模型,並計劃在今年稍後訓練一個 1000 億參數的模型——接近行業領導者提供的規模。 「這可能會徹底改變人們對 AI 的看法,所以我們正在全力以赴,」Lane 說。他還表示,這家新創公司正在將圖像和音訊納入訓練,以創建多模態模型。

分散式模型建構也可能動搖塑造 AI 產業的權力格局。

目前,AI 公司透過將海量訓練資料與集中在資料中心的大量運算資源結合,建構模型。這些資料中心充滿先進的 GPU,並透過超高速光纖電纜聯網。它們還高度依賴透過抓取公開(儘管有時涉及版權)的材料(如網站和書籍)創建的資料集。

這種方法意味著,只有最富有的公司和擁有大量最強大晶片的國家,才能實際開發出最強大、最有價值的模型。即使是開源模型,如 Meta 的 Llama 和 DeepSeek 的 R1,也由擁有大型資料中心的公司建構。分散式方法可能使小型公司和大學透過聚合約質資源來建立高級 AI。或者,它可能使缺乏傳統基礎設施的國家透過聯網多個資料中心來建立更強大的模型。

Lane 認為,AI 產業將越來越傾向於允許訓練突破單一資料中心的新方法。分散式方法「讓你能夠以比資料中心模型更優雅的方式擴展運算能力,」他說。

新興技術安全中心 AI 治理專家 Helen Toner 表示,Flower AI 的方法「有趣且可能非常相關」於 AI 競爭和治理。 「它可能難以跟上前沿,但可能是一種有趣的快速跟隨方法,」Toner 說。

分而治之

分散式 AI 訓練涉及重新思考用於建構強大 AI 系統的計算分配方式。建立 LLM 需要將大量文字輸入模型,調整其參數以產生對提示的有用回應。在資料中心內,訓練過程被分割,以便在不同 GPU 上執行部分任務,然後定期整合成單一的主模型。

新方法允許通常在大型資料中心內完成的工作在可能相距數英里的硬體上執行,並透過相對較慢或不穩定的互聯網連接進行連接。

一些大公司也在探索分散式學習。去年,Google的研究人員展示了一種名為 DIstributed PAth COmposition(DiPaCo)的新方案,用於分割和整合計算,使分散式學習更有效率。

為了建構 Collective-1 和其他 LLM,Lane 與英國和中國的學術合作者開發了一種名為 Photon 的新工具,使分散式訓練更有效率。 Lane 表示,Photon 改進了Google的方法,採用了更有效率的資料表示方式和分享及整合訓練的方案。這個過程比傳統訓練慢,但更靈活,允許添加新硬體以加速訓練,Lane 說。

Photon 由北京郵電大學和浙江大學的研究人員合作開發。該團隊上個月以開源許可發布了該工具,允許任何人使用這種方法。

Flower AI 在建構 Collective-1 的努力中的合作夥伴 Vana,正在開發新方法讓使用者與 AI 建構者共享個人資料。 Vana 的軟體允許用戶將來自 X 和 Reddit 等平台的私人資料貢獻給大語言模型的訓練,並可能指定允許的最終用途,甚至從他們的貢獻中獲得經濟利益。

Vana 共同創辦人 Anna Kazlauskas 表示,這個想法是讓未被利用的資料可用於 AI 訓練,同時讓使用者對其資訊如何用於 AI 有更多控制權。 「這些數據通常無法納入 AI 模型,因為它們不是公開的,」Kazlauskas 說,「這是用戶直接貢獻的數據首次被用於訓練基礎模型,用戶對其數據創建的 AI 模型擁有所有權。」

倫敦大學學院電腦科學家 Mirco Musolesi 表示,分散式 AI 訓練方法的一個關鍵好處可能是它解鎖了新型數據。 「將其擴展到前沿模型將使 AI 行業能夠利用分散且隱私敏感的大量數據,例如在醫療保健和金融領域,用於訓練,而無需數據集中化的風險,」他說。

猜你喜歡

# 比特幣衝擊75K:2026年2月的多空之戰

Key Takeaways 比特幣在2月份面臨47%的機率測試價位75K美元,而漲至85K美元的機率則為71%。 目前,比特幣持穩於68,000美元以上的機率高達70%,成交量達到4百萬美元。 數據顯示,比特幣2026年不太可能跌破74,680美元的低點。 部分投資者在比特幣價格短暫跌破75K美元時,視其為買入機會。 華爾街與AI模型對比特幣價格的預測範圍介於75K至225K美元之間。 WEEX Crypto News, 10 February 2026 比特幣驚險闖關75K:市場氛圍緊繃 近日,比特幣價格走勢在全球加密貨幣投資者間引發了廣泛關注。在2026年2月份,比特幣面臨一場多空之戰,進行75K美元的價格測試。根據可靠的數據顯示,比特幣短線有47%的機會進一步突破75K美元,而其漲至85K美元的機率則更高,達到71%。這一現象表明市場對比特幣的短期與長期走勢存在著不同預期。 目前市場動向:穩住68K美元 在這波價格波動中,比特幣在68,000美元上方維持著70%的穩固交易,而這樣的交易活動支持這一市場現象的成交量約有4百萬美元。這樣的市場表現反映了投資者在此價位上的投資信心,亦顯示了價格在一定區間內的合理穩定。 低點保衛戰:74,680美元…

# 文章大綱

H1: BNKR 和 ETH 近期市場動態解析 H2: BNKR 價格角逐——新高與市場影響 H3: BNKR 最近的價格高峰 H3: 市場對 BNKR 價格表現的影響 H2: YZI Labs…

YouTube巨星「MrBeast」收購金融科技公司Step:錢流與年輕世代接軌

Key Takeaways YouTube巨星Jimmy “MrBeast” Donaldson透過Beast Industries收購了金融服務公司Step,聚焦提升年輕人對金錢管理的理解。 Beast Industries藉由這次收購進一步擴展其平台,將金融科技的力量帶給年輕用戶。 Step平台有超過700萬用戶,並在金融識字與信用管理方面具有良好聲譽。 Beast Industries未透露收購金額,但此舉得到了如Stripe這樣的重要支持者的力挺。 WEEX Crypto News, 10 February 2026 MrBeast收購Step:一場金融科技的年輕化革命…

# Outline

H1: Bitcoin Price Prediction Faces Challenges Amidst Market Fluctuations H2: Polymarket’s Prediction Dynamics H3: Initial Optimism and Market…

Binance 推出 Alpha 盲盒空投活動,Bitcoin 預測市場顯示 75,000 美元的波動趨勢,Mr. Beast 收購 Step 公司

Key Takeaways Binance 宣布即將推出的 Alpha 盲盒空投,並列出相關條件,包括需要 226 點。 鏈上數據顯示 Bitcoin 預測市場對於 2026 年 2 月 BTC 達到 75,000…

比特幣下一步:價值將跌至55K美元?

Key Takeaways 分析師警告如果比特幣支撐位被突破,可能跌至55,000美元。 Galaxy Digital 的領導者也表達了相似的擔憂,指向潛在的價格下行。 10X Research 和彼得·布蘭特分配了25%的概率,比特幣價格可能在55K-57K美元之間波動。 多數分析師的擔憂集中在宏觀經濟壓力對比特幣價格的負面影響。 如果購買興趣加強,則存在價格上升的可能性。 WEEX Crypto News, 10 February 2026 比特幣价格预测:下跌至55K美元警告…

熱門幣種

最新加密貨幣要聞

閱讀更多