無需DRAM，這類AI芯片備受關(guān)注

公眾號(hào)記得加星標(biāo)??，第一時(shí)間看推送不會(huì)錯(cuò)過。

Claude 的開發(fā)商Anthropic Games正在考慮第四家芯片供應(yīng)商，此前已有英偉達(dá)、谷歌和亞馬遜等公司參與競爭。

據(jù)知情人士報(bào)道， Anthropic Games已與總部位于倫敦的芯片初創(chuàng)公司Fractile就采購其推理加速器展開初步洽談。如果此次洽談成功，F(xiàn)ractile將成為Claude開發(fā)商Anthropic Games的第四個(gè)AI服務(wù)器芯片供應(yīng)商，該公司目前已使用來自英偉達(dá)、谷歌和亞馬遜的芯片。

Fractile 的芯片預(yù)計(jì)要到 2027 年左右才能達(dá)到商業(yè)化準(zhǔn)備狀態(tài)，這意味著任何部署都遠(yuǎn)遠(yuǎn)超出了 Anthropic 的近期采購計(jì)劃，并且大致與它與Google-Broadcom 的 TPU 合作的時(shí)間窗口相同。

Fractile由牛津大學(xué)博士Walter Goodwin于2022年創(chuàng)立，致力于開發(fā)一種推理芯片，該芯片使用SRAM將內(nèi)存和計(jì)算功能集成在同一芯片上，無需像傳統(tǒng)芯片那樣將數(shù)據(jù)分別傳輸?shù)姜?dú)立的DRAM芯片。GPU和片外DRAM之間的數(shù)據(jù)傳輸是高速運(yùn)行大型AI模型的主要瓶頸之一。

Goodwin在2024年7月接受《財(cái)富》雜志采訪時(shí)表示，F(xiàn)ractile的設(shè)計(jì)將計(jì)算所需的數(shù)據(jù)直接存儲(chǔ)在執(zhí)行運(yùn)算的晶體管旁邊，而不是依賴片外DRAM。根據(jù)當(dāng)時(shí)的模擬結(jié)果，古德溫稱Fractile運(yùn)行大型語言模型的速度可以比英偉達(dá)的GPU快100倍，成本卻低10倍，盡管該公司當(dāng)時(shí)尚未生產(chǎn)測試芯片。

該公司已完成1500萬美元的種子輪融資，由Kindred Capital、北約創(chuàng)新基金和牛津科學(xué)企業(yè)共同領(lǐng)投。目前，F(xiàn)ractile正在洽談融資2億美元，估值超過10億美元，潛在投資者包括Founders Fund、8VC和Accel。據(jù)報(bào)道，F(xiàn)ractile團(tuán)隊(duì)成員包括來自Graphcore、Nvidia和Imagination Technologies的工程師，該公司正在硬件開發(fā)的同時(shí)，構(gòu)建自己的軟件棧。

Anthropico 一直刻意避免依賴任何單一芯片供應(yīng)商，其 Claude 超級(jí)計(jì)算機(jī)分別使用英偉達(dá) GPU、亞馬遜的 Trainium 處理器（通過 Project Rainier 項(xiàng)目）以及谷歌的 TPU 運(yùn)行。去年 10 月，該公司宣布與谷歌達(dá)成協(xié)議，提供超過 1GW 的計(jì)算能力。今年 4 月初，雙方又將 TPU 計(jì)算能力擴(kuò)展至 3.5GW，合作期限從 2027 年持續(xù)到 2031 年。

Fractile 的熱度與 Anthropic 現(xiàn)有基礎(chǔ)設(shè)施需求的激增不謀而合。該公司 3 月份的年化營收突破 300 億美元，遠(yuǎn)高于 2025 年底的約 90 億美元，但其推理成本一直拖累著毛利率。與 OpenAI 和 xAI 等公司正在建設(shè)或擴(kuò)建其龐大的數(shù)據(jù)中心不同，Anthropic 選擇從多家供應(yīng)商租賃容量，并通過多元化的芯片供應(yīng)來獲得議價(jià)能力。

Fractile是眾多專注于推理的初創(chuàng)公司之一，它們都在致力于基于SRAM或近內(nèi)存架構(gòu)的研發(fā)，其他公司包括Groq和Cerebras。去年12月，英偉達(dá)以200億美元收購了Groq，隨后推出了其專用的推理加速器Groq 3 LPX，此舉旨在應(yīng)對(duì)日益增長的商業(yè)壓力，即大規(guī)模優(yōu)化每個(gè)代幣的成本。

（來源：編譯自tomshardware）

*免責(zé)聲明：本文由作者原創(chuàng)。文章內(nèi)容系作者個(gè)人觀點(diǎn)，半導(dǎo)體行業(yè)觀察轉(zhuǎn)載僅為了傳達(dá)一種不同的觀點(diǎn)，不代表半導(dǎo)體行業(yè)觀察對(duì)該觀點(diǎn)贊同或支持，如果有任何異議，歡迎聯(lián)系半導(dǎo)體行業(yè)觀察。

今天是《半導(dǎo)體行業(yè)觀察》為您分享的第4396內(nèi)容，歡迎關(guān)注。

加星標(biāo)??第一時(shí)間看推送

求推薦