AI新創Tiiny AI發表口袋超級電腦Pocket Lab。其搭載客製化Arm處理器與80GB記憶體，結合TurboSparse與PowerInfer技術，標榜可於終端執行120B參數大型語言模型。AI新創Tiiny AI發表口袋超級電腦Pocket Lab。其搭載客製化Arm處理器與80GB記憶體，結合TurboSparse與PowerInfer技術，標榜可於終端執行120B參數大型語言模型。
新創公司Tiiny AI公開可執行120B AI模型的口袋尺寸AI電腦 搭12核Arm CPU與NPU與80GB記憶體
一家AI新創公司Tiiny AI宣布將在CES展示口袋尺寸的超級電腦Tiiny AI Pocket Lab，外表像是一顆大功率行動電源，但卻足以執行120B參數的大型語言模型，且僅需極低的功耗，關鍵在於該平台搭載一顆客製化的Arm架構CPU異構處理器與高達80GB的記憶體。
▲Tiiny AI Pocket Lab採用客製化CPU搭配獨立NPU的異構運算，約190TOPS性能與80GB記憶體足以執行120B參數模型
根據官方資料，Tiiny AI Pocket Lab採用SoC與獨立NPU的客製化異構運算模組，可提供約190TOPS的性能，平台約30WTDP、實際能耗約65W；雖然已AI平台而言性能不算太好，但借助搭載80GB LPDDR5記憶體，足以在裝置端執行120B參數模型。
▲實現執行120B模型的關鍵是利用稀疏化技術與開源的異構推論引擎
除了龐大的80GB記憶體以外，Tiiny AI利用兩種技術使其可執行120B參數模型，一種是基於神經元等級的稀疏化技術TurboSparse，另一種則是可動態把運算負載分配到CPU與GPU、並於GitHub開源的異構推論引擎PowerInfer。
雖然DeepSeek掀起一股AI模型精簡瘦身的風潮，不過現實就是經過瘦身後參數較大的模型仍有其優勢，導致不少專為推論開發的新平台紛紛把重點放在「可執行」大型模型而非追求純性能，故具有大容量的記憶體也成了另一種方式；然而除了對於該平台實際表現仍待經過驗證外，隨著近期記憶體價格飆漲也對這款配置80GB LPDDR5x的產品的量產能力與價格增添變數。
免責聲明: 本網站轉載的文章均來源於公開平台，僅供參考。這些文章不代表 MEXC 的觀點或意見。所有版權歸原作者所有。如果您認為任何轉載文章侵犯了第三方權利，請聯絡 service@support.mexc.com 以便將其刪除。MEXC 不對轉載文章的及時性、準確性或完整性作出任何陳述或保證，並且不對基於此類內容所採取的任何行動或決定承擔責任。轉載材料僅供參考，不構成任何商業、金融、法律和/或稅務決策的建議、認可或依據。
您可能也會喜歡
老饕私藏的板橋人氣早午餐店 精心手作打造滿滿早晨儀式感
美食中心/綜合報導 巷弄中的板橋質感早午餐 新北手作輕食新地標 在亞東捷運站附近的一條靜巷裡，有一間名為食月午 […] 這篇文章 老饕私藏的板橋人氣早午餐店 精心手作打造滿滿早晨儀式感 最早出現於 民生頭條。
分享
Lifetoutiao2025/12/14 22:05
SoFi 成為首家連接 TradFi 與 DeFi 的銀行進軍加密貨幣領域
SoFi 作為首家連接 TradFi 和 DeFi 的銀行進軍加密貨幣領域的文章發表在 BitcoinEthereumNews.com。SoFi Technologies 已正式推出其消費者加密貨幣交易服務，這家數位金融服務提供商達成了成為首家提供應用內加密貨幣交易給客戶的全國特許銀行的里程碑。摘要 SoFi 已為客戶推出加密貨幣交易服務，支持 Bitcoin、Solana 和 Ethereum 等加密貨幣。此舉使該貸款機構成為首家為消費者推出加密貨幣交易的全國特許銀行。正在籌劃中的計劃包括穩定幣和加密貨幣借貸。在 11 月 11 日的公告中，該銀行表示已推出 SoFi Crypto，這是一個現在允許消費者不僅可以使用銀行服務，還可以交易加密貨幣的平台。客戶現在可以購買、出售和持有 Bitcoin (BTC)、Ethereum (ETH) 和 Solana (SOL) 等加密貨幣。根據詳細信息，該加密貨幣解決方案旨在服務於尋求銀行級穩定性和安全性的首次投資者和有經驗的加密貨幣愛好者。SoFi 的里程碑 該銀行的加密貨幣服務僅在有報導稱 SoFi 計劃重新進入數位資產交易領域幾個月後就上線了。"今天標誌著銀行業務與加密貨幣在一個應用程式中相遇的關鍵時刻，在一個值得信賴的平台上，並由我們幫助會員正確管理資金的核心使命驅動，"SoFi 首席執行官 Anthony Noto 表示。根據 Noto 的說法，區塊鏈技術即將從"各個方面"根本性地改變全球金融。對加密貨幣的採用已經使資金流動變得更快、更便宜和更安全。區塊鏈還開闢了人們借貸、投資、消費和儲蓄的新方式，該銀行期望與這些收益一起成長。"為我們的會員提供一個安全且受監管的方式進入貨幣的未來至關重要。作為首家也是唯一一家推出加密貨幣的全國特許銀行...
分享
BitcoinEthereumNews2025/11/12 02:11
山寨幣：ETF浪潮爆發 – XRP、SOL、LTC、HBAR、DOGE、LINK和新機會的出現
當所有目光都聚焦在 Solana (SOL) ETF 上，其總資金流入約為 $682 百萬時，XRP ETF 悄然超越，達到 $874 百萬 — 儘管 SOL 產品先行推出。同時，一系列與 LTC、HBAR、DOGE 和 LINK 相關的新 Altcoin ETF [...]
分享
Bitcoinist2025/12/08 15:25