Vitalik 分享本地私有 LLM 方案,強調隱私與安全優先
ChainCatcher 消息,Vitalik Buterin 發文分享其截至 2026 年 4 月的本地化、私有化 LLM 部署方案,核心目標是將隱私、安全與自主可控作為前提,儘量減少遠程模型及外部服務接觸個人數據的機會,並透過本地推理、文件本地存儲及沙箱隔離等方式降低數據洩露、模型越獄及惡意內容利用風險。
在硬體方面,其測試了搭載 NVIDIA 5090 GPU 的筆記本、AMD Ryzen AI Max Pro 128 GB 統一記憶體設備及 DGX Spark 等方案,並使用 Qwen3.5 35B 與 122B 模型進行本地推理。
其中,5090 筆記本在 35B 模型下可達約 90 tokens/s,AMD 方案約 51 tokens/s,DGX Spark 約 60 tokens/s。Vitalik 表示,其更傾向於基於高性能筆記本構建本地 AI 環境,同時使用 llama-server、llama-swap 及 NixOS 等工具搭建整體工作流。
猜你喜歡

Base的成長困境:為什麼一切都做對了,但使用者依然離去?

專訪HTX Ventures負責人Alec Goh,如何在快速輪動的市場中尋找Alpha

彭博社:預測市場巨頭互撕,Kalshi與Polymarket競爭白熱化

美國人說物價已經貴到活不起了,而原因就是7000億美元的AI投資

2026年,普通人如何開始量化交易?

OpenAI 聯創最新專訪:關停 Sora 後,ChatGPT 的下一步是什麼?

Q1市場回顧:傳統資產邁入鏈上時代;地緣動盪致加密市場承壓

2.85億美元,年度最大鏈上攻擊,還是最古老的私鑰問題

英偉達三年丟掉40%中國市場|Rewire 新聞早報

傳統券商殺入加密貨幣:盈透證券三個月閃擊加密市場

OpenAI完成史上最大融資,Anthropic比它更急著上市

特朗普演講引爆市場:未來兩三週「重擊伊朗」,油價狂飆、黃金大跌

一周兩次事故後,回看Anthropic七位聯創一年前如何談論「安全」

早報 | OpenAI 完成 1220 億美元融資;SpaceX 已秘密提交 IPO 申請;B2C2 將 Solana 設為機構穩定幣結算主網

Claw Wallet: 讓 Agent 的鏈上資產不再裸奔

DeFi 借貸協議 Drift 在 10 秒內被盜超 2 億美元,超 15 個項目受波及

WEEX 小丑牌二期重磅回歸,參與門檻更低、獎池更大
儲值 / 交易 / 分享活動 / 邀請好友,領取手牌;手牌滿 5 張即可出牌,手動 / 自動結算積分,瓜分每日獎池

澳洲加密支付激增,銀行阻礙仍存:調查
購物成為澳洲人使用加密貨幣的主要應用案例。 使用加密貨幣支付的澳洲人增加一倍,達到12%。 年輕投資者比年長者遭遇更多銀行交易延誤。 明確的法規可助解決銀行與加密交易間的障礙。 2023年澳洲銀行加強了對加密交易的限制。 WEEX Crypto News, 加密貨幣在澳洲購物中的崛起 澳洲在2026年見證了加密貨幣作為購物支付方式的飛速增長,使用者已翻倍。調查顯示,12%的澳洲人選擇加密貨幣購物,而這一數字在2025年僅為6%。此趨勢表明,越來越多的澳洲人不再將加密貨幣僅視為投機工具,而是一種實際的支付選擇。 線上購物引領潮流 在所有使用加密貨幣的消費者中,21%用於線上購物,成為最普遍的使用情境。另有16%的受訪者用於支付自由職業服務及遊戲購買。這反映出幣圈內的快速消費領域正日益將加密貨幣整合為日常交易方法。 [Place Image: Screenshot of Crypto Purchase…
