35美元淘旧矿机获54GB显存跑本地大模型
Reddit用户35美元淘回旧矿机,成功激活九块P106显卡获54GB显存。该设备基于Pascal架构,虽受带宽限制,但运行Qwen3.6-35B模型时推理速度超每秒30个token,展现了极低成本下的本地大模型潜力。
共 3 篇相关文章
Reddit用户35美元淘回旧矿机,成功激活九块P106显卡获54GB显存。该设备基于Pascal架构,虽受带宽限制,但运行Qwen3.6-35B模型时推理速度超每秒30个token,展现了极低成本下的本地大模型潜力。
PoeLLM恶意软件借对抗性诗歌劫持AI算力。Black Lotus Labs披露,该攻击自4月起感染超3000台服务器,利用诗句隐藏指令绕过安全护栏,主要滥用LiteLLM等开源系统挖掘加密货币并组建僵尸网络。
LibreDB Studio 0.15.0发布,支持浏览器端访问。该工具兼容42种数据库,实测28个AI模型,最快响应仅6秒,利用数据库原生机制保障只读安全。