DDR5涨价催生RAMDeck众筹:整合闲置设备内存运行AI
TradeMAV推出RAMDeck众筹,整合闲置设备内存运行AI。DDR5涨价五倍催生此方案,基于llama.cpp RPC后端,将模型层分割至多机处理。早期价109美元,目标1万美元,性能以容量换速度。
共 1 篇相关文章
TradeMAV推出RAMDeck众筹,整合闲置设备内存运行AI。DDR5涨价五倍催生此方案,基于llama.cpp RPC后端,将模型层分割至多机处理。早期价109美元,目标1万美元,性能以容量换速度。