Janas：通过从 SSD 流式传输专家模型来运行超过内存容量的大模型

Janas 是一项新技术，允许在内存不足的情况下，通过从 SSD 实时读取模型专家参数来运行大型 LLM。