近期,名为“Jev”的概念在社交媒体上引发关注,被部分观点视为大语言模型(LLM)和人工智能范式的下一个前沿。然而,从技术实现角度来看,Jev 的核心逻辑可以通过极简的 Python 代码复现。以下展示了一个仅用约 25 行 Python 代码实现的本地化分类模型示例。

首先,加载预训练模型。该示例使用 Qwen3-0.6B-GGUF 量化模型:
import numpy
from llama_cpp import Llama
model = Llama.from_pretrained(
repo_id="Qwen/Qwen3-0.6B-GGUF",
filename="Qwen3-0.6B-Q8_0.gguf",
n_ctx=512,
logits_all=True,
verbose=False,
)
接着,构建提示词并定义分类选项。此处以电子邮件分类为例,包含“合法”、“垃圾邮件”和“钓鱼邮件”三个标签:
labels = ["A", "B", "C"]
choices = ["Legitimate", "Spam", "Phishing"]
email = "Payroll asks for your password on a non-company sign-in page."
options = "\n".join(
f"{label}. {choice}" for label, choice in zip(labels, choices, strict=True)
)
prompt = f"""<|im_start|>system
Choose one option.<|im_end|>
<|im_start|>user
Email: {email}\n\n{options}<|im_end|>
<|im_start|>assistant
<think>\n\n</think>\n\n"""
model.eval(tokens=model.tokenize(text=prompt.encode(), add_bos=False, special=True))
最后,通过提取模型输出的 Logits 计算各选项的概率分布:
logits = model.scores[model.n_tokens - 1]
token_ids = [model.tokenize(text=label.encode(), add_bos=False)[0] for label in labels]
choice_logits = numpy.asarray([logits[token_id] for token_id in token_ids])
logprobs = choice_logits - numpy.logaddexp.reduce(choice_logits)
probabilities = numpy.exp(logprobs)
for name, scores in (
("Logits", choice_logits),
("Log probabilities", logprobs),
("Probabilities", probabilities),
):
values = numpy.round(scores.astype(float), 3).tolist()
print(f"{name}:", dict(zip(choices, values, strict=True)))
与传统 AI 方法的差异
上述实现方式与当前主流的大模型应用范式存在显著区别:
- 未采用所谓的“系统一”决策模式。
- 未依赖外部 API 调用。
- 未生成合成数据。
- 未使用强化学习校准决策(RLCD)来专门训练模型的决策校准能力。
核心特性
尽管实现简单,该方案具备以下关键特征:
- 分类功能:能够接收选择提示并输出对应概率。
- 高性能:运行速度快。
- 本地化处理:所有计算均在本地完成。
- 隐私保护:数据无需发送至第三方服务器。
目前已有更完整的开源实现可供参考,包括 OpenJev、openjev-sglang 以及基于 DiffusionGemma 的 OpenJev 项目。





