Instructions to use XHToken/Spark-X2.6-4B with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use XHToken/Spark-X2.6-4B with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="XHToken/Spark-X2.6-4B", trust_remote_code=True) messages = [ {"role": "user", "content": "Who are you?"}, ] pipe(messages)# pip install -U transformers accelerate # Load model directly from transformers import AutoModelForCausalLM model = AutoModelForCausalLM.from_pretrained("XHToken/Spark-X2.6-4B", trust_remote_code=True, device_map="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use XHToken/Spark-X2.6-4B with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "XHToken/Spark-X2.6-4B" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "XHToken/Spark-X2.6-4B", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker
docker model run hf.co/XHToken/Spark-X2.6-4B
- SGLang
How to use XHToken/Spark-X2.6-4B with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "XHToken/Spark-X2.6-4B" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "XHToken/Spark-X2.6-4B", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "XHToken/Spark-X2.6-4B" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "XHToken/Spark-X2.6-4B", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }' - Docker Model Runner
How to use XHToken/Spark-X2.6-4B with Docker Model Runner:
docker model run hf.co/XHToken/Spark-X2.6-4B
[HER Hack-Astron # 7] [公益应用] 通知小卡:保留原文的社区通知阅读原型
我以个人身份参赛,Hugging Face 账号为 zixinli,GitHub 账号及公开署名为 zjj20040618-sudo。
作品与公益目的
通知小卡面向需要逐条阅读社区公告的居民,提供“直接看原文分段”和“AI 辅助改写”两个入口。它把通知按段排列,提供较大字号和原文对照,帮助读者核对登记时间、上课时间、人数及资格限制。
这是无障碍阅读与社区服务方向的原型。预期作用是方便核对,目前没有证据证明阅读速度或理解正确率已经提高。
Spark 在应用中的作用
本机运行 Spark 社区量化模型。模型接收完整通知及程序划分的原文单元,生成与单元 ID 对应的逐段改写。固定标题、原文引句、格式检查及页面展示由程序处理;“原文分段”不调用模型。
当程序无法确认某条改写保留了时间限定时,正文优先显示该条完整原文,并标注“采用原文 · 改写待核对”。模型原始改写保留在折叠区,检查原因和原始卡片也保留在处理记录中。告警可能来自同义表达变化,不能单凭提示认定模型事实错误。
2026-10-24 实际图文演示
以下输入是项目构造的合成通知,不是真实机构公告:
【合成通知】公益摄影课共有15个名额。11月2日9:00开始在社区服务台现场登记,按登记顺序安排,额满即止。课程11月9日14:00开始。登记成功后才能参加,请勿把登记开始时间当作上课时间。
实际操作过程为:输入通知 → 点击原文分段 → 对同一输入实际调用模型 → 展开原始改写及处理记录。运行名为 live-20261024-100145-c3785dc0,保存状态为 complete / stop。
该次运行记录耗时 33.815 秒;页面整次请求等待 39.773 秒,包含额外接口开销。两者不是同一计时范围,也不是阅读速度收益指标。
模型原始输出为:
- 公益摄影课共有15个名额。
- 11月2日9:00,在社区服务台现场登记。按登记顺序安排,名额满就停止登记。
- 课程11月9日14:00开始。
- 登记成功后才能参加。不要将登记开始时间当作上课时间。
第 2 条丢失了原文的“开始”。程序给出 temporal_qualifier_unverified 提示,页面实际优先展示对应完整原文,并允许展开上述原始改写。这里修正的是展示方式,不能把程序采用原文记成模型自行改对。第 1、3 条逐字复制原文。
下列五张图片均为实际浏览器页面直接截图,没有重绘,也没有另做视频:
- 输入通知:保留合成通知全文和两个处理入口。

- 直接分段:展示程序复制的原文片段,此步骤不调用模型。

- 模型结果:展示实际返回结果、时间限定提示和来源标记。

- 来源与处理记录:展开原始改写及该次输入、输出和运行记录。

- 采用原文的条目细节:同时展示完整原文、提示及保留的原始改写。

模型来源与运行环境
- 模型项目:XHToken/Spark-X2.6-4B。实际使用
bartowski/Spark-X2.6-4B-GGUF的Spark-X2.6-4B-IQ4_XS.gguf,为社区 IQ4_XS 量化。 - 固定量化上传 revision:
2f72ab291280b794cb26f81bd1bd214605e29e79。 - GGUF SHA256:
83a6ede7deb5a25617648cd289959c67ff8870bfc972274439f519c75bae1276。 - 框架:llama.cpp
b11716,commit797de63b2fa7396dcc8caca76834c699ac84e1c3,官方 Windows CPU 便携包。 - 环境:Windows 11 家庭版中文版
10.0.26200,Python3.12.11,Intel Core Ultra 9 185H,安装 RAM 32 GiB,系统可见物理内存约 31.61 GiB。 - 参数:CPU threads=2,GPU offload=0,context=2048,temperature=0,seed=42,最大输出800 tokens,reasoning off。进程提交内存上限为3.5 GiB,这不是机器总内存;2线程也不是CPU总核心数。
量化实际使用的基础权重精确 revision 仍未知。GGUF 的 general.name 为 Spark X2.6 4B,父模型元数据指向 Spark-X2.6-4B-Base。父模型谱系不能直接证明直接量化来源,不能用当前上游 commit 填补这一缺口,也不将该文件称为 XHToken 官方量化。核查记录见附件内 candidate/MODEL-PROVENANCE-CHECK.json。
附件与复现
- 文件大小:1,266,364 字节。
- SHA256:
78a717461d35749a74e46376933ff4d55da51ee16295a7cd97e0cbb71f6074ac。 - 包含复现源码、固定下载脚本、软件检查素材、真实运行记录和上述五张原图;不包含模型权重、运行 EXE 或 DLL。
- 项目代码尚未选定通用开源许可,本附件不标称“已开源”。
在 Windows 上解压后,先读根目录 PUBLIC-README.txt 和 submission-candidate/START.txt。在包根目录执行:
python fetch_runtime.py
cd submission-candidate
python notice_app.py --minutes 30
下载脚本按固定来源和 SHA256 获取约2.36GB模型及运行包,已有通过校验的依赖会复用。运行前另保留2GiB磁盘,并保留运行包配套DLL。打开终端给出的本机地址即可使用。下载连接 GitHub 和 Hugging Face;推理在本机CPU执行。未验证其他电脑的兼容性或速度。
完整提示与该次请求可在附件内查阅:
submission-candidate/generate_cards.py:系统提示及请求生成逻辑。submission-candidate/runs/live-20261024-100145-c3785dc0/system-prompt.txt:该次系统提示原文。submission-candidate/runs/live-20261024-100145-c3785dc0/notice/request.json:该次完整 system/user 消息、输出格式约束及请求参数。
对应目录还保存原始模型响应、卡片、校验结果和源码快照;MANIFEST.json 提供逐文件散列及既有路径脱敏记录。输入限制为2000字、20个单元,并检查实际token预算;超限拒绝,不静默截断。
观察与局限
旧固定版本实际生成6条合成通知、共22条正文;自动检查当时未报错,助手案头核对仍发现时间限定遗漏。22条正文中8条逐字复制原文,因此不能把检查通过或生成成功当成准确率及用户收益。
当前版本另保存图书交换通知的一次真实生成(live-20261023-131617-070a5ddd,31.089秒)和本次摄影课演示。两次各自保留记录,不并入旧6例,也不属于独立留出评测。
时间限定修订有38项软件检查,展示修订有8项使用最小DOM替身的组件检查;软件检查和存档回放没有增加模型样本数。本次五张截图是实际操作证据,不代表全面跨浏览器验证。
时间限定规则保守,可能误报;复杂条件、否定变化、未识别的时间写法和一般语义错误仍可能漏过。尚无独立真人评测,也没有已证实的阅读收益。原型不替代正式公告,具体安排仍应核对原始通知。
个人贡献与 AI 辅助披露
本人提出需求和修改意见,确定原型及投稿推进方向。Codex 辅助完成资料整理、应用代码与测试、合成案例、文档、助手案头核对,以及实际页面操作和截图保存;不将助手检查计作真人用户研究,AI不计作真人参赛者。
应用运行时由上述 Spark 社区量化模型生成逐段改写。固定标题、原文复制、校验和展示由程序完成。全部演示通知均为项目构造的合成文本,不使用真实机构公告或私人数据。
2026-10-26 技术补充(同一作品)
本次补强继续保留原文与未经修补的模型输出,增加可复查的运行证据和实际阅读交互。旧版本与原投稿材料继续保留。
实际使用与截图
- 新增逐条阅读、上一条/下一条、完整原文/完整列表切换、返回输入和本地保存阅读文本。每条注明“AI辅助改写”“原文”或“采用原文”,可展开核对原始改写。
- 手机375px宽、正文30px字号实际浏览器验收无横向溢出;工具栏已压缩,首屏可读到正文。截图来自真实运行,无界面重绘。
- 在原时间限定规则之外,新增数字出现次数与资格/否定/条件分句的保守检查。未确认的条目优先显示对应原文,程序不补写模型文本。提示可能误报,未提示也不保证语义正确。
新固定合成集实跑
在推理前固定六份校园通知(涉及登记与上课时间、资格排除、容量/截止、明示相对日期、条件地点、未公布安排)和18道有原文依据的问题。六份均为AI助手构造并案头核对的合成材料,不是独立留出基准。
- 固定批次
eval-20261026-090902:6/6生成完成;31个原文单元中21个由产品优先回退显示原文。不能把这一比例当错误率或正确率。 - 本机chat-completions请求壁钟耗时25.835–36.540秒,中位数29.561秒;包含localhost HTTP、响应落盘和JSON解析,不含启动、权重校验与页面渲染。
- AI逐句案头核对未见明确关键事实冲突,但没有独立人工标签,因此不声称100%准确。部分保守提示来自正确同义表达,例如原文明示“明天=11月13日”,模型重复显式日期也会触发数字次数提示。
- 已知漏检:
15元→15人数字相同,数字检查仍可能漏过。复杂语义关系、中文数字等仍需核对原文。 - 另外两次实际浏览器AI按钮生成单独存档,未混入上述六案。原始请求/响应、系统提示、源码快照、规则提示、进程退出记录均在包内。
- 26项Python检查、21项呈现/交互检查、12项对照页检查通过。59项是软件检查数,不是模型样本数或用户收益。
匿名阅读对照材料已可用;真人结果仍为0
三种呈现为整段原文、程序分段原文和真实AI辅助小卡(含产品原文回退)。每人每篇只看一种,分配顺序平衡,选项随机化。可自愿退出、清空并主动下载本机JSON/CSV,不收姓名或联系方式,不自动回传。
离线页 upgrade-20261026/study-offline.html 可直接打开。汇总工具区分本人自报会话、助手试运行、退出与未完成,复核选项映射及得分,并排除冲突重复记录;不能凭匿名编号核实身份或独立人数。目前没有真实参与者结果,尚无已证实的阅读收益。助手试运行和软件检查不计入真人样本。
复现、资源与模型来源
下载2026-10-26补强公开包,先读 PUBLIC-README.txt 和 upgrade-20261026/START-20261026.txt。
ZIP为2,189,969字节,SHA256:0bac8f5376099800880258340f8bb4c08f00e166dad20f06048cada7c26cd423。包内保留旧版和逐文件MANIFEST,不含权重、运行EXE/DLL或未完成下载。原始响应与源码快照散列已校验;本机绝对项目路径仅在打包副本中脱敏。
Windows x64 / Python3.12,固定llama.cpp b11716;CPU2线程、GPU0、上下文2048、最多600输出tokens。模型子进程提交内存上限3.5GiB;开始前检查物理/提交余量,运行中余量过低仅停止本任务模型进程。三次运行均有退出确认。未在其他电脑验证模型运行,也不保证内存保护能防止所有内存不足。
实际仍使用社区 bartowski/Spark-X2.6-4B-GGUF 的IQ4_XS:上传revision 2f72ab291280b794cb26f81bd1bd214605e29e79,SHA256 83a6ede7deb5a25617648cd289959c67ff8870bfc972274439f519c75bae1276,每次启动前重新核验。原始权重精确commit和直接转换记录仍未知。新核查补存了官方卡及固定社区仓库的公开原文;Base父模型字段不能单独证明直接量化来源。官方Q4_K_M下载因实测带宽与有界时间未完成,未用于任何结果,不写成已经切换官方量化。
Codex辅助完成本轮代码、合成材料、测试、AI案头核对、实际浏览器操作与技术说明;不作为真人读者或参赛者。项目尚未选定通用开源许可,可下载源码不等于通用开源授权。此补充保留原投稿的全部局限与个人贡献披露。
操作录像与单位校验修订(2026-10-28)
录像展示通知输入、分段、一次真实 Spark 本机推理及完整等待、逐条阅读、原文核对、程序回退、文本保存与匿名体验入口,包含鼠标和点击高亮。录像录于10月27日,展示上一版应用;本次新增单位校验未出现在录像中。
10月28日修订补上了同一数字更换单位的漏检,例如“15元”被改成“15人”。新版对已覆盖的常见单位检查数值、单位、出现次数和费率分母;发现无法核验的一致性时,阅读正文优先显示对应原文,模型原始改写仍保留供核对。
验证结果:80项软件检查通过;20项独立手写行为用例中,17项范围内用例全部通过,另3项明确属于覆盖范围外。真实浏览器也核验了原文回退、原始改写保留、文本下载及375 CSS px视口/30 px字号;该新增缺陷回归使用手写模型响应,不算真实模型推理样本。已有6案31个源单元只做重新校验,回退仍为21处;本次修订没有新增模型调用。
复现包保留历史版本与原始运行记录,解压后从 unit-guard-20261028/REVISION-README.txt 开始。文件为2,713,318字节,SHA256:30acdc5e483c8ec90bbc76203061c48b88addba8f7858441101258e0e0317d22。
边界与披露:单位规则只覆盖有限常见写法,仍可能漏检或误报,不能保证全部语义正确。代码、测试、合成材料与录制由Codex协助完成;录像由助手操作,通知内容和旁白为合成,手机画面为浏览器视口模拟。没有新增真人参与者,也没有真人理解或阅读耗时收益结论。模型配置、来源局限及其他披露沿用原帖与上一条技术补充。




