---
license: apache-2.0
language:
- en
base_model:
- Qwen/Qwen3-8B
pipeline_tag: text-generation
library_name: transformers
tags:
- agent
- tool-use
- multi-turn
- os-agent
- execution-grounded
- sft
- qwen3
---

# ISETrace-SFT-8B

[English](README.md) · 简体中文

**在 [ISETrace](https://huggingface.co/datasets/valiere/ISETrace) 上对 Qwen3-8B 进行监督微调得到的 OS 智能体模型——训练数据为 ISE（意图 → 模拟 → 执行）范式合成的、执行落地的多轮 OS 智能体轨迹。**

ISETrace-SFT-8B 是在 ISETrace 语料上对 Qwen3-8B 做的全参数监督微调（SFT）。ISETrace 包含 23,132 条多轮 OS 智能体轨迹，其中每一次工具调用都在真实、隔离的操作系统工作区中实际执行。该模型面向 macOS/Linux 终端环境下长程、连贯、带工具使用的任务完成。

- 📄 **论文：** [arXiv:2606.11520](https://arxiv.org/abs/2606.11520)
- 🤗 **训练数据：** https://huggingface.co/datasets/valiere/ISETrace
- 🛠️ **流水线（伞库）：** https://github.com/Valiere01/ISE-Trace
- 🧩 **阶段 1 — 意图构造：** https://github.com/NairongZheng/intent_creator
- ⚙️ **阶段 2+3 — 模拟 + 执行：** https://github.com/NairongZheng/openclaw_gen_data

---

## 模型信息

- **基座模型：** [Qwen/Qwen3-8B](https://huggingface.co/Qwen/Qwen3-8B)（82 亿参数，36 层，GQA 32/8 头，YaRN rope scaling）
- **训练：** 在 ISETrace 轨迹语料上做全参数监督微调
- **上下文长度：** 最长 40,960 token（训练时 `max_length`）；基座配合 YaRN 支持 131,072
- **精度：** bfloat16
- **格式：** 标准 HuggingFace `Qwen3ForCausalLM` safetensors，可直接用 `transformers` 加载

该模型面向**多轮 OS / 工具使用智能体**交互：输出 `<tool_call>...</tool_call>` 块，消费 `<tool_response>...</tool_response>`，并维持长程任务完成对话。使用 Qwen3 对话模板（随仓库提供 `chat_template.jinja`）。

---

## 用法

```python
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_id = "valiere/ISETrace-SFT-8B"
tok = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id, torch_dtype=torch.bfloat16, device_map="auto"
)

messages = [
    {"role": "user", "content": "列出 /var/log 下最大的 3 个文件并告诉我它们的大小。"},
]
inputs = tok.apply_chat_template(
    messages, add_generation_prompt=True, return_tensors="pt"
).to(model.device)

out = model.generate(inputs, max_new_tokens=512, temperature=0.7, top_p=0.8)
print(tok.decode(out[0][inputs.shape[1]:], skip_special_tokens=True))
```

工具使用时，在 `apply_chat_template` 中通过 `tools=` 传入工具 schema，模型会产出
OpenAI 风格的工具调用。生产环境建议用 vLLM / SGLang 部署以获得高吞吐。

---

## 适用范围与局限

ISETrace-SFT-8B 面向 **macOS/Linux 终端智能体**任务——shell 执行、文件操作，以及用户模拟器下的
多步工具使用。它**不**覆盖 Windows、GUI 交互或浏览器自动化。作为研究 checkpoint，它继承了
Qwen3-8B 的偏见与知识截止时间，以及 ISETrace 语料的分布特征。

基于该模型构建的智能体所发起的工具调用会执行**真实命令**；在授予文件系统或网络访问权限前，
请做好沙箱隔离。

---

## 许可与引用

本模型是 **Qwen3-8B** 的衍生模型，遵循基座模型采用 **Apache 2.0** 许可证发布。
ISETrace 训练数据另以 CC BY 4.0 许可证单独发布。

```bibtex
@misc{isetrace2026,
  title        = {From Intent to Trajectory: Execution-Grounded Multi-Turn Data Synthesis for OS Agents},
  author       = {Valiere01},
  year         = {2026},
  howpublished = {\url{https://github.com/Valiere01/ISE-Trace}},
  note         = {Paper link forthcoming}
}
```