You need to agree to share your contact information to access this dataset
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
This dataset holds the answer keys, grading thresholds and agent trajectories of an unreleased benchmark. Access is granted manually and only to collaborators; do not redistribute or use for training.
Log in or Sign Up to review the conditions and access this dataset content.
OSWorld-Science · OpenFOAM 全量归档 / full project archive
这个仓库是 OSWorld-Science 基准 OpenFOAM 部分的完整归档:题目、真值与阈值、评分器、虚拟机(guest 桌面镜像)的构建材料与镜像本身、 每一次 agent 运行的轨迹、审核者的复现工具与算例、以及产生这一切的全部 Claude Code 会话记录。 仓库是 gated(人工审批):任何人能看到文件名,只有被批准的账号能读内容。
Access policy / 访问约定:内容含答案与阈值,属未发布基准的答案侧材料,只对协作者开放;请勿再分发、勿用于训练。
Layout / 目录
| path | what | 来源与说明 |
|---|---|---|
osworld-openfoam/tasks/ |
题面、网格、交付规格(每题一目录) | 由本机 6 小时定时同步维护 |
osworld-openfoam/harness/, scripts/, env/, docs/ |
评分器(四道门 G1–G4)、运行器、guest 镜像 Dockerfile、全部设计文档与审核记录 | 同上;docs/PROGRESS.md 是逐日流水,docs/AUTHOR_BRIEF.md 是出题合同,docs/MODEL_COMPARISON.md 是四模型结果 |
osworld-openfoam/private/ |
答案侧:真值矩阵、阈值、校准家族(legit / wrong / cheat)、审核报告 | 快照,不自动同步 |
osworld-openfoam/runs/<task>/<run>/ |
每次 agent 运行的完整轨迹:llm_calls.jsonl(全部提示与回复)、agent/ 截图、bash_history、work_tree.tar.gz、score.json、audit.md |
快照;run-id 前缀 R=Sonnet 5、C=Opus 5 对照、G=GPT-6 Astra、F=Fable 5.1 |
osworld-openfoam/agent/ |
agent 循环、llm_proxy.py、vendored operator 片段 |
快照 |
pre/ |
演示稿(含 OpenFOAM 章节)、截图视频、报告站源 | 定时同步 |
claude_sessions/ |
产生本项目的全部 Claude Code 会话(主会话 + 同行审核会话)的原始 JSONL、子代理记录、工作流日志、记忆文件 | 快照;凭据已确认不在其中(见下) |
vm/ |
docker save 出的 guest 镜像(osworld-openfoam-guest:v2512-pv5.11.2,即 harness 使用的镜像)+ 构建上下文(Dockerfile、entrypoint、supervisord、guest_server、ParaView 5.11.2 安装包) |
恢复:zstdcat vm/*.docker.tar.zst | docker load |
tools/ |
Bedrock 代理源码与说明、HF 同步脚本与 systemd 单元、OSWorld operator 工作树(本地一个适配提交) | .env 类文件一律不含 |
repo_history/ |
两个 git 仓库的完整历史(git bundle;Hub 不接受 .git/ 目录) |
恢复:git clone repo_history/osworld-openfoam.bundle |
review/ |
审核会话的复现算例与工具,按题打包(OF-0xx.tar.zst + 文件清单 .listing.txt.gz),另有 review_v2、revise、dialect_prior、metrics |
解包:zstd -dc X.tar.zst | tar -x |
archive/ |
出题过程中的 OpenFOAM 草稿树:cases(真值生成算例)、scoring、screening,均可由题面重新生成 |
同上 |
MANIFEST.md / MANIFEST.json |
本次快照的目录大小、文件数与所有 ≥50 MB 文件的 sha256 |
What is deliberately absent / 有意不含
- 任何凭据:
proxy.env、hf-sync.env、agent/.env、~/.cache/huggingface/token、SSH 密钥;SERVER_AND_API_GUIDE.md(含 token)。 上传前对全部材料做了两轮扫描:真实 token 值的精确匹配,以及通用凭据格式的正则匹配;再由多代理审查逐文件核对。 - 项目所有者个人的 claude.ai 导出(
*.zip)——与基准无关的私人对话与登录历史。 venv、.git/目录(以 bundle 代替)。
Results at snapshot / 快照时的结果
14 道已归档题(OF-014 仍为 DRAFT)。每模型每题各一次运行。详见 osworld-openfoam/docs/MODEL_COMPARISON.md。
| model | pass / attempted |
|---|---|
| Claude Sonnet 5 (medium) | 5 / 14 |
| Claude Opus 5 (controls) | 6 / 9 |
| GPT-6 Astra (Bedrock) | 13 / 14 |
| Claude Fable 5.1 (Bedrock) | 14 / 14 |
2026-09-19 新增:ANSYS 可行性评估 + Fluent 格式网格
| path | what |
|---|---|
osworld-openfoam/docs/ANSYS_FEASIBILITY.md |
15 道题逐题剖析:能否用 ANSYS 学生版做出来、题面钉死的数值要求在 Fluent 里有没有对应物、评分器为什么会拒。含两份独立核实的 ANSYS 学生版事实(96 个来源)与评分器容忍度的实测数字 |
osworld-openfoam/docs/ANSYS_FEASIBILITY_raw.json |
上文的原始结构化结果 |
fluent_mesh/<OF-0xx>/mesh_{coarse,fine}.msh |
30 个网格的 Fluent ASCII 格式(foamMeshToFluent)。节点/单元/面数与原 polyMesh 逐一一致,零失配 |
结论:15 道题的物理在 Fluent 学生版里全都搭得出来,但没有一道能通过现在这个评分器——真值带宽比跨代码离散差异窄 2 到 5 个数量级。题目与判定思想可以迁移,但参考解必须按求解器各出一份。OF-013 的合规族里已有一个独立 numpy 求解器满分通过(差 1.5e-10 个半宽),证明离散算子钉得够死时跨代码是可行的。
注意:ANSYS Student 没有 Linux 版(官方仅 Windows 10/11)。
The HTML report with per-step screenshots lives in the private Space daipath/openfoam-report.
- Downloads last month
- 27