论文 · 方法 · 引用

神经操作系统
与 GUI 世界模型

神经模型能否学会计算机在交互中的行为与状态?

这份阅读指南从可学习的计算机模拟器出发,连接生成式界面、动作条件视频预测和交互式世界模型。图形用户界面(GUI)中的一次点击,不仅要生成合理的画面,还要改变正确的控件,并保留此前的状态。

阅读 13 篇论文从研究方向入门 →

三条阅读路线

先理解问题,再比较方法和证据。

模拟环境与操作计算机的智能体

GUI 智能体观察屏幕、选择操作,并把操作交给真实应用。GUI 世界模型预测操作之后的变化。NeuralOS 学习的是环境:它根据输入生成后续桌面画面。预测文本变化的 Web Agents with World Models、预测移动屏幕的 ViMo,以及生成可渲染界面代码的 Code2World,提供了不同的预测表示与规划方法。

NeuralOS 与 Genie 都研究可交互的生成环境。Genie 从没有动作标签的视频中学习潜在动作;NeuralOS 使用明确的鼠标与键盘事件学习桌面交互。两者的控制方式、训练数据与评测设置不同。阅读方法比较与原始来源 →

一条简短的阅读顺序

NeuralOS → GameNGen → DIAMOND → ViMo → Code2World → OSWorld

下载中文导读和文献数据 →