ARTEMIS: 下一代 AI 驱动的移动端自动化测试与个人助理平台
_{Autonomous Real-time Testing, Exploration & Mobile Interaction System}

⚡ 让 Antigravity / Claude Code 测试真机 • 跨 App 复杂自动化 • 零脚本维护自动化测试 • 智能 Bug 复现与 Logcat 诊断

English • 中文文档 • 全流程演示 • 快速上手 • MCP 接入 IDE • 基准评测 • Discord 社区

Artemis 演示效果
实机演示：在 Google Maps 中设置驾车路线并计算总耗时，随后打开 YouTube 播放 Coldplay 的歌曲。

## ✨ 核心亮点 * 🤖 **跨 App 复杂自动化与 AI 个人助理**：不仅能执行严格的自动化测试用例，更具备接管真机的自主决策与长流程操作能力，一句话处理跨应用复杂业务与任务； * 🧪 **零脚本维护自动化测试**：基于“动态优先、坐标兜底”的多模态语义定位，彻底告别传统 XPath / 控件 ID 频繁失效的痛点，无惧 App 改版、分辨率差异与系统升级； * 🐞 **IDE 内一键 Bug 复现与 Logcat 诊断**：原生支持 **MCP 协议**，可在 **Antigravity、Claude Code、Windsurf** 中直接用自然语言驱动真机复现缺陷，自动抓取关键帧截图与 **Logcat 崩溃堆栈**，完成研发测试闭环； * ⚡ **极速执行吞吐（单步 3–5 秒）**：首创**全链路乐观异步流水线 (Optimistic Async Pipeline)**，解耦重度推理与页面操作，在 Flash 模式下实现丝滑的高频交互与快速回归验证； * 🛡️ **干扰弹窗自愈与超长程巡检**：独创 **Safety Net** 执行前校验机制，自动识别并清除系统权限弹窗、通知遮挡等异常；Pro 模式支持连续 **10+ 小时** 无人值守稳定性巡检与探索性测试 (Exploratory / Monkey-plus Testing)； * 🏆 **业界顶尖 SOTA**：在 Google Research **AndroidWorld** 基准评测（100+ 复杂长程系统与应用交互任务）中取得 **99%+ 任务完成率**。 ## 🤝 Antigravity × ARTEMIS：全流程自主测试演示通过原生 MCP 协议，**Antigravity** 与 **ARTEMIS** 深度协同——只需一句自然语言指令，即可自动完成从需求理解、测试规划、真机执行到深度报告输出的完整闭环：

1️⃣ 输入测试提示词 (Task Dispatch) _{在 Antigravity 中用自然语言描述测试需求与目标指标}	2️⃣ 生成测试方案 (Test Plan Generation) _{自动拆解任务，生成详细测试步骤与架构图供确认}
3️⃣ 自主执行测试 (Autonomous Test Execution) _{接管真机自动化操作，跳过广告并实时采集性能指标}	4️⃣ 交付最终报告 (Comprehensive Final Report) _{生成结构化测试报告，交付性能图表、结论与原始数据}

## ⚡ 快速上手确保电脑已连接 Android 实体机（已开启 **USB 调试**）或 Android 模拟器。 ```bash # 1. 克隆代码仓库并进入目录 git clone https://github.com/google/artemis.git && cd artemis # 2. 一键启动（自动检测并安装 ADB、scrcpy、FFmpeg、uv 运行时等全部依赖，并拉起控制台） # 🍎 macOS & 🐧 Linux ./start.sh # 🪟 Windows (CMD / PowerShell) start.bat ``` > 💡 **提示**：启动后将自动在默认浏览器中打开 Web 控制台（`http://localhost:8000`），提供设备连接向导、实时投屏、任务演练与状态回放面板。你也可以通过命令行直接运行：`artemis run "打开系统设置，找到电池选项并告诉我当前电量" --profile flash`。

🔌 接入 Antigravity / Claude Code / Windsurf (MCP)（点击展开）

ARTEMIS 内置原生 **Model Context Protocol (MCP)** 服务。只需将以下配置加入你的 IDE 配置文件中，即可在编写代码时直接驱动真机： ### 1. 生成或查看配置运行内置命令一键获取当前环境的完整配置 JSON： ```bash artemis mcp --generate-config antigravity # 或生成所有 IDE 配置： artemis mcp --generate-config all ``` ### 2. 复制配置到 IDE * **Antigravity** (MCP 配置文件或设置 ➔ MCP Servers)： ```json { "mcpServers": { "artemis": { "command": "python", "args": ["-m", "mcp_server"], "cwd": "/path/to/artemis", "env": { "PYTHONUNBUFFERED": "1" } } } } ``` * **Claude Desktop** (`claude_desktop_config.json`)： ```json { "mcpServers": { "artemis": { "command": "python", "args": ["-m", "mcp_server"], "cwd": "/path/to/artemis" } } } ``` ### 3. 挂载智能体行为规范 Rules（强烈推荐）为使 AI 编程助手具备资深移动端测试工程师的严谨思维，避免凭空臆测 UI 交互，我们提供了专属的测试思维行为规范文件 [`mcp_server/rules.md`](./mcp_server/rules.md)（涵盖**可运行代码原则与真机探索**、**Flash 与 Pro 任务路由策略**、**延迟与时间补偿机制**以及**“动态优先、坐标兜底”定位模式**）。你可以将 [`mcp_server/rules.md`](./mcp_server/rules.md) 挂载或复制到你的 AI IDE 规则配置中： * **Antigravity**：将 `rules.md` 内容添加至工作区规则（Workspace Rules）或全局规则设置中。 * **Claude Code**：将 `rules.md` 内容复制或引入至项目根目录的 `CLAUDE.md` 文件中。 * **Cursor**：将内容复制到 `.cursorrules` 文件或在 `.cursor/rules/artemis.mdc` 中创建新规则。 * **Windsurf / OpenClaw**：将内容添加到工作区规则或全局 System Prompt 中。 > 💡 更多规范设计细节与 MCP 架构说明，请参阅 [MCP Server 文档](./mcp_server/README.md)。 ### 4. 在 IDE 中体验真机协同在 Antigravity / Claude Code 对话框中直接输入： > 💬 *"请帮我把刚刚修改的代码编译成 APK 并安装到手机上，打开登录页面输入测试账号，验证登录后是否有异常弹窗，并把最终页面截图回传。"*

🐍 Python SDK 极简集成（点击展开）

只需几行代码，将移动端自动化智能体无缝嵌入你的 Python 脚本与 CI/CD 流水线中： ```python import asyncio from artemis.interfaces.sdk import ArtemisClient async def main(): # 初始化测试客户端（支持 "flash" 极速校验模式或 "pro" 深度推理与自愈模式） client = ArtemisClient(default_profile="flash") # 执行自然语言端到端测试用例 result = await client.run( "打开系统设置，进入『电池』页面，验证是否正常显示电量百分比，确认页面无异常报错弹窗。" ) # 结构化断言与执行追溯 assert result.status == "SUCCESS", f"测试执行失败: {result.failure_reason}" print(f"✅ 测试通过！耗时步数: {result.turns} | Trace ID: {result.trace_id}") if __name__ == "__main__": asyncio.run(main()) ```

## 🕹️ 使用方式

Artemis 可视化控制台
_{💡 控制台功能布局：① 顶栏视图切换（主页与工作区） · ② 运行模式与录屏回放（Flash/Pro 状态与视频回放） · ③ 实时感知推理流（动作分解、点击坐标与结构化总结） · ④ 自然语言下发胶囊（自然语言驱动真机） · ⑤ 任务队列看板（状态流转与历史回溯）}

AndroidWorld 评测基准对比

## 🚀 ARTEMIS 是如何建构的 * ⚡ **全链路乐观异步 (Optimistic Async)**：主交互循环毫秒级响应下发，记忆修剪与阶段断言全部在后台并发静默运行，告别死等； * 🛡️ **Safety Net 动作守门**：动作下发前毫秒级双重校验目标，突发弹窗即刻拦截自愈，绝不盲点空气； * ⏱️ **时效敏感预测性连点 (Speculative Chaining)**：针对视频全屏等瞬态交互，结合历史先验预测坐标并极速连点，彻底解决大模型延迟导致控件消失的问题。

🔍 点击展开：核心架构设计细节与流水线流程图

### 1. ⚡ 全链路乐观异步流水线 (Optimistic Asynchronous Pipeline) * **现有方案与问题**：传统移动端智能体普遍采用**全同步阻塞模型** —— 每一步交互都必须同步串行等待大模型完成历史上下文修剪、阶段性断言检查与长程规划审计。这导致主交互循环极度臃肿，单步延迟动辄 20–40 秒，交互体验迟缓； * **Artemis 的架构解法**：借鉴数据库的**乐观并发控制 (OCC) 与快照隔离**思想，将主干执行流与重度计算彻底解耦： * **高吞吐前台主循环**：前台严格收敛为「感知 → 决策 → 守门 → 执行」极简流水线，单步响应压缩至秒级； * **后台并发异步处理**：上下文修剪、里程碑断言校验（Checker）、全局规划审计（Planner）全部在后台并发静默运行，零阻塞前台； * **快照隔离与无损回滚**：前台以前瞻视角乐观执行；一旦后台异步断言检测到状态偏离，系统基于快照机制**一键无损回滚 (Rollback)** 并注入纠偏反馈，兼得极低延迟与可靠自愈。

Artemis 乐观异步流水线架构

### 2. 🛡️ 动作守门机制 (Safety Net) 与时效敏感预测性连点 (Speculative Chaining) * **现有方案与时效困境**： * 移动端存在大量**时效敏感型交互**（如视频全屏播放：必须先轻点屏幕唤醒浮层控件，再点击全屏按钮）。 * 传统智能体在点击屏幕唤醒控件后，重新截屏并等待大模型推理决策耗时数秒；而此时**播放器控件早已自动淡出隐藏**，导致后续点击直接打在视频画面上，陷入“唤醒 → 控件消失 → 误触暂停 → 再次唤醒”的死循环。 * **Artemis 的架构解法**： * **预测性链式连点 (Speculative Chaining)**：智能体在识别此类时序依赖后，直接下发复合连击指令（唤醒 → 毫秒级连击全屏），在控件有效窗口期内瞬时完成交互； * **保障连点绝对可靠的两大支柱**： 1. **历史先验位置预测**：基于历史交互轨迹与应用 UI 先验知识，精准预判控件唤醒后的目标坐标； 2. **Safety Net 毫秒级拦截守门**：在连击动作落下的前一刻，瞬间核验目标控件是否已被成功唤醒并位于预判位置。若唤醒失败或遭遇意外弹窗遮挡，**立刻前置拦截熔断，杜绝盲点误触**。

## ⚡ 运行模式对比：Flash vs. Pro | 特性对比 | ⚡ **ARTEMIS Flash** (`--profile flash`) | 🧠 **ARTEMIS Pro** (`--profile pro`) | | :--- | :--- | :--- | | **设计定位** | **轻量极速**：面向常规确定性操作 | **深度规划**：面向长流程与复杂自愈 | | **单步延迟** | **3–5 秒** / 步 | **15–30 秒** / 轮 (包含深度推理与全局校验) | | **任务时长** | 分钟级短程任务（通常 ≤35 步） | 可稳定运行**超 10 小时**，监控任务可**全天候运行** | | **适用场景** | 目标明确的常规 UI 操作 | 复杂的跨 App 长流程、故障自愈、持续状态观察 | | **自愈机制** | 基础局部重试 | **Safety Net 校验** + 弹窗处理 + 崩溃恢复 + 快照回滚 | | **多媒体分析** | 基础视觉感知 + 高速 OCR | 完整 `scrcpy`/`ffmpeg` 视频流分析 + Logcat 日志采集 | ## 🗺️ 路线图 - [x] **全链路乐观异步流水线**：主流程轻量化，后台并发执行记忆压缩与断言校验。 - [x] **Safety Net 执行前校验**：动作下发前双层核验与预测性链式执行。 - [x] **时间敏感多媒体处理**：集成 `scrcpy` 与 `ffmpeg` 分析全屏视频与音频流。 - [x] **原生 MCP 服务支持**：支持与 Antigravity、Claude Desktop 等工具无缝集成。 - [x] **Web 可视化控制台**：提供设备投屏、交互演练与轨迹回溯。 - [x] **AndroidWorld SOTA**：达到 99%+ 的任务完成率。 - [ ] **跨平台扩展**：探索 iOS 与 Web 端的定位与操作能力。 - [ ] **端侧轻量化模型**：支持在设备本地离线运行的轻量级 Edge VLM 模型。 - [ ] **实时语音双工交互**：支持自然语音输入与实时打断控制。 ## 🤝 社区与贡献欢迎通过以下方式参与项目建设： * ⭐ **Star 本项目**以关注最新进展与更新 * 💬 加入 [Discord 社区](https://discord.gg/wF2FN4WHGY) 参与技术探讨与功能建议 * 🐛 提交 [Issue](https://github.com/google/artemis/issues) 反馈 Bug，欢迎发起 [Pull Request](https://github.com/google/artemis/pulls) 贡献代码 ## 📄 开源许可证本项目基于 [Apache License 2.0](LICENSE) 协议开源。