AI News AI资讯 3mo ago Updated 3mo ago 更新于 3个月前 85

Oppo open-sources Android AI agent X-OmniClaw that uses your camera, screen, and voice without leaving the phone Oppo开源安卓AI助手X-OmniClaw,可在手机本地调用摄像头、屏幕及语音功能。

Oppo's Multi-X team has released and open-sourced an AI agent named X-OmniClaw. Designed for Android devices, the agent's core feature is its ability to run directly on the mobile device locally. By integrating the camera, screen display, and voice interaction, it can process tasks in real time within applications. The key technical aspect is that the system does not rely on cloud-based phone mirroring but primarily uses the device's local sensors to perform operations. It only calls on cloud computing power for complex reasoning. The agent also has a "skill cloning" capability, which records a user's click operation paths and converts them into reusable skills. When executing similar tasks again, it can use DeepLink to jump directly to deep pages within the application, significantly improving operational efficiency. This approach combines multimodal perception, local real-time processing, and reusable skills, offering a new implementation path for on-device AI agents. The news was initially published by the tech media outlet The Decoder. Oppo旗下Multi-X团队发布并开源了名为X-OmniClaw的AI智能体(Agent)。该智能体专为Android设备设计,核心特点是能够直接在手机本地运行,通过集成摄像头、屏幕显示和语音交互,实时处理应用程序中的任务。 其技术关键在于系统并非依赖云端手机镜像,而是主要利用设备本地传感器完成操作,仅在进行复杂推理时调用云端算力。该智能体具备“技能克隆”能力,可将用户的点击操作路径记录下来,转化为可复用的技能。再次执行类似任务时,它能通过DeepLink直接跳转到应用内的深层页面,极大提升了操作效率。 这一方案将多模态感知、本地实时处理与可复用技能相结合,提供了一种新的设备端AI智能体实现路径。该资讯最初发布于科技媒体The Decoder。

85
Hot 热度
90
Quality 质量
80
Impact 影响力

Analysis 深度分析

Key Points

Oppo's X-OmniClaw is an open-source Android agent that processes locally using the phone's camera, screen, and voice, reserving cloud compute only for complex reasoning. Its innovation lies in cloning user interactions as reusable "skills," enabling direct navigation to deep app pages via deeplinks.

Background & Context

Most current AI agents for mobile rely on cloud-based phone mirroring, which raises latency and privacy concerns. X-OmniClaw represents a shift toward on-device

核心要点

OPPO的Multi-X团队开源了名为 X-OmniClaw 的端侧AI代理。该系统能直接在Android设备上运行,结合摄像头、屏幕和语音输入,在真实APP中实时执行任务。其最大特点是不依赖手机云端镜像,所有感知都在本地完成,仅在需要推理时调用云端算力,并能通过“技能克隆”复用操作路径,大幅提升效率。

背景与上下文

当前,AI手机智能体(Agent)是行业热点。主流方案如云端远程控制,将手机画面投射到云端服务器进行分析和操作,虽然强大但存在隐私泄露、网络延迟和带宽消耗等问题。同时,端侧大模型的发展使设备本地运行AI成为可能。OPPO此次发布,正是在端侧AI能力成熟用户对隐私和实时性需求迫切的双重背景下,提出的一个更注重本地化、实用化的解决方案,旨在打造更安全、响应更快的智能助手。

技术解读

X-OmniClaw的核心架构和技术逻辑如下:

  1. 混合感知与计算架构

    • 本地感知:设备的摄像头、屏幕截取、麦克风等传感器直接在手机端采集数据,避免了敏感信息上传。
    • 云端推理:仅当需要理解复杂指令、规划任务步骤时,才将处理后的、非原始的数据(如屏幕元素的结构化描述、语音转文字)发送至云端大模型进行推理,实现了隐私安全与算力需求的平衡
  2. “技能克隆”与Deeplink直达

    • 这是其关键创新点。当用户手动完成一个复杂操作(例如在美团里找到某家店并下单)后,系统能将这一系列点击路径(Tap Path)记录并封装为一个可重复使用的“技能”
    • 下次执行类似任务时,代理可以直接调用这个技能,并利用Deeplink(应用内深度链接) 跳转到APP的特定页面,跳过中间的导航步骤。这相当于为代理创建了“快捷脚本”,极大提升了任务执行的速度和成功率。
  3. 与现有方案对比

    • 纯云端代理相比:隐私性更强,延迟更低,不依赖稳定高速网络。
    • 纯端侧大模型Agent相比:没有在设备本地部署超大参数模型的算力压力,通过云端处理复杂推理,性价比更高。
    • 基于ADB或无障碍服务的自动化脚本相比:具有感知和理解能力,能处理未预设的、动态变化的任务。

影响与意义

  • 对用户:提供了更安全、更流畅的手机助手体验。敏感操作无需担心被云端截屏,复杂任务的执行速度因“技能”复用而显著加快。手机真正成为一个能理解并代劳的“副驾驶”。
  • 对开发者与行业:为Android生态的AI代理开发树立了新的参考范式——强调本地感知、云端轻推理和技能沉淀。它可能推动更多APP优化其Deeplink体系,以便更好地与AI代理交互。同时,也促使手机厂商重新思考端云协同的AI架构。
  • 短期与长期
    • 短期:开源将吸引开发者社区参与改进,可能快速适配更多主流APP,形成一批实用技能库。
    • 长期:这代表了“个人AI助理”发展的一个重要方向:从云端虚拟人走向深度嵌入个人设备、理解个人习惯、并能安全高效执行操作的真正个性化助手。它可能重塑人机交互方式,从“人操作APP”逐渐过渡到“人通过AI代理调度APP”。

总结与展望

X-OmniClaw的开源,是OPPO在AI手机领域一次务实的布局,它避开了“全能云端助手”的路线,选择了一条更侧重隐私、效率和实用性的路径。其“本地感知+云端推理+技能复用”的架构具有较强的可扩展性。

值得持续关注的几点:

  1. 生态扩展:开源社区能否围绕它构建起丰富、跨应用的技能库。
  2. 厂商跟进:其他手机厂商(如小米、vivo、荣耀)是否会推出或采纳类似的端云协同代理框架。
  3. 技术迭代:随着端侧芯片AI算力增强,其架构是否会进一步向“强本地推理”演进。
  4. 应用深度:它能在多大程度上处理跨应用、需要登录账号和复杂逻辑的深度任务。

总体而言,X-OmniClaw为实现真正实用的AI手机助手提供了一个切实可行的技术方案,其开源将有助于推动整个行业向更安全、更智能的端侧AI时代迈进。

Disclaimer: The above content is generated by AI and is for reference only. 免责声明:以上内容由 AI 生成,仅供参考。