是目前国内集研发、生产、销售、服务于
一体的专业化减速机企业
一体的专业化减速机企业
服务热线：
快捷导航| product
为了提高准确性，研究人员构造了一个用于可交互图标检测的微调数据集，包含6.7万个不重复的屏幕截图，其中所有图像都使用从DOM树派生的可交互图标的边界框进行标记◆■■。
这表明了，模型能够很好地理解和处理移动设备上的用户界面，即使在没有额外训练数据的情况下也能表现出色◆■。
OmniParser主要是一个屏幕解析的工具，可以将截图转化为结构化数据，帮助AI精准理解用户意图。
紧接着Claude「计算机使用」发布之后★★■■◆■，微软就开源了AI框架OmniParser。
它会解析屏幕后，自动点击「permits」按钮，然后再截屏找到「布赖斯峡谷国家公园」，最后就可以完成用户任务◆■◆■★◆。
根据难度，任务被分为三类：简单（少于10个边界框）◆◆、中等（10-40个边界框）和困难（超过40个边界框）◆◆■★■。
研究人员发现，将这两个目标分解开★◆■◆◆■，比如在屏幕解析阶段只提取语义信息等，可以减轻GPT-4V的负担■■；模型也能够从解析后的屏幕中利用更多信息，动作预测准确率更高。
研究人员发现，在很多情况下，如果仅输入叠加了边界框和相关ID的用户界面截图可能会对GPT-4V造成误导◆◆◆★，这种局限性可能源于GPT-4V无法「同时」执行「识别图标的语义信息」和「预测特定图标框上的下一个动作」的复合任务★■★■。
为了构造数据集■★◆◆◆★，研究人员首先从网络上公开可用的网址中提取了10万个均匀样本◆◆■■，并从每个URL的DOM树中收集网页的可交互区域的边界框。
如前所述，谷歌「贾维斯」将由Gemini 2.0加持◆◆■■■，也就意味着年底我们可以看到进步版Gemini模型。
假设你想要去布赖斯峡谷国家公园，不知是否需要订票入园★■，这时OmniParser可以带你查询。
结果显示★■◆，用自己微调的模型替换了原有的IconNet模型，并加入了图标功能的局部语义信息后，OmniParser在大多数子类别中的表现都有了显著提升■★★■，整体得分也比之前最好的GPT-4V智能体提高了4★★◆■★.7%◆★■◆。
研究人员并没有直接提示GPT-4V来预测屏幕中操作范围的xy坐标值，而是遵循先前的工作◆◆，使用标记集合方法在用户界面截图上叠加可交互图标的边界框◆◆◆，并要求GPT-4V生成要执行动作的边界框ID。
因此★■★◆★◆，OmniParser结合了微调后的可交互图标检测模型、微调后的图标描述模型以及光学字符识别（OCR）模块的输出★★，可以生成用户界面的结构化表示，类似于文档对象模型（DOM），以及一个叠加潜在可交互元素边界框的屏幕截图。
一个复杂的操作任务通常可以分解成多个子行动步骤，在执行过程中，模型需要具备以下能力：
研究人员使用GPT-4o构造了一个包含7000对「图标-描述」的数据集，并在数据集上微调了一个BLIP-v2模型，结果也证明了该模型在描述常见应用图标时更加可靠。
2■◆★■、理解屏幕截图中各种元素的语义★◆◆■◆■，并准确将预期动作与屏幕上的相应区域关联起来◆◆★。
具体操作原理★◆◆，与Claude 3■■■◆★.5类似，通过截屏、解析屏幕内容，然后自动点击按钮，或输入文本，最终帮助人们完成基于网页的日常任务。
然而，目前还没有专门为用户界面图标描述而训练的公共模型，但这类模型非常适合目标场景■★◆◆■，即能够为用户界面截图提供快速准确的局部语义。
几天前■■★◆，Anthropic向所有人展示了，Claude 3.5自主看屏幕操作光标完成复杂任务★◆，足以惊掉下巴。
1■◆◆◆■■、理解当前步骤的用户界面■★，即分析屏幕内容中大体上在展示什么■■◆★、检测到的图标功能是什么等；
从用户界面屏幕中识别出「可交互区域」非常关键，也是预测下一步行动来完成用户任务的基础★★■◆■。
基于上述思路，微软最新提出的OmniParser模型★■■◆◆，可以将用户界面截图解析为结构化元素■★◆★◆■，显著增强了GPT-4V在对应界面区域预测行动的能力。
ScreenSpot数据集是一个基准测试数据集，包含了来自移动设备（iOS、Android）◆■★、桌面电脑（macOS、Windows）和网络平台的600多个界面截图，其中任务指令是人工创建的，以确保每个指令都对应用户界面屏幕上的一个可操作元素◆■◆★■。
然后合并OCR检测模块和图标检测模块的边界框，同时移除重叠度很高的框（阈值为重叠超过90%）。
结果显示，即使没有使用网页的HTML信息，OmniParser也能大幅提高智能体的性能，甚至超过了一些使用HTML信息的模型■■■◆■■，表明通过解析屏幕截图提供的语义信息非常有用★★■◆，特别是在处理跨网站和跨领域任务时，模型的表现尤为出色■◆★◆◆■。
为了解决这个问题，研究人员将功能局部语义整合到提示中★◆■，即对于可交互区域检测模型检测到的图标，使用一个微调过的模型为图标生成功能描述；对于文本框◆■■★，使用检测到的文本及其标签。
还可以注意到，加入局部语义（表中的OmniParser w◆■■. LS）可以进一步提高整体性能，即在文本格式中加入用户界面截图的局部语义（OCR文本和图标边界框的描述）★■，可以帮助GPT-4V准确识别要操作的正确元素。
刚刚，有媒体称，谷歌正开发同类新项目「Project Jarvis」◆★◆，能将Chrome网页任务自动化★■。
尽管Sam Altman否认了Orion模型的发布，但外媒猜测■■■■◆★，预计年底OpenAI也将放出新核弹
包括苹果在内◆★★★★◆，预计在明年发布跨多个APP屏幕识别能力★★。最新迭代的Ferret-UI 2★■◆★，就是通用UI模型。
为了测试GPT-4V模型正确预测边界框描述所对应的标签ID的能力★★，研究人员手工制作了一个名为SeeAssign的数据集，其中包含了来自3个不同平台（移动设备、桌面电脑和网络浏览器）的112个任务样本，每个样本都包括一段简洁的任务描述和一个屏幕截图★★★。
5月的谷歌I/O大会上◆■★★，谷歌CEO劈柴曾展示了，Gemini和Chrome如何协同工作的样貌◆◆。
可见★■■◆，想要把类似GPT-4V的多模态大模型应用于操作系统上，模型还需要具备强大的屏幕解析能力，主要包括两方面：
【新智元导读】科幻中的贾维斯，已经离我们不远了■◆■◆■★。Claude 3.5接管人类电脑掀起了人机交互全新范式，爆料称谷歌同类Project Jarvis预计年底亮相。AI操控电脑已成为微软★★■★■、苹果等巨头◆★★★■，下一个发力的战场■■★。
本文为澎湃号作者或机构在澎湃新闻上传并发布，仅代表该作者或机构观点，不代表澎湃新闻的观点或立场，澎湃新闻仅提供信息发布平台◆◆。申请澎湃号请用电脑访问。
研究人员还在移动设备导航基准测试AITW上对OmniParser进行了评估，测试包含3万条指令和71★■.5万条轨迹。
对于每个边界框，使用一个简单的算法在边框旁边标记一个ID，以最小化数字标签和其他边界框之间的重叠。
结果显示，在三个不同的平台上，OmniParser显著提高了GPT-4V的基线性能，甚至超过了专门在图形用户界面（GUI）数据集上微调过的模型■◆■，包括SeeClick、CogAgent和Fuyu，并且超出的幅度很大。
测试集中有3种不同类型的任务◆■■：跨领域★◆★■、跨网站和跨任务■■★，可以测试OmniParser在网页导航场景中的辅助能力。
可见，「Computer use」已经成为科技大厂们，重点发力的下一个战场◆■。
不仅如此，OpenAI内部已有了AI智能体雏形，可以操控计算机完成在线订餐、自动查询解决编程难题等任务。
从结果来看，GPT-4V经常错误地将数字ID分配给表格★◆■◆，特别是当屏幕上有很多边界框时；通过添加包括框内文本和检测到的图标的简短描述在内的局部语义★◆■■★，GPT-4V正确分配图标的能力从0.705提高到0.938
无独有偶■◆■★◆，微软团队悄悄放出的OmniParser■◆★■■◆，也在笃定AI智能体操控屏幕的未来★★■◆■。
代号为Jarvis Project项目，本质上是一个大动作模型（LAM），也是谷歌一直以来在做的大模型方向。
