北京时间7月18日凌晨,OpenAI发布ChatGPT Agent,该系统可以根据用户指令自动规划执行步骤,调用多种工具完成从抓取数据到生成表格、规划行程到预订酒店等多环节任务。
这也是目前多数AI Agent创业项目正在尝试的方向。4个月前在Manus那场号称通用AI Agent宣传片中看到的内容,ChatGPT Agent已经实现。
OpenAI创始人山姆·阿尔特曼(Sam Altman)表示,这是他第一次“真正感受到AGI(通用人工智能)”。OpenAI的研究人员称ChatGPT Agent是目前为止最强的AI Agent模型。
OpenAI将ChatGPT Agent称为一个模型,而非产品。与Manus等依赖上下文管理、工具链编排的系统不同,OpenAI训练了一个专用模型,能够在单一系统中完成任务规划、跨工具调用和文档生成等复杂流程。该模型目前被归入o3系列,但尚未被单独命名。
AI时代的创业者们面临着比任何历史时期都更快速的技术迭代,一次底层模型更新往往就能毁掉一个垂直领域的创新产品。
理想汽车创始人李想此前在朋友圈说,to C层面,OpenAI在内的掌握最强基座模型的企业,不会留下什么垂直应用的创业空间。“软件的本质是功能,需要场景化、垂直化。人工智能的本质是能力,能力强就可以吃掉一切,也是用户最方便的。”
就连一直高喊AI应用创新的朱啸虎也在社交媒体上表示,大模型会吃掉90%的Agent。X平台上也有用户发问,如果OpenAI后续开放ChatGPT Agent模型的API,其他创业者该如何与其竞争?
“Listen—that's the sound of a great many startups evaporating into the void.”(听——那是无数初创公司悄然蒸发的声音。)OpenAI发布会视频下的一条高赞评论写道。
Manus们选择正面硬刚
至少在目前,Manus们还没有表现出任何退让迹象。
OpenAI发布会刚结束,Manus就在X上转发推文称,“Welcome to the game.”同属于华人AI Agent创业公司的flowith也转发强调,他们早在一年前就推出了AI Agent产品。
作为过去半年最早对外喊出通用AI Agent口号的创业公司,Manus的反应要比其他公司强烈得多。发布会结束仅3个小时,Manus就一口气对外放出了10条与ChatGPT Agent的对比测试,宣称要和OpenAI正面较量。
这些对比内容部分来自OpenAI当日展示的演示片段,部分则来自用户在社交平台上的真实使用。涵盖场景包括数据整理、路线规划、在线购物、财务分析、餐厅预订等,Manus发出的测试结果几乎全面占优——不仅响应更快,也更强调“任务完成度”,如表格更整洁、图示更丰富、PPT更接近成品。
比如OpenAI演示的“计划一次为期三天的棕榈泉网球之旅”,OpenAI给出的是一张简单的行程表,而Manus生成的则是一张带有目的地风格设计的行程海报。
又如分析旧金山市过去四年的财务报告,OpenAI输出的是Excel文件,而Manus给出的是包含图表与要点总结的完整演示文档。“Manus完成的是整个项目,而不仅仅是提供数据。”Manus评价说。
另一家华人公司Genspark的反应同样高调。创始人景鹏(Eric Jing)在X上写道:“我从未想过有一天——作为一家只有24人的小公司,我们竟然可以……于OpenAI。”他表示,用同样的提示词,Genspark的响应时间更短、成本更低,生成结果的质量也“高出好几倍”。
7月19日,Genspark也在社交平台上分享了9个与ChatGPT Agent的对比实例,显示他们输出的文档数据维度更丰富,排版更加美观。除了与Manus对比测试中类似的旅游行程制定、财务数据分析等案例外,他们还分享了一则视频生成能力的对比,指出ChatGPT Agent未能完成任务。
社交媒体上用户们的反馈也不如此前OpenAI更新文生图功能那样强烈。一些批评声音指出ChatGPT Agent任务的完成度不高,任务生成速度也比较缓慢,部分复杂任务需要20分钟乃至更长时间才能完成。
OpenAI似乎也意识到当前的ChatGPT Agent的速度问题,他们拍摄的几条宣传视频里,员工往往在下达指令后就合上笔记本,等到稍晚再返回查看结果。
“即便耗时15分钟或半个小时,相比你自己手动完成也已经是显著的提速了。”OpenAI的研究员Isa Fulford说。她表示,这是一种“可以在后台发起任务,过一会儿再回来查看结果”的使用方式,而OpenAI的搜索团队则更专注于低延迟场景。
OpenAI或许更强调模型能够持续推理和思考的时间,OpenAI的研究员张熙堃说,ChatGPT Agent在内部测试中的最长连续推理时间达到了2小时,“我们应该有一个排行榜来记录模型能持续思考多久。”
针对外界诟病的生成文档或PPT不够美观的问题,OpenAI的研究员们在X上建议,先让ChatGPT Agent把研究工作做完,再让它输出PPT文件。ChatGPT生成的是标准pptx格式,用户也可以在PowerPoint中统一套用想要的设计模板。
虽然OpenAI强调他们专门为ChatGPT Agent训练了专用模型,但部分批评声音亦指责它更像是将此前已经推出的Operator(浏览器交互能力)与Deep Research(深入研究能力)组合在一起的产物。Operator可以支持ChatGPT通过浏览器与网站直接互动、阅读并理解网页内容,Deep Research则擅长分析和总结信息。
事实上,ChatGPT Agent目前团队成员正是来自于此前的Operator与Deep Research部门,目前团队规模大约在20-35人。OpenAI对外表示,ChatGPT Agent是Operator和Deep Research功能自然延续,“我们发现用户通过Operator尝试的许多查询实际上更适合Deep Research,因此我们将两者的优势结合在一起。”
OpenAI表示,这次发布仅标志着他们将智能体功能直接集成到ChatGPT中的第一步,他们计划定期逐步更新更多功能。
两种技术路线
相较于初创公司们过去半年来围绕输出质量和交付体验不断工程迭代和提示优化,OpenAI刚刚发布的ChatGPT Agent在任务的最终呈现上可以称得上是粗糙。
初创公司们试图为用户呈现一个完成度更高且上手难度更低的Agent产品。以Manus为例,过去2个月来这家公司先后为产品加入了包括PPT生成、视频生成、音频生成等诸多不同能力,官网还列举出了诸多现成的模板分享以及用户案例分享。即便这些能力的实现都依托于外部模型,但至少在上手难度上,初创公司们都做得比OpenAI更好一些。
但抛去这些应用体验创新,在基础模型的能力比拼维度上,ChatGPT Agent通过端到端训练的统一模型显然更有优势。OpenAI为ChatGPT Agent做了诸多学术测试,部分测试结果甚至优于OpenAI o3或GPT 4o,达到行业最高水平。
比如在《人类的最后考试》(Humanity’s Last Exam)评估中,ChatGPT Agent取得了41.6%(pass@1)的新高,大约是OpenAI o3的两倍。DSBench测试中,ChatGPT Agent大幅度优于GPT-4o,在数据分析任务中的表现更是明显优于人类水平。
在专门衡量电子表格编辑能力的SpreadsheetBench平台上,ChatGPT Agent创下行业新高,性能较GPT-4o强一倍。OpenAI称,在他们的内部基准测试中,ChatGPT Agent的能力大致相当于1至3年经验的投资银行分析师水平。
简单来说,OpenAI更强调ChatGPT Agent带来的底层模型能力的提高,而初创公司们受限于技术及资金则更倾向于应用创新。
7月19日凌晨,Manus联合创始人季逸超发文称,Manus仍将继续押注于上下文工程(in-context learning)而非端到端智能体。
他说,早在Mannus项目初期,他们就在思考是使用开源模型训练一个端到端的智能体,还是基于前沿模型的上下文学习能力构建智能体。GPT-3等模型的出现让他们意识到,上下文工程才是正确的方向,因为这些模型的能力远高于他们此前的内部模型。
“如果模型进步是上涨的潮水,我们希望Manus成为那条船,而不是固定在海床上的柱子。”季逸超说,这可以使他们能够在几小时而非几周内交付改进,并始终让他们的免费产品与底层面模型保持正交。
他在这篇技术文档中分享了不少Manus在上下文工程上的经验,比如需要围绕KV缓存进行设计、要使用系统文件作为上下文等等。这些工程创新显著提升了Manus的响应速度以及成本优势。
季逸超举例,使用KV缓存可以大幅度提升每个token的生成时间和推理成本,例如使用Claude Sonnet时,缓存的输入token成本比未缓存的成本降低10倍。
上下文工程的创新的确也可以使智能体拥有更好的性能效果。非盈利人工智能研究机构Epoch AI测试了ChatGPT Agent在FrontierMath数学试题集中的表现,称ChatGPT Agent在Tier 1-3的数学题上只得到了27%的正确率,且难度越高得分越低。
但当每道题允许ChatGPT Agent尝试16次之后,它的得分就从27%大幅度提升至49%。Epoch AI说,这表明更好的提示词设计(prompting)或任务结构支持(scaffolding),可能会显著提升当前模型的性能。
换句话说,即便是相同的模型,创业公司们依然可以通过更好的提示工程与上下文设计,来达到远超基准模型的效果。
“你如何塑造上下文最终决定了你的智能体的行为方式:它运行的速度、恢复的效果以及扩展的范围。”季逸超说。
如何与Agent的未来共处
ChatGPT Agent的正式推出,标志着AI Agent正式进入巨头博弈的时代。它带给人类社会的影响不会比大模型爆发之初的影响小,让AI抢夺人类工作真正成了现实。
这种改变已经在悄然发生。微软和亚马逊等科技巨头们都在密集裁员,微软CEO萨蒂亚·纳德拉今年初表示,微软20%到30%的代码都由AI生成。一家金融科技公司Klarna更是早在去年初就对外宣布,他们的AI Agent仅投入使用一个月,就处理了公司2/3的客服聊天工作,相当于700名全职人工客服的工作量。
市场研究机构MarketsandMarkets表示,全球的AI Agent市场将从2024年的51亿美元增长至2030年的471亿美元,年均复合增长率(CAGR)达44.8%。Deloitte预测,到2025年,使用生成式AI的公司将有25%开始试点智能体,到2027年将增长至50%。
AI Agent的快速应用也让行业人士产生担忧。和过去大模型仅仅只是提供信息不同,AI Agent真正具备了从思考到行动的完整能力。比如ChatGPT Agent现在已经可以访问网站帮助用户下单购物、自动填写信用卡地址,也可以访问用户的日历、电子邮件、云盘等隐私信息。对于使用AI Agent的人们来说,这意味着他们将自己的私人信息交给了一个“黑盒”,也更容易受到攻击。
发布会上,OpenAI也专门强调了ChatGPT Agent的风险。他们强调,ChatGPT Agent在执行所有重要操作前都会征得用户同意,“用户始终拥有控制权。”同时,OpenAI还加入了包括主动监督(Watch Mode)、主动风险缓解(Proactive risk mitigation)等安全措施。
山姆·阿尔特曼在ChatGPT Agent推出后专门发布长篇推文警告用户,要求用户审慎地使用ChatGPT Agent。
“Agent代表着AI系统能力的新高度,它可以用自己的计算机完成一些令人惊叹且复杂的任务。它融合了Deep Research(深度研究)和Operator(任务执行者)的理念,但远比这些字面描述更强大 —— 它可以长时间思考,使用各种工具,再继续思考,再采取行动,如此往复。”山姆·阿尔特曼说。
山姆表示,虽然他们还不确定这些影响具体是什么,但也许会有人试图恶意“欺骗”用户的AI Agent,使其提供不应该提供的隐私信息,并做出无法预测的不当操作。“我们建议用户只授予Agent完成任务所必需的最小限度访问权限,以降低隐私和安全风险。”山姆强调,他不会将ChatGPT Agent用于高风险的用户或涉及大量个人信息的场景。
但对于已经演变成了一家商业盈利公司的OpenAI来说,它并不会因为隐私或者安全风险而减缓AI Agent迭代的步伐。
在ChatGPT Agent推出之前,《金融时报》就报道称OpenAI正计划在ChatGPT中开发支付结账系统,通过ChatGPT完成订单的商家需要向OpenAI支付佣金。《金融时报》称,OpenAI已经向部分合作伙伴电商平台Shopify等展示了系统的早期版本。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。