能耗比达到GPT-4的10倍！黄亲自解密Zoom AI成功，AI合伙人直接为你召开会议。编辑:润艾伦【新智元简介】Zoom CTO黄发了一篇文档，讨论Zoom高效处理AI任务需求的技术——Zoom Federated AI。在实现GPT-4性能的同时，Zoom AI只使用了不到10%的成本。最近，人工智能老板、现任Zoom CTO黄在其官方网站上发表了一篇博客。其中，我郑重介绍了我加入Zoom半年后的创新成果——Zoom AI Companion，以及驱动Zoom AI Companion的federated approach)AI。在Zoom之前，黄是微软Azure AI的首席技术官。他不仅是微软首位全球华人技术院士，也是微软职位最高的华人科学家。黄在微软工作了30多年。在他的牵线搭桥下，微软于1998年在北京成立了第一个亚洲研究院。2017年和2020年，黄分别当选ACM和，2023年还当选美国国家工程院院士和美国艺术与科学院院士。黄表示，人工智能从概念化到实现的转型之旅就像一条曲折的道路，充满了不断的破坏、适应和创新。“过去30年，我一直在这条路上，从语音识别、自然语言理解到计算机视觉。在我加入Zoom的这半年里，创新的步伐尤其令人震惊。Zoom federated AI，用正确的AI运行正确的任务Zoom希望利用AI改善人类的协作，不断提高生产力。多年来，Zoom一直在为客户提供语音识别、计算机视觉、机器翻译和大型语言模型(LLM)等AI服务，以增强自身软件的竞争力。他们的最新产品Zoom AI Companion旨在帮助用户提高工作效率，促进无缝协作，并获得更深入的交流和见解。Zoom的联邦AI使用户在之前付费服务的基础上，无需额外付费即可享受AI伴侣的功能。这样可以大大提升用户体验，也可以快速提高高科技在用户中的渗透率。但对于Zoom这样用户量大，密集使用AI功能的软件，LLM推理的额外成本如何承担？要知道，GitHub的Copilot可是传说中的，每月收费10刀，每个用户每月还补贴20刀。Zoom目前使用的LLM包括自有模型和第三方模型(如OpenAI GPT-3.5和GPT-4，以及拟人化的克劳德2)。Zoom Federated AI可以整合合作伙伴的最新LLM技术(如OpenAI发布的最新GPT-4 Turbo)，进一步改善Zoom客户的端到端体验。Zoom采用了更具性价比的策略:首先使用合适的低成本LLM完成任务，然后通过Z-Scorer评估初始任务完成质量。如有必要，Zoom将使用更高级的LLM来改进初始LLM获得的结果。这类似于一个有凝聚力的团队一起工作，可以比一个人更高效地生产出更高质量的产品。根据Zoom内部测试，与OpenAI GPT-3.5 Turbo或其他最先进的LLM相比，Zoom采用联邦AI，提高了AI伴侣的输出质量，有效控制了成本。黄说，他们衡量性能的标准是更低的成本、更快的响应时间和更高质量的输出。上图是Zoom AI Companion和GPT-4在英语会议查询任务中的性能和成本对比。图中比较的两个关键指标是成本和产出质量。Zoom AI Companion可以用不到GPT-4成本的6%实现几乎相当的输出质量。与微软Copilot使用的GPT-4-32k型号相比，Zoom AI Companion的会议提问功能可以降低成本，加快响应速度，并保持相当的输出质量。上图是Zoom AI Companion和GPT-4在多语言会议总结任务中的对比。此外，AI Companion的多语言性能进一步证明了Zoom Federated AI的强大功能，支持除英语以外的32种语言。因为大部分LLM主要使用英语数据进行前期训练，所以Zoom增加了翻译模型来扩展多语言能力。上图比较了Zoom AI Companion和微软Copilot在多语言会议总结任务中的性能，还使用了GPT-4作为微软Copilot的代理进行比较。在Zoom AI Companion的多语言会议摘要中，使用Zoom的翻译模型将非英文文本翻译成英文，这样既可以考虑翻译数据，也可以考虑原始数据。从图中可以看出，Zoom AI Companion以不到6%的成本(百分之九十七)完成了质量接近GPT-4-32k的输出。Zoom认为，人工智能的好处应该被尽可能多的人广泛使用，Zoom的联邦AI可以无缝结合不同AI系统的优势，并提供高性能的结果，这对实现这一愿景具有重要作用。最智能的会议助手Zoom AI Companion，现在几乎所有Zoom AI功能的入口都集中在他们9月底推出的Zoom AI Companion上。作为Zoom提供的“充值服务”，它可以利用Zoom提供的AI能力，帮助你在中途加入会议后，自动汇总错过的会议内容。然后轮到你发言的时候，把你的观点和上一次会议的内容结合起来，生成一篇演讲稿，真正做到了“会议代替用户。“中途加入会议后，AI可以告诉你会议的要点。还能帮你实时转录、翻译其他与会者的发言，一键获取会议讨论文本。AI还可以帮你汇总碎片化的信息，最终为团队生成会议总结和记录。还可以对Zoom平台上获取的客户短信进行汇总，生成具体的实施方案。而且对于不能参加的会议，也可以直接在日程上安排AI智能录音，然后分段复习。在这整个人工智能伴侣的背后，浓缩了Zoom和黄的联邦人工智能的技术思想，并使用适当的人工智能资源来处理适当的请求。而且，Zoom承诺不会使用任何音频、视频、聊天、屏幕共享、附件或客户生成的其他数据(如投票结果和白板)来训练Zoom或第三方AI。这么多有用的功能，这么负责任的AI，要花多少钱？150到200刀可以用一年，企业用户有专门定制的版本。