Insight Partners是一家成立于1995年的全球性投资机构，位于美国纽约市。该公司主要进行扩展期、成长期以及后期阶段的股权投资。投资领域涵盖了软件、互联网、人工智能、SaaS、数据服务等科技领域。该公司以其在成长型投资中的深厚专业知识和资源网络闻名，帮助初创企业发展为行业领军者。根据硅谷科技评论AI创投库（svtr.ai），Insight Partners以38起AI投资案例在AI机构排行榜排名第10。
Insight Partners在今年5月探讨人工智能代理（AI Agent）正在颠覆自动化，最近提出人工智能优先应用的万亿美元市场机会，以及初创公司的机遇。
我们正站在人类历史上伟大技术变革的十字路口。AI被誉为“新电力”和“最大结构转型”，然而与此同时，它也常常被简化为“易于整合，仅需一个API调用”。这种宏大承诺与日益增长的怀疑之间的张力，使得我们有机会重新审视AI的真正潜力。
作为观察者和这个快速变革领域的学习者，我们看到一种更大的转变正在出现——这不仅是生成式AI的热潮，而是一个新的技术栈和设计范式。我们称之为“智能优先（intelligence-first ）设计”，它将AI定位为应用中的真正协作者，能够提升人类的思维能力。
真正的变革并非源自层层递进的产品更新，而是基于从根本上重新设计应用和系统，将智能和AI视为核心要素。
一、万亿美元机会：重构软件、服务和工作
生成式AI不仅正在革新传统企业软件，也在不断扩展软件的市场边界。上世纪90年代初，商业软件还只是一个小型行业，而到了2024年，这一市场已成长为6500亿美元的庞大行业，历经了从主机、客户机/服务器系统，再到云端和移动时代的多次架构转型。
在2010年代的云端和移动浪潮中，新的应用程序如Airbnb和Uber重新定义了住宿和运输行业，树立了软件重新塑造世界的先例。然而，尽管经历了这些变革，许多核心设计和“遗留应用”依然沿用为手动数据输入而构建的模式。
生成式AI推动了知识管理、软件开发和生产力方面的根本性转变，催生了人机协作的“混合团队”，其中包括AI助手、协同者和AI工人等新角色。我们相信，这种变革不仅会超越传统软件，还会涵盖服务业，重塑工作的本质。
尽管过去十年加速了行业的数字化转型，但通过软件和数据来重构业务的进程仍处于早期阶段。许多行业的数字化程度各不相同，大量领域仍未充分被现代软件解决方案覆盖。而今，AI的兴起——受硬件和软件架构进步推动——正带来一代新的系统，帮助自动化流程并释放更多的人类思维能力。
这是重新构想一切的绝佳时机：不仅仅是复盘我们已经构建的内容，而是开创性地想象未来可以创造的新可能。基于服务的企业如今可以采用技术或智能优先的方法创建，而工作效率也可以通过自动化、推理和协作智能得到大幅提升。这是商业软件短暂历史中的一个关键时刻，软件和AI的市场份额迅速增长，为创业者和拥有数字技能的现有企业带来了前所未有的机会。
二、下一个技术栈：AI 基础设施已经就绪
经过一年多的快速发展，基础模型已走向多模态，不断变得更大、更小、开放、可组合，并逐渐具备自主性，拥有更强的思维、规划和推理能力。
在过去的架构时代，“数据栈”和“应用开发栈”往往是分离的。然而，如今的现代数据栈正演变以支持AI，聚焦于非结构化数据编排和多模态能力。
Databricks借助其Mosaic AI平台走在前列，通过增强的数据湖仓架构更有效地处理AI工作负载和非结构化数据。像Pinecone和Weaviate这样的向量数据库支持“向量化”数据的存储和检索，而已有数据库如SingleStore和MongoDB在近几个月也新增了强大的向量搜索功能。LlamaIndex、Unstructured和Superlinked等公司则致力于确保LLM、智能代理和其他AI系统能够在推理时获取相关数据和上下文。Atlan、Astronomer、Patronus和Braintrust等平台则着眼于数据溯源、数据治理、编排和模型评估的嵌入，以改进AI开发流程。
AI开发框架也迅速扩展，从多模态编程抽象到链式技术、基于检索的生成（RAG）、强化学习和智能体领域的最新突破。同时，我们还看到ML Ops演变为LLM Ops，相关工具日益成熟，可确保安全部署、可观测性和对齐性。CrewAI、Gradient、Contextual、LangChain、Fireworks.ai和Unstructured等公司因其显著的投资回报率而受到开发者的广泛采用。
在回顾这些迅猛的变化和丰富的生态系统时，有一点非常明确：尽管下一代技术栈正经历着超高速创新和沉淀，重新构想和建设未来所需的基础设施和工具实际上已经开始逐步到位。
三、智能优先应用的设计新模式
2024年的重要进展之一包括OpenAI的o1实现长链式复杂推理的能力、智能代理架构的兴起以及Google NotebookLM带来的“小型ChatGPT时刻”。
尽管存在“AI无护城河”的担忧和“所有应用只是模型的简单套壳”的批评，许多专注智能优先设计的开发者却在潜心打造新应用。事实证明，构建实用、复杂且可与人交互的系统并非易事，需要高度的技术与匠心。这些智能优先的应用呈现出一些核心的设计模式。
1、新型知识系统
传统的数据存储适用于简单数据库应用，而下一代应用需要更加动态且丰富的数据架构，以便在结构化、半结构化、非结构化、时序、特征存储、图形和实时数据中上下文更新与检索知识。这些应用利用“读时架构”（schema-on-read）的超级结构来跨数据类型保持关系（如知识图谱），从而灵活调整数据的消费与转换，适应AI模型的需求。系统还应具备持续学习功能，使AI合作者通过新信息的更新和记忆的优化，不断提升协作能力。
2、基于RAG查询
传统查询无法满足新知识系统的需求，而RAG通过实时从关系、图形和向量数据库中检索数据并优化结果，增强了查询过程。Glean和Harvey等公司使用RAG优化查询，以动态的实时洞察力提升应用交互，特别适合依赖实时洞察的应用程序。
3、分布式AI推理
传统应用依赖规则引擎，而智能优先应用则借助分布式认知和推理能力，将推理过程分布在多个系统节点之间，仿人脑多节点的信息处理方式。这种分布式架构增强了应用的稳健性和扩展性，尤其适用于需要理解广泛上下文的大型应用。Runway和Replit等公司正推进分布式AI的边界，使其能够在云端处理视频编辑和软件开发等复杂任务，实现实时协作。
4、多代理工作流
智能代理技术正逐渐成为智能优先应用的核心构件。个体任务AI代理如今可以在多代理系统中协调，规划并协作完成更复杂的任务。多智能体系统采用“专家混合”架构，将工作流划分为任务规划、执行和反思。CrewAI等公司正在简化多智能体系统的部署。随着对观测性、对齐性和合规性的需求增长，智能代理技术有望推动从理解与生成到推理和行动的进一步发展。
5、多模态的交互
当不再预设用户交互且人机协作时，如何重新构想这些体验？下一代应用将超越传统的代码确定型用户体验（UX），提供情境化的动态交互。这些应用不再局限于静态表单和固定仪表板，而是通过语音、文本或视觉系统等方式提供多样化的互动方式，灵活适应用户的需求。
例如，NotebookLM和MakoAI（由人工智能驱动的私募股权虚拟助理）探索了人机间更为灵活、主动的协作。为了让AI从“辅助工具”转变为真正的“AI合作者”，用户体验需要变得像与人类自然交互一样跨越多种模式，实现更加灵活、无缝的互动。
这些新设计模式为智能优先应用铺平了道路，推动AI技术朝着更具认知力、适应性和协作力的方向发展。
四、应用程序的过去和未来
许多传统软件应用（尤其是企业应用）在这场转型中正面临掉队的风险。大部分封装式应用程序的设计基于以人为核心的交互模式——人类驱动数据输入并与界面交互。这些系统高度依赖配置的固定工作流、孤立的数据存储，以及大量的外围应用、集成服务和定制解决方案来完成复杂的端到端流程。人类在这种模型中承担了拼接应用和制定流程的角色，成为智能决策的核心。
与之形成鲜明对比的是，智能优先应用带来根本性的差异。基于前述的设计模式，这些应用将重新定义工作方式，这些应用不仅将随着技术突破而演进，还将与用户行为的变化同步更新。
两者到底会有多不一样？想象一个由领先企业供应商开发的仓库管理系统，其核心设计三十年来几乎没有变化，仍然围绕以人为主的工作模式构建。再对比一个为机器人、机器和AI协作者为主的仓库设计的系统，两者之间的差异不言而喻。
要实现后者，智能必须成为系统的核心组成部分，利用确定性和生成式模型，提供传统系统所无法企及的功能与灵活性。
五、智能优先应用主要案例
1、深度AI应用（Deep AI apps ）
深度AI应用聚焦于解决高度复杂且特定领域的问题，往往从模型层到应用层进行全栈优化。它们因AI驱动的创新在设计、研究和模拟方面取得了突破，推动了新一代应用的诞生。
这些应用离不开先进AI模型的支持，如BeyondMath使用AI分析车辆空气动力效率，节省大量研发成本；Profluent的OpenCrispr通过训练在数百万种蛋白质和RNA上的大型语言模型实现开源基因编辑；Ambience则构建了一个AI驱动的医疗操作系统，提供一整套原生AI产品。
2、副驾驶（Co-pilots ）
协同助手提供互动支持，帮助用户实时决策，同时保持用户的控制权。它们利用自然语言接口、API和非结构化数据来提升日常工作流，既可以增强现有应用，也可以作为协调跨系统任务的主要界面。
协同助手已成为日益复杂的软件环境中的关键模式，例如Writer’s的协同助手可以通过特定领域的模型和知识图谱，自动化人力资源、营销、销售和财务中的关键工作流；NormAI结合对法规的理解和AI智能代理，实现对政策与公司合规性的自动化分析。
3、自动驾驶助手（Autopilots ）
自动驾驶助手能独立完成整个工作流和任务，不仅是简单的重复任务，还包括需要智能决策的复杂任务。这些智能代理系统集成了多种第三方工具和系统，以确保任务的顺利完成。自动驾驶助手能够全天候工作，大幅提升生产力。
例如，Cognigy的AI代理自动总结多渠道的通话或聊天内容，为客户服务代理节省数百小时；Bland的AI语音代理无需人工接听即可与客户互动，帮助组织节省时间和资源。这些助手能在必要时将任务交给人类协同助手，并通过人类反馈强化学习（RLHF）不断改进。
4、人工智能同事（AI Coworkers）
AI合作者超越了任务和工作流自动化，与人类并肩工作，推动真正的协作智能时代到来。拥有推理和认知能力的AI合作者能够处理各种任务，并从自身和人类同事的工作中学习。设计正在逐步趋于成熟，有些AI合作者专注于特定角色，有些则具备基础技能以便后续深入专精。
与传统应用不同，AI合作者可以管理复杂任务，无需僵化的软件结构。例如，虚拟会计师可以自动管理和组织所有数据，而不必依赖传统的会计软件。
尽管由于技术的复杂性，广泛采用可能需要时间，但Cognition (Devin)和Relevance AI（其低代码平台允许企业构建和部署定制AI代理以自动化重复任务）等公司已经开始崭露头角。
5、人机协作（AI + Human Work Fabric）
随着AI合作者和自动驾驶助手逐渐融入工作环境，软件架构需要进行演进，以适应人机协作的模式。这一转型可能会改变从传统记录系统到全新系统的价值导向，尤其是在传统服务行业，为新兴企业和现有企业带来巨大的发展机会。未来的服务型企业可以被重新定义为人机协作架构，以“服务即软件”的模式交付成果，业务模式可能会从按席位或消费定价转向以成果为基础，由人机协作驱动的结果创造价值。
一些解决方案已在实现人机实时协作，如CrewAI、Ema和Agentforce（由Salesforce开发）等。CrewAI致力于构建一个多智能体AI系统的开发平台，自动化大量任务；Ema开发的“通用AI员工”目前能承担多种角色；Sema4的AI合作者可自动执行发票核对、合规性审查和收款匹配等任务。
六、新兴的“智能优先应用”浪潮
尽管尚处于早期阶段，一批初创企业已经在深度AI应用、协同助手、自动驾驶助手、AI合作者以及AI+人类操作系统等领域率先应用了智能优先设计模式。以下是一些代表性公司：
Relevance AI Relevance AI致力于开创“AI劳动力”的概念，其平台允许企业创建适合特定任务的多代理系统。这些AI代理与LLM（大型语言模型）等工具集成，自动化工作流，提升个性化服务，并处理复杂任务，例如营销自动化和客户数据分析。其在整合多源非结构化数据、构建可扩展的AI销售开发代表和全生命周期营销方面的专注，使其成为AI合作者的一个典型例子。
Ema Ema为企业提供了部署“AI员工”的平台，涵盖客户支持、人力资源和合规等多种功能。Ema的EmaFusion模型融合了多种LLM，以最大化准确性并降低运营成本。此AI助手集成了超过200个企业应用，能够处理结构化和非结构化数据，与人类员工、现有工具和应用协同工作，是AI & 人机协作架构的一个关键案例。
Torq Torq的Socrates AI代理是其安全超自动化平台的重要组成部分。Socrates自主处理90%的一级安全任务，如警报分类、事件调查和威胁响应。通过与多种安全工具集成并利用威胁情报，Socrates能够丰富并优先处理安全事件，其整合不同来源数据的能力使其成为安全操作的数据融合栈的核心，帮助安全运营中心（SOC）团队更高效地管理大量警报。Torq为SOC团队提供了强大的AI合作者示例。
CrewAI CrewAI是一个简化多智能体AI系统管理和部署的框架。它允许智能体协调、交互和高效地自动化任务。CrewAI采用基于角色的架构，为智能体分配特定功能，如数据提取或任务执行，适应各种工作流。该平台集成了智能体执行复杂操作的工具，例如网络搜索或非结构化数据分析，其模块化设计确保了可扩展性，使企业在不影响现有工作流的情况下增加或修改智能体。CrewAI在推动多智能体协作和编排方面发挥了关键作用，帮助各行业企业扩展AI驱动的流程。
Sixfold Sixfold正在为保险承保人打造AI协同助手。它从承保人使用的各种平台（电子邮件、PDF、网站数据、第三方数据等）中提取数据，并将这些数据输入Sixfold的AI模型（结合多种开源和闭源AI模型），这些模型可以理解保险公司在某个保险类别中的风险偏好，并提供优化的推荐。Sixfold为保险承保人和公司提升效率和决策效果，将AI和自动化引入传统的手动工作流。
七、传统企业能否引领智能优先？
每次重大技术架构转型通常都会带来新的平台、基础设施和应用层的赢家。在一些情况下，新兴企业凭借其灵活性和快速部署的优势成为了市场主导者，而在其他情况下，现有企业则通过重建平台或收购新兴公司来推进创新。比如，数据库巨头Oracle曾低估了在其基础层之上构建业务的复杂性，最终通过收购PeopleSoft、Siebel、Netsuite和BEA Systems等公司来弥补这一不足。
探讨颠覆的动态过程非常有趣，因为每个产品类别中都有许多因素值得评估，如行业变化速度、现有技术人才质量、解决方案的数据权重、商业模式、分销渠道、品牌信任度和用户体验等。
HubSpot向下一代CRM转型，通过Breeze AI代理增强产品，而Salesforce则推出了AgentForce，意图在传统应用中加入智能。虽然这些传统巨头在AI时代努力重塑自己，但问题依旧：他们能否真正将智能融入几十年历史的架构中，或者智能优先应用的出现是否会催生出与过去完全不同的新一代CRM？
对于Salesforce和HubSpot这样的企业，或许改造已有系统以融入AI看似是最简单的路径。这种方式的优势在于传统企业的强大分销能力，许多公司已经使用了Salesforce，因此推广其智能代理功能比更换整个CRM系统要简单得多。然而，这种AI增强功能所带来的价值可能会受到其旧有架构的限制。
目前，许多人认为传统巨头凭借其分销优势和灵活性可能会胜出。但AI应用的变革远不止于“接通电力”那么简单。比喻虽不总是精准，但传统巨头的初步尝试更像是在蒸汽工厂中加装电灯，而不是为电力时代重新设计制造过程。要成为AI原生或智能优先应用，需要同样的重新构想和设计。
鉴于传统企业的分销优势，新兴的智能优先应用若要取胜，需比现有的AI增强应用好10倍，甚至100倍。比如，从Salesforce + Agentforce转向新型AI优先的CRM只有在性能显著提升时才有意义。如果AI优先的CRM仅略胜一筹，企业则难以说服用户转换。而前述的设计模式（如智能代理、多模式交互等）可成为新价值的切入点，即便不完全取代传统系统，也可能转移一部分核心价值。
我们相信，一个真正重新构想的智能CRM有潜力提供10倍甚至100倍的用户体验和业务成效。它将基于更高的自主性、推理能力、可扩展性、适应性，以及AI在所有工作流中的无缝集成而构建。因此，智能优先应用的未来可能不仅仅是传统系统的改进，而是实现一个为AI和人机协作而设计的全新生态系统。
八、智能优先应用的未来展望
虽然以上讨论主要围绕CRM系统，但我们相信，类似的范式转变将渗透到许多软件类别以及受软件和AI重构的相关行业。未来在AI驱动软件领域中崭露头角的公司，极有可能是那些从一开始便以智能优先架构为核心的创新者。对于开发者而言，真正的机遇并不在于谁能将AI粘合到旧平台上，而在于谁能从零开始构建全新的智能优先应用。
AI世界正在快速变化。我们坚信，今天和明天正在构建的应用程序将与过去截然不同。未来的工作模式将更加紧密地将AI与人类员工结合在一起。
九、附录
机构查询链接：
编者注：BeyondMath、Profluence、Writer、Cognigy、CrewAI、SingleStore、Acceldata、Atlan、Astronomer、Relevance AI 和 Torq 均为 Insight 投资组合公司。 Insight 还投资了 Databricks。
References：
- (2020). Cloud Computing Market by Service Model, Deployment Model, Organization Size, Vertical, and Region – Global Forecast to 2025
- (2023). Gartner Forecast: Public Cloud Revenue Growth Remains Strong.
- (2023). Worldwide Enterprise Applications Software Market Shares. Retrieved from https://www.idc.com/
- (2024). Worldwide Software Market Outlook. Retrieved from https://www.statista.com/outlook/tmo/software/worldwide.
- International Labour Organization (ILO). World Employment and Social Outlook 2024. Retrieved from https://www.ilo.org
- McKinsey & Company. Generative AI and the Future of Work. Retrieved from https://www.mckinsey.com/mgi/our-research/generative-ai-and-the-future-of-work-in-america
- (2024). Business and financial services M&A update: Q2 2024. Deloitte US Corporate Finance. https://www2.deloitte.com
- (2024). Global business services insights. EY. https://www.ey.com
- Global Market Insights. (2024). Business management consulting services market trends and forecast 2024-2032. Global Market Insights. https://www.gminsights.com
- https://openai.com/index/learning-to-reason-with-llms/
- https://www.anthropic.com/news/mapping-mind-language-model
- https://x.com/lessin/status/1851257355968680131 – structured apps and notebookLM
- https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/why-agents-are-the-next-frontier-of-generative-ai
- https://arxiv.org/abs/2401.05566
- https://www.anthropic.com/news/developing-computer-use