3月23-24日，2024全球开发者先锋大会（GDC）在上海隆重召开。商汤科技董事长兼CEO徐立受邀出席开幕式，并发表《AI 2.0时代的“新质生产力工具”》主旨演讲，分享了对AI 2.0时代生产力工具“质”变背后的思考和突破路径。徐立表示：“AI 2.0时代，生成式AI被视为推动生产力进步的重要技术，如果能在知识、推理、执行三层能力上实现突破，将真正带来整个社会生产力的跨越式发展。”
　　徐立认为，ChatGPT、Copilot、Blackwell是AI 2.0时代的热度代名词。搜索数据显示，中国对于这些词的关注热度位居世界榜首，这代表着中国近千万的开发者以及大众对于AI能够带来的变化热切关注。随着AI 2.0时代的来临，GitHub上的相关项目数量呈指数级增长。生成式AI项目、大模型项目以及辅助编程、辅助开发的工具项目层出不穷。但反过来看，中国数字人才缺口也在逐年增大，且短缺比例在快速扩大。尽管中国对AI 2.0的关注极高，但在实际应用方面排名却落后于个别国家。这其中，语言是一个不容忽视的问题。以通过自然语言完成编程任务为例，英语与现有程序的匹配度相当高，而优秀的中文语言工具相对欠缺。
　　徐立表示，虽然人们已经开始使用AI 2.0时代的生产力工具，但这些工具带来的生产效率提升效果并不明显，所能解决的问题占比不足10%，给生产链路带来的突破相对有限。虽然目前AI能够带来很多革新，或者扩展到很多场景，但目前仅能解决其中非常小众的部分。具体而言，AI目前能解决的是在过往基础上抽象成比较标准化、甚至以知识库的形式固化下来的内容，包括代码补全、代码增写以及部分测试用例等。如果把它分摊到整个软件或者产品设计的全流程当中，占比并不高。除了横向能力的拓展，从纵向来看，当前，新生产力工具的准确率和完成度也普遍较低。
　　“大模型能力可分为三层架构，而且这三层之间互有依赖，但又相对独立。”徐立表示，第一层是知识，目前，许多生产力工具解决的都是知识层的问题，目前通过大模型可以很好地完成这些任务。第二层是推理，即使不知道某件事实，也可通过AI逐步把这个事实推理出来，给出更多的可能性。知识和推理是作为生产力工具——大模型最重要的两层，但目前在推理层，成长还相对有限，这也是今后要集中突破的能力之一。对于第三层执行，徐立表示，就是如何跟这个世界互动反馈。某种意义上，如今火热的具身智能，在执行上会有很大的突破。
　　徐立称，商汤结合上述三层架构打造出一个办公辅助软件——“小浣熊”。近期商汤整合了从需求分析、需求设计到长尾应用等各个环节，推出了更为强大的“小浣熊”2.0版本。它真正意义上基于海量数据筛选出需求，制定产品特征，在产品的特征之上完成产品的自主开发。例如在办公智能化领域，当需要为产品推广制定预算时，把财务报表、账户信息、产品介绍等各类文档资源全部输入到商汤的“办公小浣熊”当中，它能够根据输入的数据和需求，给出一个既合理又科学的预算方案，展现出强大的推理能力。
　　此外，徐立表示，商汤在GDC大会发布的商汤日日新检索问答一体机，是一款具有高性能、高显存和高带宽的私有化知识库设备。这款一体机可以支持更多的万量级文档精准搜索和知识问答，能够联网搜索，并迅速整合公开信息和私域文件进行关联问答。这款产品已经率先在金融合规场景落地应用，通过外网搜索最新金融行业法规，精准查找金融机构内部规则并定位相关条款，真正实现外规内化和知识库的自主更新。