WAIC直播讨论AI智能体监管与企业安全，未形成具体可交易催化

【实时直播转录 · 第一财经】
来源:第一财经(bilibili 直播间 1521834) · 标题:WAIC 2026丨4×24 LIVE
时段:2026-07-19 13:00–13:30(Asia/Shanghai),共 93 段
说明:以下为该时段该直播间的连续语音转录(直播 ASR,可能有同音/识别误差)。请从中识别与 AI算力/芯片/服务器/光模块/液冷/数据中心/大模型/机器人·具身智能/自动驾驶 等相关的、**可交易**的公司/产品/订单/产能/需求/合作/高管或官员表态,判断是否构成可交易事件;若通篇无可交易内容,判为不做。识别误差请结合上下文与常识修正,勿据孤立音近词臆断。

--- 转录正文 ---
[13:01] 唉我我看了这个salll奖这次的呃评奖奖项，我觉得还是呃非非有非常多好的这些创新呃以及对行业发展的一些呃应该说是判断啊那呃尤其是在我们下一个五年，我们能看到啊融智能一定像过去的水和电一样啊，普遍的存在啊，广泛的赋能我们生活中的方方面面啊变成一个基础能力啊。那么呃在这个过程中啊，我们看到的呃所谓的呃自主进化嗯啊AGI啊整通人工智能应该在呃下一个五年啊，是很有希望能够实现和达成的啊，那我们在这次salll奖里边也看到了一些苗展展啊，这苗苗头队看到了这个萌芽状态态它已经在发展啊，我相信通过这五年的发展啊，我们的人工智能能国人工智能啊啊一定无数不在在啊在我们生活中啊，谢谢蒋总白总啊，今天我看到赛ll奖的整个的这个呃覆盖的这个方向是非常全的啊。就包含就是我们的算链云网技术设施施啊。在往往这呃我们看不见的这个呃像大模型以及说大模型的这个应用，以及说我们在往上的这个物理实体啊物理实体方面的一些模型也有这个获获奖我们可以看到未来的这个呃这个salll奖呢它应该是一个呃综合性的一个涵盖行业内的各个生态位的一个企业的一个呃都能够在里面体现自己的价值。那么我们看到未来呃，如果说AI走向物理世界，整个过程中呢，我我相信各个生态位的这个选手呢都能够在这个里面呢能够去实现自己的一个的一个位置和一个价值。然后呢，共够去里面行个模型呢呃走向这个物理讲项嗯，感谢二位啊在这个五件时段为我们带来如此有含金量的一段这个访谈啊，那么我们说到salll奖他可能是这个AI界的一个奥斯卡，他更是咱们AI技术从实验室流向产业端的入海口。那么今年赛ll奖还有哪些亮点？有哪些新的技术，新的产品？接下来我们来连线第一财经的记者赵一文，来请他为我们带来更加全面深入的报道。另为你好
[13:01] 好的主持人，我现在就在二零二六世界人工智能大会的世博中心分会场。我们知道sale卓越人工智能引领者奖呢作为WAIC的最高荣誉，全球AI产业的权威风向标sale呢寓意着AI
[13:04] 从上海扬帆远航，以超越赋能创新引领为评选的内核聚焦底层的技术突破和产业的落地价值。那本届奖项呢是全面升级哈，全球征集了两百三十个有效的项目，海外申报的占比达到百分之十四点三，覆盖了算力芯片通用智能。那今天今前工业金融等热门的赛道，那经过多轮的这个评审呢发布这一次的top三十的入围榜单那经过这过去八年的积淀和积累啊CE奖是持续发掘兼具技术壁垒和产业转化潜力的这个成果来成为这个资本产业研判AI发展趋势的一个核心的参照，并且集中展现世界人工智能大会的前沿突破和商业化的新机遇。那今天我在现场邀请到来自上海人工智能实验室的青年领军科学家陈凯，你好，陈老师。那对于今天这次公布的这个呃三十个CL奖的这个入围的这个成果哈那您有没有一个特别的一个洞察呢？呃，我觉得今年的CL的呃就CL奖的话，它其实展现的就呃就呃目前AI发展的一个全站的趋势啊就非常高性能看到其实不管是从最底层的芯片层还是说到呃模型和算就模型和算法层啊，以及说包括个物理世界啊，那其实有着非常多的一个这种重大的一些突破啊，就经过各种各样的就今天可以看到各种各样的一些不同的一些芯片路线，或者说不同的一些这种呃芯片的一些成果出来，我觉得这些都是为我们的国产的AI的呃创力或者说国产的AI的底座打下了非常好的一个基石。嗯，所以今年我们看到其实中国的整个AI的这个硬件啊，不管软件啊等等大模型等等，其实在一级市场，二级市场都迎来了一个爆发式增长啊。那您在我们这次的人工智能大会上有没有观察到让您特别兴奋的一些新的一些亮点。呃，就这次的话，其实我觉得呃包括嗯就国内很多的一些嗯在不管是呃就硬件层还是软件层呃，其实确实有一些非常呃非常好的一些成成果啊，比如说像那个呃CL奖里面其实包括像那个呃就国内的深腾的一个基势，呃，然后也是呃就整个的包括嗯现在很多的一些这种互联网的公司，包括一些大势，然后其实都在逐步的去推开就是国在这样的一个呃算力短缺的情况下，国产算力呃能够去逐步的从推理逐渐的去拓展到训练，来去完成对这样的一个呃就算力缺口的一个补充。我觉得这其实是一个互常好的一个趋势。然后包括从那个呃就大模型的算法上现在其实大家逐部等等
[13:05] 。对于像呃就科学研究或者说嗯就AI for science这样的一些新的技术，以及说像AI的自进化的技术，其实都是呃有着非常好的一些这种呃就新的一些认知或者说呃能够去跟国际上的一些呃前沿的模型，或者前沿的一些公司来去PK的这样的一些呃从这个的是呃呃这样的一些呃初步的一些成果，对我觉得这些其实都是呃就非常呃令人欣喜的啊，最后一问问题作为上海人工智能实验室的青年领军科学家给我透透露一下，今年上海人工智能实验室有没有一些新的研究成果或者前沿的方向呢？呃，对，上海人工智智能验验上话，它主们是呃就最近近在在科学呃呃就让AI改改变科研学上，这就让一个大的topic上所所以就就今今年的呃世世界智工智能大会上，呃在实验室也也办了就自己的科学前沿论坛。然后在上面的话，像实验室的呃就呃相关的领导呃其实也会来去讲实验室的一些成果，包括像呃就新的模模型的一些成果。如说说我们呃就就科学的智模模型的一些新发发布以及说呃把这个基座模型用于去就赋能整个的这种新的科学研究以及面呃所打造的这样的一个呃就科学研究的论台。那就这种模型到整个平台来去改变研研研式来去更更多的科学家够去呃呃就AI究究AI来去AAII加速他们的一些呃AAI的一些这种爆发式的产出这这的话其实是呃就上海人工智能实验室最近呃就最关关注的一些其实以及说最近我们会发布的一些成果嗯，好的
[13:05] ，我们也持续的关注和期待着哈，谢谢陈老师。好的，那我们在直播现场的情况就是这样，我们把镜头交还给演播室
[13:06] 。好，感谢英文从现场为我们带来的精彩的一个直播报道啊，那么观众朋友我们休息一段时间，接下来我们的直播将会为您继续带来精彩的内容，稍后再见
[13:06] 我
[13:07] 人工智能
[13:07] 澎湃星起
[13:07] 颠覆性变革急剧涌现
[13:07] 。嗯，对对
[13:08] ，模型加速
[13:08] 双城万物
[13:08] 有新生
[13:08] 无远福气
[13:08] 时代机遇世界同享
[13:08] 为命运全球并肩
[13:08] 发展共创先机
[13:08] ，坚持公平普惠
[13:08] 开放猫笼
[13:08] ，增进共同福祉
[13:08] 安全共管风险
[13:08] 。坚持安全可控
[13:09] ，展安全并重
[13:09] ，治理共起未来
[13:09] 。坚持伦理先行
[13:09] 和平利用
[13:09] 商促共享，以善治促善治
[13:09] 。我see the clouds maches learn to grow
[13:09] 后，let the
[13:09] 别走
[13:09] ，but that he he ill serbhomstrong
[13:09] hello
[13:09] ， every fiite seems the world where we all belong
[13:10] signs tomorrow life
[13:10] 就渐散
[13:10] 。下瑟ary
[13:10] ， pray
[13:10] 你的边迁
[13:10] 有谁在
[13:10] put in fn in our hand
[13:11] ， transforming cities
[13:11] ，白冰的脸
[13:11] ，in fact， ory smart new
[13:11] protectics by
[13:11] still make wrongs turn right
[13:11] 一个变
[13:12] i you
[13:12] 时代之风正取鲲鹏
[13:12] ，我们不断作答，更持续发问
[13:12] 。in computing power， become as ubiquitous as electricity
[13:12] ， we secure the front line amid the flood of data
[13:12] robots evolve autonously in complex reality
[13:12] ， AI unloked。 the mysteries of life
[13:12] ， what is AI native enterprise new tools or new dna
[13:12] ？ how to pursue win win global ai development
[13:12] ？ how will ai achieve new breakak ws next
[13:13] ？ how does openness read truth in biosa
[13:13] 二零二六世界人工智能大会？我们在此作答
[13:13] 基石驻敌
[13:13] ，真诚赶超
[13:13] 边界定归
[13:13] 生湃繁荣
[13:13] ，智能伙伴，共创未来
[13:14] 。好，观众朋友您好，欢迎再次回到二零二六世界人工智能大会第一财经大放送的直播间。我是主持人朱俊福。这个时段呢我们和大家一起来聊一个既兴奋又有一点纠结的话题。兴奋呢是AI，终于不仅仅只会聊天了，他也许可以帮你订机票啊整理文件啊，或者是参参了了市治治理，但个纠结呢在于他如果假如自己能够做决定，能够参与决策，会不会好心干坏事这个值得我们思考，尤其是最近啊几款这个国民级的应用被叫停了，咱们国家还出台了人工智能拟人化互动服务管理暂行办法。所以一系列的这样的动作，让我们都在考虑这个智能体到底应该怎么用。所以针对这个话题，我们为大家请来了两位专家在这儿先为大家介绍他们首先介绍我旁边的这位他是中国信息通信研究院华东分院副院长廖运发先生，廖院。您好，欢迎您。你好好那位嘉宾是星环信息科技上海股份有限公司创始人董事长兼首席执行官孙云浩先生，欢迎您孙总总主持人。你好好，刚才我们已经抛出了一个话题哈，针对这样的一个人工智能体带来的一个让人纠结又兴奋的一个状况。二、老师有没有一个初步的判断，怎么来看这个事儿他
[13:15] 这个事情我觉得是对我们智能体健康发展一个这个非常好的这个事情。首先就是我们智能智能体现现在是大家都非常关注发展也很快呃，今年可以说是这个智能体的这个
[13:15] 呃爆发元年啊
[13:16] ，然后这个智能体在c端的应用以及在b端的应用都已经是如虎如荼啊这个可以看得出来。但是我们也要看到这个智能体的发展哈，可能会面临一些这个关键的这个问题就是有可能会在存在的一些这个风险依赖或者说有有些这个呃一些这个拟人化的这个滥用的这个问题。在这个关键时刻就是这个国家这个推出的这个拟人化服务这个一些这个监管办法，我我觉得这个是对我们这个就整个呃智能体发展特别是在终端的这块应用哈，会一个非常及时的这个这个是把握这个风方向呃，一清一些这个关键的这个风险要素嗯，推动这个整个产业的这个健康发展的一个为一个非常关键的步骤在这个以这个办法对应的配套的还有一些这个关比如说科技能理审查办法。所以这些办法共同推动这整个呃人工智能智能体的一个在我们c键应用以及在b端应用的一个非常关键的这个一些监管的这个这个要素嗯，我是所以我觉得这个针对这些办法，我觉得这个后续对我们整个人工智能体的发展会起到一个非常重要的这个健康发展的一个支撑作用。嗯，好，您的观点也非常明确啊，来问一下孙总，您怎么来看
[13:16] 呃，由于现在智能体的逐渐增入到企业里面去了，是呃，那他这个已经代替了这个人看做一些行动，做一些决策了，那这个呢就是风险可以增大了，因为前面以前大家是用智能体用来聊天，那可能
[13:17] 安全风险主要还是来自于呃这个回来内容，对不对？价值观有没有问题？呃，但是呢一旦让智能体来做决策，比如说帮我转账，那这个万一这个转账后面多了个零，那这个后果就比较严重了啊，所以呢就说
[13:17] 智能体在进入企业里面嵌入到企业工作流的时候啊，它的这个安全啊就变得越来越重要了。那这里可能就是上面还是有蛮多啊，比较复杂，需要考虑的因素的啊，所以我们认为呢这个智能体的安全在是这个企业应用智能体的一个基础啊，这是个前提条件了。嗯，所以从这个行业和产业的角度来看的话，因为这次这个应用的下架和办法的出台刚好是同一一天哈，所以二位看它是一个短期的阵痛呢，还是说它是一个短期的一个洗牌，它有没有一些发展趋势性的一些指示灯这样的一些作用，咱们来看二
[13:19] ，从长期来看，这个对行业应该该是是个利好，是利好是利好。因为我这个现在行业这个在发展初期啊，我觉得可能会大家会有点这个迷失方向啊，不知道这个我们的人工智能体具体应该往哪个方向，应该怎么去呃呃呃更大的挖掘它的这个价值是吧？但是在我们一些这个监管出来以后，我们知道我们的底线在哪，我们的红线在哪？我们不能做什么，这对企业来说，他明确了自己的一些那个底线，自己的这个边界以后，他更好的挖掘自己的一些这个智能体的一些技术的这个价值。这些我们产业的这个应用的价值，这对我们长期来看是对我们的整个这个产业发展是非常有利的啊，当然可能在当前出台的这一短暂的时间内，它可能会对一些这个智能体的一些价值。这那一些些些初步的这个意志在那他们可能要接对自己的智能体一些这个呃一些这个涉及到的影响要做一些这个自我的审查或者判断断啊或者说进行一些这个评测啊，在这种情况下可能会暂时会对一些这个应用会可能会比如说呃一些自我审查，觉得这个有疑问的，他会进行这个下架这个处理。那长期来看，他排除这种疑问，以后未来会迎来更好更健康康发展展好，孙孙总呢？怎么看这个问题？对对行业来说啊，对行业来讲就是刚才李院长来讲，这个对c端的用户，对企企端，我认为这个是个利好，就是说你没有这个规范的话，大家都不敢用啊，所以就是说你必须要把这个问题解决掉，才能够大规模布
[13:19] 啊，所以我觉得这个是对行业一定是一个利好，如果能统一出现一些技术标准或者最佳实践，那企业就更敢用这个智能体了。嗯，所以说这个安全和治理啊是每一届人工智能大会都永恒的一个主题之一哈
[13:20] 。啊，所以这次我们再说了，从这个聊天到能够主动干事了，可能对于这个安全和治理提高了一个更高的一个一个一个一个范畴之内了啊，所以我们来问一下二位，因为刚才廖勇也说了要有这个底线思维底
[13:20] 底线意识这个底线应该怎么来画目前这个底线要确定他明确他最缺的是什么？嗯，呃从监管办法本身是明确了一些这个哪些能做啊，哪些不能做的这个事情啊，这个基本上已经把一些那个底线红线包的包边界啊这些已经初步明确了。但是对于呃很
[13:20] 很多企业来说，可能说这个呃对于判断这个可能还存在一些这个呃可能技术这上的难题不一定每个企业呃都可以说这个非常轻易的一些判断它本身的这个智能体是否涉
[13:20] 这这方面的这个问题嗯，所以这可能会呃可以一些那个第三方的监管机构或者是区域的一些这个监管组织去帮助去协同去排查这些问题嗯，所以在这个基础上我们像
[13:21] 在昨天的一些这个论坛上，我们的这个大模型到智能体的这个论坛上，我们也看到了业界我们协同业界发起了这个终端智能体应用呃这个这个评测体系的这个问题
[13:21] 。这个问题其实就是帮助我们业界的每一个智能体去发现可能存在的这块的这个应用方风险更好的去这个推动我们智能体的一些这个呃健康发展。嗯，好，孙总怎么来看
[13:21] 这个底线的问题
[13:21] 。嗯，这个嗯首先就是呃，如果我们看这个智能体在企业应用的话啊，其实它的底线是每家企业可能会不一样的嗯呃都得划一个不同的标准。那有的企业有的应用场景呃，它对这个数据
[13:22] 就是安全底线的这个要求，它对这个后后引起的这个后果的这个容忍度是不太一样的。呃，那有的是比如说医疗的那个绝对是这个后果，是这个不能承受的啊。如果犯了错误的话，那有的是比如说简单的这个智能体应用，那比如说问答类的知识类的那稍微处理没关系，人可以去校对的。所以呢我觉得呃针对不同的企业，不同的这个应用场景啊，它的安全底线还不太一样。嗯，好，所以在这一块我们得一事一议哈具体问题提取的分析。那我们就从这个孙总的这个新环科技来说，咱们的这个智能体是应用在了金融、政务、能源等核心的一些领域和场景哈。所以在这些具体的场景当中那
[13:23] 应该能够更好的理解。刚才我们所说的这个底线也好，风险也好，因为我们来说一下呃，对，就这里这个风险我我们现在实践当中发现一些问题哈。因为对唉，有的问题就是比如说数据安全的问题，嗯，啊这个经常碰到说这个智能体不小心把你的代码全删掉了，把这个数据库全删掉了。那这个是造成重大灾难了啊，那这是一个数据安全的问题，还有一个就是这个调用企业工作流哪些动作它是能哪些是不能调这个权限和这个
[13:23] 数据的这两两个呢就是必须是这个锁住的这个底线就是必须要先设置好的。那第三个就是说是可能是更难的，就是智能体。我比如说我用来做这个用来省，比如说信贷放贷的这个我有很多规
[13:23] 则，那如果智能体在中间它没有按完全按照你的要求来审它突发奇想哎，给你突然放绿灯了啊，那可能这就有问题了，那这个规则呢就是要智能体的这个指令遵循的能力啊要
[13:23] 要加强。那这一块呢可能会更难实现一点。那不光是我要把这个规则写的很清楚，我还要去约束这个智能体啊它能够严格遵循企业要求的规范来执行。所以既然咱们这个咱们的智能体在这么多的领
[13:24] 与和这个场景都有落地了。说明咱们的用户是用脚投票啊，选择运用这样的一个智能体。所以他们在敢用和不敢用之间选择用和选择不用之间，您觉得他们衡量的一个标准是什么
[13:25] ？嗯，呃我我觉得是这样的，就是这个跟就是首先这个技这个就能干什么这个智能体能干什么？大家其实还在探索当中，嗯，其实这个边界还是呃就是可能会很大天花板可能很高啊。大家在这个我觉得现在刚刚开始企业在把智能体用他的工作人员当中去啊，那么呃就是那他这个至于企业敢用他做什么，我觉得这里面还是每家企业可能每个人都不太一样。那我举一个比较简单的例子哈，这个呃就是现在智能体已经可以完全模仿你的这个过往的这个书写习惯和风格帮你读邮件习信安排任务啊全都可以干了。但是呢你敢不敢让这个智能体替你来干这个活，你你自休休假去了，觉接这个智能体帮你批邮件，帮你下发任务啊，就你敢不敢这么做啊，这个就取决于这个工作到底对这个组织有多大影响了。我们先不说他干出了这个功劳归谁，就是说他假如出了问题，这个责任谁来背对一个责任主体是谁责任主体是谁？对这个就是目前可能对于企业来说，这是一个非常考虑非常重要的一个哎非常重要的问题题。那好呃就个
[13:27] 这一届的这个人工智能大会啊，这个科技智能啊，尤其是物理AI也好，事业模型也好，是大家热议的几个主题之一。它的一个最大特点就是AI可能是从这个手机屏幕从一些网络来到了咱们的现实世界了啊，可以帮我们干活了，可以帮机器代替工人生产呢可能在这样的一个物理世界里面，它需要承担的责任和所要承临的风险是撑起和风数的一个增长哈哈所以在这一块老师有什么么一些风险，那问一下刘宇嗯，这个刚才孙总也都谈到这个一些智能体的风险哈呃我觉得这个非常认可，然后这从我这个个人看来哈，这个人工智能体的这个风险呃，这个是比较全面的系统性的。首先，它依赖的这个在大模型这块的一些这个大模型本身的一些智能性的风险决策性的风险。这个是一个比较系统的现在还难以克服，因为它这个完全是数据驱动存在一些概率的问题。这块的这个准确性一致性，现在说我们还不能说完全去把握好这块是个技术这个风险。第二个就是我觉得现在这个就是我们对每一个智能体去应用都可能需要给它授权啊，授权以后这个我们现在一旦授权的这个过多授权多少会决定它能干多少事情，授权的越多可能能干的事情越多，但是同时也存在不是这个一些这个决策的这个风险呃，这个是也是个问题。另外一个还可能刚才谈到的也涉及这个数据隐私数据泄露啊这块的这个问题。因为它这个很多这个数据它可能在这决策传递过程中本身存在这个网络泄露或者说有些这个程序它是不是有这块的这个足够的这个隐私安全保护呃这块是这个呃问题
[13:27] ，关键还有一个就是本身大模型人人工智能体生成的一些这个内容做出的这个决策，这个是不是还符合这个一些这个呃伦理道德、科技伦理道德这个风险以及
[13:27] 是不是会对人体或者说我们所处的环境或者生物造成一些伤害的这些风险，这些风险我们都可能会呃要考虑到，所以这个是个层层递进的这个问题。嗯，所以这些问题
[13:28] 会决定我们对现在智能体需要做一个什么样的这个判断观察。所以这个可能就是在智能体的这个应用的过程中，我们首先要对它进行一个备案
[13:28] 。第第二个要进行这个评测。第三个还要我们要进行一个这个科技伦理的审查，要层层递进。当然在这个这些这个呃层层递进的这些技术的这个问题，我们现在这个要响应国家还有联合国的唉这些这个要科技向善的人工智能向善的这些要求求们们建立人生活，生态，大家要推动我们的人工智能，推动我们的智能体往我们改善人类的生活，提高我们的生活水平。这个大的这个好的这个方向去发展。所以这个也要求我们行业进行这个自略啊，当然在这个基础上我们就要用技术的方法去做做好一个监管啊，当然