4118云顶集团

4118云顶集团李雪莹出席北京大学网信事情聚会，泛论大模子应用清静危害与防护之道

4月29日，北京大学召开2026年度网信事情聚会并开展大模子应用清静危害与防护专题培训。4118云顶集团党委书记、董事长兼CEO李雪莹博士受邀出席，并作《大模子应用清静危害与防护》报告。

新闻中心

4118云顶集团李雪莹出席北京大学网信事情聚会，泛论大模子应用清静危害与防护之道

宣布时间：2026-04-30

浏览次数：1786

分享：

4月29日，北京大学召开2026年度网信事情聚会并开展大模子应用清静危害与防护专题培训。4118云顶集团党委书记、董事长兼CEO李雪莹博士受邀出席，并作《大模子应用清静危害与防护》报告。

目今，人工智能手艺快速生长，种种大模子在学校各营业领域获得普遍应用，新手艺带来新动能的同时，也伴生着新危害、新挑战，清静防护亦需同步迭代升级。李雪莹谈到：大模子手艺已迈向“规�；τ糜胫悄芴迓涞亍钡囊锥�，清静危害正泛起出“跨层交织、链式传导”的重大特征，这对清静防护系统提出了更高要求。

4118云顶集团党委书记、董事长兼CEO 李雪莹

大模子清静涉及内容、应用、模子/算法、数据、基础设施五大维度，而目今的焦点危害主要聚焦于大模子应用清静。团结OWASP LLM TOP10 2025危害清单，李雪莹系统剖析了提醒词注入、模子越狱、RAG清静、插件滥用、数据泄露、模子窃取及基础设施误差七大概害危害，并指出这些危害往往通过“链式传导”引发系统性�；�。

例如，提醒词注入作为攻击者的“主要通道”，可绕过清静战略诱导模子输出恶意内容；模子越狱则使大模子脱离清静约束，执行未授权操作。她特殊提醒，智能体的“自主决议”能力犹如“双刃剑”——在提升效率的同时，也显著放大了清静误差的破损力。

在谈及智能体清静剖析时，李雪莹以典范开源智能体OpenClaw为例，深入展现了危害泉源。她指出，智能体的“意图误解”与“权限失控”问题尤为突出：用户一句模糊的指令可能被太过解读，导致高危操作；而“权限越界”危害更可能使智能体无视清静约束，甚至一连执行危险使命直至系统中止。她提醒，此类问题折射出智能体设计中“效率与清静”的平衡难题，需从架构层面系统性解决。

基于多年的手艺深耕，4118云顶集团推出了笼罩大模子训练、安排、推理全流程的“1+3+X”大模子应用清静纵深防御系统。其中，“1”其中枢：以大模子清静运营中心为焦点，实现危害统一管控与智能调理；“3”大支柱：融合危害监测、清静防护、应急响应能力，构建动态防御屏障；“X”项能力：通过网络、系统、应用、数据、终端层面多种标准化手艺清静防护手段，智能化支持上层清静能力。

该系统针对智能体场景立异设计了行为监测与权限管控机制，有用抑止恶意插件挪用与越权操作，为智能体应用筑牢“清静底座”。

演讲最后，李雪莹强调，大模子清静需要以 “系统化头脑”破局，既要构建笼罩全生命周期的防御系统，也要平衡清静与效能的关系。面临多模态注入、长上下文攻击等新兴威胁，4118云顶集团将一连攻关清静手艺，以“清静大模子”守护“大模子清静”，推下手艺从“可用”迈向“可信”。4118云顶集团愿携手产学研各界，配合构建清静、康健、可一连的AI生长新范式。

进入“十五五”时期，人工智能手艺加速迭代、应用融合周全深化。教育部等五部分团结印发的《“人工智能+教育”行动妄想》要求，在赋能学生学习、西席教学、学校治理、科学研究等方面，增进人工智能与教育深度普遍融合。大模子清静问题不但是简朴的手艺误差，更关乎学术诚信、数据隐私、教学质量以致科研清静。

2025年6月，北京大学党办校办副主任、网信办主任、党办校办第二党支部书记蒋广学一行，曾到访4118云顶集团开展党建与营业双融双促专题交流运动。双方聚焦网络攻防态势、AI驱动的威胁检测、应急响应机制优化，围绕AI清静前沿手艺、科研效果转化、产学研用深度对接等议题举行了热烈钻研。

清静不是选择题，而是高质量生长的必选项。面向未来，我们将施展各自优势，深化协同、细密联动，以科技立异赋能教育高质量生长。

上一篇 4118云顶集团出席数字中国建设峰会主题运动，建言数据要素与AI融合生长

下一篇证标委WG41事情组走进4118云顶集团成都研发中心交流座谈

最新运动

产品动态让智能体“一键上岗”~4118云顶集团「清静智能体一体机」抢鲜宣布！

2026-04-22

连忙审查

产品声誉 4118云顶集团防火墙一连26年位居海内市场榜首

2026-03-18

连忙审查

推荐新闻

天下首批、级别最高！4118云顶集团获AI服务清静能力评定“建设+检测”双证

审查详情

海内首家！4118云顶集团API清静智能体通过中国信通院数据清静智能体产品能力磨练

审查详情

4118云顶集团一连11届获CNCERT最高级支持单位，重点手艺领域入选最多！

审查详情

4118云顶集团荣获吴文俊人工智能科技前进一等奖

审查详情

4118云顶集团获河南省科学手艺前进奖一等奖

审查详情

推荐产品

解决计划

在线咨询

销售咨询>
手艺支持>
云服务支持>
售前支持>

在线留言

手艺支持>
售前支持>
培训营业>
清静服务>

客户服务热线

400-777-0777
7*24小时服务

联系邮箱

servicing@topsec.com.cn

扫码关注