中国工程院院士方滨兴：为大模型加上“护栏”
9月15日上午盈利网，2025年广东省网络安全宣传周开幕式在珠海国际会展中心举行。
开幕式上，中国工程院院士方滨兴作主题分享。他表示，当前，“护栏”已经成为应对大模型安全风险的重要工具，建立集约型大语言模型“保险箍”将是未来之路。
方滨兴介绍，大模型护栏盈利网，相当于大模型的“泄压阀”。当用户向大模型提出问题，问题首先被发送到“护栏”系统进行审核，若通过，问题被送至大模型，答案生成后返回给用户；若未通过，系统会拦截该问题，并进行修改或拒绝回答，用其他方式回应。
大模型“保险箍”就是大模型护栏的一种具体实践，通过三级体系，构建类似电力保险丝的强制断电机制。
方滨兴认为，应该建立一种通用的护卫模式，将安全作为一项基础设施服务，由专业平台提供给所有企业，有助于避免每个公司重复投资建设安全能力，形成规模效应，降低社会总成本，更有效地管控大模型带来的系统性风险。
采写：南方+记者 张紫微 实习生 杨进怡
摄影：南方+记者 许舒智 钱文攀
剪辑：南方+记者 徐昊盈利网
弘益配资提示：文章来自网络，不代表本站观点。
沪深京行情 实时轮播
热点资讯
