《科创板日报》2月29日讯（记者 朱凌） 当前，以大语言模型为代表的AI技术应用正在渗透至千行百业，成为推动各行各业转型升级的新引擎。然而，随着这些技术的应用日益广泛，大模型的安全性问题也日益凸显。大模型之于网络安全行业，将带来哪些机遇？围绕大模型的安全问题，行业将给出何种解法？

《科创板日报》记者昨日来到2024上海网络安全产业创新大会，听到了来自中国信通院华东分院、蚂蚁集团、商汤、翼方健数、上海交通大学网络安全学院等产学研界专家对此的答案。

▌技术与安全的平衡

《科创板日报》记者注意到，在圆桌讨论中，专家们都强调了在利用大模型技术的同时，必须平衡其带来的便利与潜在的安全风险。

中国信通院华东分院院长廖运发提到，大模型的发展为网络安全带来了新的机遇，尤其是在内容安全、数据隐私保护、运行可靠性等方面。然而，大模型的安全性问题也不容忽视，包括基础设施安全、数据隐私泄露、运行稳定性等。

例如，大模型生成的内容可能涉及意识形态问题，需要进行网络备案和监管。此外，大模型的运行可靠性、稳定性和可解释性也是当前研究的重点。大模型在信息通信和安全领域的应用，需要重点关注基础设施的安全问题，以及数据隐私的保护。

上海交通大学网络安全学院教授王士林从学术角度分析了大模型与网络安全的关系，提出了大模型可能带来的新威胁，如内容安全问题、功能安全问题、数据安全和部署问题等。他从学术研究的角度，分析了AI和网络空间安全之间的关系。他强调，大模型的生成能力增强，使得内容安全监测变得复杂。他强调，大模型的生成能力增强，如何监测和评估生成内容的安全性，是当前研究的重点。

商汤集团信息安全委员会负责人吴友胜从安全从业者的角度，提出大模型在安全领域的积极影响，如大模型在提升安全自动化处理能力方面的积极作用。但在实际落地过程中，仍需面对数据规模、质量、标签化的要求，以及算力和算法的挑战。如黑客利用AI技术进行攻击的自动化等。

翼方健数技术总监孙维东总监则表示，大模型在数据安全和网络安全方面是新机遇和挑战并存。他强调了算力基础设施和模型安全防护的重要性，国产化硬件的投入将为大模型提供更可信和安全的基础设施。

▌2C与2B场景的安全差异

经过近一年半时间的发展，如今，大模型的话题，正从底层技术的研发走向如何更好的落地应用。在讨论大模型在不同场景下的应用时，本次会议中，专家们指出了2C和2B场景在安全方面的不同关注点——在2C场景中，用户体验和隐私保护是核心，而在2B场景中，商业机密和数据安全则更为关键。

免责声明：文章内容仅供参考，不构成投资建议。

关注【叩富问财】服务号，关注后在对话框回复“9月社保规定解读”，可获得关于9月社保规定解读的最新热点、必学知识、视频讲解、一对一顾问讲解等服务。点击微信，一键关注