为了促进人工智能大模型在公共安全领域的应用与安全，加快大模型技术与安全防范行业的融合，2024年6月7日，中国安全防范产品行业协会（以下简称中安协）在北京召开了公共安全大模型应用与安全研讨会。中安协秘书长王楠、中安协专家咨询委人工智能组专家尹萍、中科院上海高等研究院智能计算与知识工程实验室主任黄俊，以及北京百度网讯科技有限公司、滴滴出行、蚂蚁集团、科大讯飞股份有限公司、深信服科技股份有限公司、新华三技术有限公司、杭州领信数科信息技术有限公司和中安协相关部门代表参会。本次研讨会由中安协专家咨询委人工智能组组长、清华大学王生进教授主持。

　　会议伊始，王楠秘书长强调指出：当前人工智能领域正在迎来一场由生成式人工智能大模型引领的爆发式发展，加快赋能千行百业向数字化、智能化转型，数智世界正加速到来。以大模型为代表的新一代人工智能已经与实体经济深度融合，广泛应用于社会民生各个领域，特别是在安防领域，人工智能的应用已经催生了实际的战斗力，显著提升了安全防范能力。人工智能是新质生产力，人工智能大模型应用在各行各业日益成为行业创新的驱动力，但我们也要正视人工智能大模型在发展中带来的诸多安全风险问题。希望各位专家也围绕AI大模型为公共安全领域带来的巨大便利，及其不容忽视的安全性问题深入讨论。

　　会上，百度标准化专家郭建岭和公安行业产品经理仲夏分享了百度在公共安全领域的AI大模型实践，包括智能问答、解答以及风险识别等方面，他们强调，大模型技术能够帮助企业更好地理解用户需求，提供更加精准的服务；蚂蚁集团安全标准总监林冠辰从金融安全的角度出发，讨论了AI大模型在金融领域的应用及其带来的风险管理挑战，他提出，随着AI技术的发展，金融机构需要更加重视数据安全和隐私保护，确保技术的应用不会侵犯用户权益；科大讯飞公共安全事业部市场部总监束和平在讨论中提出，AI大模型的发展趋势将影响整个产业的发展格局，特别是在技术路线、行业应用等方面，他强调，大模型技术的发展需要与传统技术相结合，以实现更高效、更安全的服务；深信服公安行业解决方案总监李浩原分享了大模型应用实践与安全思考；领信数科总经理张震宇分享了大模型安全检测和深度伪造识别；新华三数字中国研究院副院长康乐分享了大模型智能体在视频专网运维的实践。

　　与会专家在安全问题上，特别关注了数据投毒、模型偏见等风险，并提出了一系列应对策略。例如，通过建立更加严格的数据筛选和清洗流程，以及开发更加安全的AI模型来降低潜在的安全风险。此外，专家们还讨论了AI大模型在公安信息化建设中的应用前景。他们认为，随着技术的进步，AI大模型将在未来公安信息化建设中发挥更加重要的作用，尤其是在提升数据处理能力、增强安全预警机制等方面。滴滴出行安全专家李雪和新华三安评技术部总监李丹等，也分别从各自领域出发探讨了AI大模型在提升服务效率、风险防控等方面的作用。

　　最后，中安协专家咨询办负责人傅永超做会议总结，他表示，专家咨询委人工智能组开展的本次研讨会为AI大模型在公共安全领域的应用与安全提供了一个非常重要的交流平台，以此为契机，中国安防大模型应用服务平台建设也将拉开帷幕。中安协正在采取多种方式推进AI大模型在的应用落实，除了AI技术峰会和专题采访、《安全科技动态》简报等，10月22日到25日的北京安博会也将设立AI大模型展区,突出展示AI大模型的最新进展，邀请大模型厂商以及公共安全大模型应用方和AI安全企业共同参加。