聚焦2024数博会｜与天空卫士一起探索AI与数据安全的融合应用

中国国际大数据产业博览会（简称数博会），是全球首个以大数据为主题的博览会，自2015年创办以来，经过多年的深厚沉淀，数博会已发展成为国际知名、引领前沿趋势的专业展示合作平台。
2024年8月28日至30日，第十届数博会在贵阳举办。天空卫士受邀参加“数据安全产业发展”交流活动。该活动由国家数据局指导，国家信息技术安全研究中心支持，并由贵州大数据安全工程研究中心主办。本次交流活动以“深化数据安全实践·促进数据价值挖掘”为主题，汇聚行业专家和企业代表，探讨人工智能时代下的数据安全创新。
活动现场，贵州大数据安全工程研究中心与北京天空卫士网络安全技术有限公司达成战略合作，双方正式签署合作协议。

AI大模型的发展给数据安全领域带来了严峻的挑战。首先，大模型的训练需要庞大的数据集，这增加了数据泄露和滥用的风险。其次，模型输出的安全控制也是一大难题，如何防止模型生成有害、不当或违法内容，需要建立有效的内容审核机制。
针对以上风险，本次大会举办了“AI大模型发展过程中的数据安全挑战”为主题的圆桌论坛。
“AI大模型发展过程中的数据安全挑战”圆桌论坛
天空卫士董事、合伙人杨明非从安全角度深入剖析了AI大模型的发展趋势及潜在风险。杨明非特别强调了三类关键的安全问题：模型自身的安全隐患，如数据污染和算法欺骗可能导致模型产生错误或偏见；输入输出过程中的数据合规和隐私保护问题；以及在自动化控制等应用场景中可能出现的不可控风险。针对这些挑战，他建议采取场景驱动的方法，细致分析每个应用环节中的安全问题，并探索利用大模型本身来增强安全防护的可能性。杨明非还强调了在实践中保持开放学习态度的重要性，呼吁业界在推动AI创新的同时，始终将数据安全置于核心地位，以构建一个负责任、可持续的AI发展生态。
全球正处于数字经济快速发展的黄金时期，数据已成为驱动经济社会变革的关键力量。加强数据安全保护，推动数据安全产业发展，已成为重要课题。本次交流活动，为大家搭建深入交流与探讨的平台，共同探索数据安全治理和产业发展的新路径、新方法。作为国内领先的数据安全解决方案提供商，天空卫士未来将继续深耕数据安全技术，积极探索AI与数据安全的融合应用，推动产品和服务创新。同时，公司将加强与政府、科研机构和企业的合作，助力实现数据价值的安全释放与共享，共同构建安全、可信、高效的数据生态系统，为中国数字经济的健康发展贡献力量。