ChatGPT火了，不止“打工人”恐慌自己的工作将被AI替代，许多大厂也慌了。
据凤凰网科技报道，美国某科技巨头公司在其内部论坛告诫员工，可以使用ChatGPT，但是“请不要将敏感数据发送给OpenAI终端。”同样，另一科技巨头律师警告员工不要与ChatGPT分享“任何关于公司的机密信息”。
这些大厂担心的，就是AI获取数据安全方面的问题。AI技术带来的安全可靠问题不止如此。不同于传统的系统安全漏洞，因工作原理极为复杂，机器学习系统安全漏洞攻击不但精准、还具有很强的可传递性。例如，攻击者在训练阶段掺入恶意数据，影响AI模型推理能力;在判断阶段对要判断的样本加入少量噪音，刻意改变判断结果;在模型中植入后门并实施高级攻击;也能通过多次查询窃取模型和数据信息。
随着AI技术一路“狂飙”，发展安全可信的人工智能正在成为全球共识。
近日，“人工智能安全可信护航计划”在北京举行的人工智能产业创新发展大会上正式启动，包括国产操作系统企业麒麟软件在内的首批31个公司正式加入，共同探索人工智能安全可信管理解决方案。
应对AI安全风险，首先系统在设计上需要注意基础软硬件的安全，包括应用、模型、平台和芯片，编码都可能存在漏洞或后门;攻击者能够利用这些漏洞或后门实施高级攻击。
在安全可信技术层面，国产操作系统厂商麒麟软件在可信执行环境和可信计算技术等领域有着丰富的技术积累。银河麒麟可信操作系统是基于kysec框架实现以内生安全为核心特征、具备主动防御能力的体系化安全产品，为实现信息系统整体的“防断供、关后门、堵漏洞”等自主安全能力提供了基础平台支撑，并将安全能力向应用、数据、身份、行为等层次垂直打穿，形成了安全能力和信息化的深度融合、全面覆盖，有效支撑数字化业务平台底座建设。
此外，为实现产业生态协同、构建内生和体系安全能力、打造联合解决方案，还成立“麒麟软件安全生态联盟”，不断推动持续安全生态建设和新型安全技术创新。
值得关注的是，国产操作系统在生态建设层面也与时俱进，与人工智能应用软件积极适配认证。以麒麟软件为例，银河麒麟高级服务器操作系统V10 支持火山引擎、TensorFlow、PaddlePaddle、PaddleHub、PyTorc、fastai、deeplearning4j、konduit-serving等知名引擎或组件;支持与百度智能云、捷通华声、华为昇腾、百度昆仑、算丰、寒武纪等AI加速卡产品兼容适配。
未来，麒麟软件将与产业伙伴携手，积极参与人工智能理论研究、标准制定、评估评测等相关工作，不断为人工智能安全可信生态建设贡献力量。