北京万里红科技有限公司成立于2001年,隶属于中国科学院控股有限公司(简称国科控股)旗下四大集团之一的东方科仪控股集团,东方科仪控股资产超过135亿,年营业收入超过100亿人民币,公司于2021年完成和北京东方中科集成科技股份有限公司(深圳主板:002819)整合上市。
万里红公司作为数字安全和保密领域的国家队,定位于中国数字安全和保密领域的技术赋能者和综合服务商,公司依托于中国科学院研究所的技术资源禀赋,和中国科学院软件研究所、中国科学院信息工程研究所、中国科学院自动化研究所、中国科学院计算技术研究所以及清华大学计算机系有着良好的合作关系。公司专注于信息安全保密、大数据与人工智能应用、智慧政务与信创工程、生物特征识别、专用操作系统等领域的创新研究和技术应用,为各个行业用户提供整体应用解决方案。
乍暖还寒时,一个会聊天的机器人——ChatGPT抓住这个冬天的尾巴,在全球范围内爆火出圈。它储备了巨量的金融、IT、文学、历史、制造、医疗、法律等众多领域的知识/语言材料,能够更精细地理解人类语言中的复杂语法和语义,不需要用户懂代码、懂技术,只要会提问,ChatGPT就能给出答案。
上知天文地理,下能通过谷歌程序员的面试、为总统写发言稿……ChatGPT对信息的处理与“创作力”,着实让人“紧张刺激到发抖”。那么,对于数字安全和保密防护,ChatGPT会带来更多“惊喜”么?
AI给保密和数字安全以更多智能
事实上,从大众熟知的AI棋手、AI换脸、AI绘画……人工智能的研究和应用早已渗透到各行各业。在数字安全和保密防护领域,引入人工智能技术可用于监管的辅助决策。比如在数据采集分析、监测预警等方面,在网络安全保密检查中,甚至在行政执法、政策制定和决策上,人工智能技术都大有可为。
构建平台化的智能分析和数据处理能力,是未来万里红数字安全和保密防护技术方向之一。基于人工智能安全分析技术,可以用于分析网络异常行为,进行主动安全防护监管;基于大数据架构,提供响应快、性能高、扩展强、灵活度高的分布式数据分析引擎,满足不同数据规模和应用场景的数据处理需求。在这一过程中,基于深度学习的ChatGPT或许将带来更多的创造力灵感,利用其语言生产模型的优势,在产品能力、安全服务能力上给保密和数字安全以更多智能。
ChatGPT 安全风险不容忽视
硬币总有两面,在人工智能助力攻防之外,ChatGPT亦不可避免地存在安全风险。
01 可靠性缺陷
除了开发环境存在的安全问题外,“高质量”数据是AI的前提和基础,“垃圾输入,垃圾输出”甚至“一本正经地胡说八道”,数据篡改、伪造以及上传不及时、不准确,都会形成安全隐患、造成信任危机。
02 敏感信息泄露风险
据硅谷媒体报道,亚马逊的公司律师称,他们在ChatGPT生成的内容中发现了与公司机密“非常相似”的文本,目前亚马逊、微软等科技巨头已经提醒员工不要泄露数据。一旦提问过程中泄露敏感信息,在ChatGPT不断自学习和自我迭代下,或将很难消除影响。
03 降低网络攻击的门槛
据数字安全调查媒体Cybernews称,ChatGPT可被用于寻找网站的安全漏洞,在AI的帮助下,研究人员对一个普通网站进行了渗透测试,并在45分钟内结合ChatGPT提供的建议和代码更改示例完成了破解。
作为国家队的网安企业 还未被挖掘
还有一个小花絮,东方中科本身还从事光模块的测试业务
还有一个小花絮, 东方中科本身还从事光模块的测试业务