1、GPT-5叫停:OpenAl最近关于通用人工智能的声明指出,“在某些时候,在开始训练未来系统之前进行独立审查可能很重要......
因此,我们呼吁所有AI实验室立即暂停至少6个月的训练比GPT-4更强大的Al系统。这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这种暂停,政府应介入并暂停。
2、基于GPT4大模型以及微软安全团队每日搜集超65亿网络威胁情报,微软安全Copilot试图通过AI逆向工程黑客们的意图、潜在方法等,将安全策略集成在云端一键部署。
当涉及到安全创新时。这意味着三个具体的事情:
首先,你的数据总是你的数据。
其次,您的数据并不用于训练其他人可以使用的基础模型。它将留在您的组织中。
第三,我们通过业界最全面的企业合规和安全控制来保护您的数据和人工智能模型。
3、微软安全Copilot,第一款授权防御者以人工智能的速度移动的安全产品。它将从根本上加速抵御威胁的防御能力,在你需要它们时提供关键的见解,并帮助你在攻击者采取下一步行动之前进行预测并采取行动。
微软安全Copilot是第一个也是唯一一个生成式人工智能安全产品,建立在GPT-4 AI全功能的基础上,以机器速度和规模保护组织。它不断地从微软无与伦比的全球威胁情报、安全数据和技能中学习,以提供量身定制的见解、强化的防御和更快的反应。
关于AI安全投资机会的思考:
1)AI天然黑匣子,是隐私计算很好的方式,提升TEE、联邦学习等方式智能性、虽然成本高点,有利于数据安全。
2)在安全的各个方便,可以让安全机制的实现更智能。
3)安全服务以前需要大量人员,AI可以把原则与知识自动化,安全公司降本。
4)当然AI本身的稳定性和道德对齐也要重视。