是的,你没看错。
根据谷歌自己的说法,它不仅还原了 OpenAI 大模型的整个投影矩阵(projection matrix),还知道了确切隐藏维度大小。
而且方法还极其简单 —— 只要通过 API 访问,不到 2000 次巧妙的查询就搞定了。
成本根据调用次数来看,最低 20 美元以内(折合人民币约 150 元)搞定,并且这种方法同样适用于 GPT-4。
好家伙,这一回阿尔特曼是被将军了!
这是谷歌的一项最新研究,它报告了一种攻击窃取大模型关键信息的方法。
基于这种方法,谷歌破解了 GPT 系列两个基础模型 Ada 和 Babbage 的整个投影矩阵。如隐藏维度这样的关键信息也直接破获:一个为 1024,一个为 2048。
不管怎么说:
谷歌等团队的这个实验证明,OpenAI 锁紧大门也不一定完全保险了。
本文内容不用于商业目的,如涉及知识产权问题,请权利人联系51Testing小编(021-64471599-8017),我们将立即处理