多款主流GPU被发现漏洞 或泄露AI大模型数据

多款主流GPU被发现漏洞 或泄露AI大模型数据

时间:2024-01-30 10:03 点击:86 次

<p>日前据报道,安全研究人员Trail of Bits发现了一个漏洞,有可能从GPU内存中窃取“关键数据”,英伟达、苹果、AMD和高通等多个型号的消费性GPU受到影响。</p><p>该漏洞被命名为“LeftoverLocals”,这个漏洞不只是针对消费者应用程序,而是通过侵入大语言模型(LLM)和机器学习(ML)模型中使用的GPU来完成任务。由于模型训练涉及敏感数据使用,因此提取数据更危险。</p> <img data-reference="image" src="https://img-s-msn-com.akamaized.net/tenant/amp/entityid/AA1nagIM"><p>卡内基梅隆大学(Carnegie Mellon University)的专家正在对LeftoverLocals进行跟踪,据称该信息已经被受其影响的主要GPU供应商共享,其中包括英伟达、苹果、AMD、Arm、英特尔、高通和Imagination等。</p><p>在AMD Radeon RX 7900 XT上运行70亿参数量模型时,LeftoverLocals漏洞在GPU每一次调用数据时可能会泄漏约5.5MB数据,在llama.cpp上运行7B模型时,每次LLM查询总共会泄漏约181MB数据。这些信息足以高精度地重建大语言模型响应。</p><p>LeftoverLocals相当依赖GPU如何隔离其内存,而这与CPU框架不同,青岛丰硕机械设备因此通过可编程接口获得对GPU共享访问权限的攻击者可以窃取GPU内的内存数据,这将带来多种安全后果。</p><p>对于普通消费者来说,LeftoverLocals可能不值得担心,但对于云端运算或推理等产业的相关人员来说,会使LLM和ML框架的安全性存在疑虑。</p>

按照合作计划,中国学生先在中国大学学习3年,然后到俄罗斯秋明工业大学学习1年。另外,在中国学习的几年中,双方在学术流动计划框架下,一些课程将由秋明工业大学老师授课。学业结束时,大学生将获得中俄两国文凭。考生可在2024年至2027年报考。

服务热线
官方网站:www.sdfengshuo.com
工作时间:周一至周六(09:00-18:00)
联系我们
QQ:
邮箱:
关注公众号

Powered by 青岛丰硕机械设备 RSS地图 HTML地图

Copy My-Web © 2013-2023 版权所有:真心相伴,不离不弃,爱心支持,一路相随,!