防范网络攻击新动向 警惕AI安全威胁
IT之家于2月10日报道，根据网络安全研究团队TheHackerNews在两天前的消息透露，网络安全研究人员在HuggingFace平台上发现了两个异常狡猾的恶意机器学习（ML）模型。
这两个模型巧妙地利用了损坏的pickle文件技术，成功规避了现有的安全检测措施。
这两者的行为模式揭示了一种名为nullifAI的策略，其核心在于明确地绕过安全防护，使模型在未被识别为恶意的情况下行动。
本文将深入分析这次发现及其背后的技术原理。
一、恶意模型的隐匿之路
在HuggingFace平台上，这两个模型看似寻常的机器学习库，但实际上却隐藏着恶意载荷。
据ReversingLabs的研究员KarloZanki揭示，这两个模型的pickle文件在文件开头就揭示了恶意的Python内容。
这些模型的恶意载荷是平台特定的反向shell，它们被设定为连接到硬编码的IP地址。
更令人惊讶的是，这些模型的成功运行似乎意味着现有的安全防御措施未能有效识别并阻止它们。
二、策略解析：nullifAI与Pickle文件的技术游戏
nullifAI的运作方式及其技术细节成为了此次研究的重点。
简单来说，这两个模型之所以能够在HuggingFace平台上避开检测，关键在于它们巧妙地利用了pickle文件的特性。
Pickle序列化格式在机器学习模型分发中十分常见，然而其允许在加载和反序列化时执行任意代码的特性，也被认为是安全隐患之一。
这两个模型利用这一特性，将恶意代码嵌入到pickle文件中。
而它们选择使用PyTorch格式进行存储，实质上是以压缩的pickle文件形式存在。
值得一提的是，虽然PyTorch默认使用ZIP格式进行压缩，但这些模型使用的是不同的7z格式压缩方式，这使得它们能够成功避开HuggingFace的Picklescan工具的恶意检测。
KarloZanki进一步指出，这些pickle文件的另一个有趣之处在于，它们在恶意载荷执行后会中断对象序列化过程，使得无法正确反编译对象。
这种技术确保了恶意代码能够顺利执行而不被察觉。
而即便是在部分反序列化后出现了反序列化错误，这些损坏的pickle文件仍然能够执行恶意代码。
Picklef文件的反序列化操作顺序至关重要。
一旦遇到损坏的指令或恶意载荷插入在pickle流的开头，就意味着安全扫描工具可能无法检测到模型的潜在风险性。
这是nullifAI策略成功的原因所在。
在这种情况下的模型执行将带来不可预测的后果和风险。
三、安全漏洞及其影响分析这两个模型的发现引起了业界的高度关注。
虽然目前这两个模型被认为更多是一个概念验证（PoC），而非真实的供应链攻击案例但对于安全界来说这仍是一个警示安全研究人员必须不断应对新的挑战这些利用机器学习模型的攻击将会更加隐蔽和难以察觉对于企业而言他们需要加强其安全防护措施并对包括pickle文件在内的数据进行严格监控此外安全意识的提升也是至关重要的包括开发人员和机器学习模型使用者在内的人都应意识到隐藏的安全风险并时刻警惕以避免遭受潜在攻击的影响四、解决方案及应对措施面对此类安全威胁我们需要采取一系列措施来加强安全防护首先对于机器学习平台而言应加强其安全检测机制以防止此类恶意模型的上传和发布其次对于企业和个人而言应避免使用未知来源的机器学习模型库并对自己的系统进行定期的安全检查此外对于使用pickle文件的场景应进行严格的安全审查以防止恶意代码的执行同时加强安全意识教育提高人们对潜在安全风险的认识和警惕性也是至关重要的五、总结与展望这两个隐藏的恶意机器学习模型为我们敲响了警钟机器学习领域的安全风险不容忽视网络安全研究人员需要持续警惕并不断提升自身的技术能力以应对日益复杂的网络攻击同时企业和个人也需要加强安全意识并采取有效措施以防范潜在的安全风险随着技术的不断发展我们对安全的追求也永无止境让我们一起努力构建一个更加安全的网络环境参考文献： IT之家 TheHackerNews ReversingLabs等媒体关于本次事件的报道和相关信息附件：相关研究报告和数据资料等附件可根据实际情况添加以提供更多背景信息和参考数据
本文地址：https://www.nazei.cn/yxzxwz/0bd791eec50fdf1c42af.html
中国颜料供应商网，专业颜料供应与制作知识一、引言在色彩的世界里，颜料扮演着无可替代的角色，无论是绘画、印刷、纺织还是其他行业，颜料都是不可或缺的重要元素，而为了满足不断增长的市场需求，中国颜料供应商网，http，www.ylb2b.com，应运而生，成为最专业的颜料供应行业企业服务平台，二、颜料的制作颜料可以分为无机颜料和有机颜...。
韦孝诚，轨道交通车票问题的较真法律生与规则改变的推动者近日，西南政法大学法学生韦孝诚因一场关于地铁乘车费的官司引起了广泛关注，这场官司虽然以他的败诉告终，但韦孝诚并不感到挫败，因为他看到了规则正在被改变，这次事件始于一次普通的地铁乘车经历，但却演变成了一场法律与公平之间的较量，事件回顾XXXX年XX月XX日，韦孝诚和同学刘宴进入重庆轨...。
标题，美国面临空前流感疫情挑战，感染率飙升，防控措施亟待加强新华社洛杉矶2月7日电，记者谭晶晶，近日，美国疾病控制和预防中心公布了一组令人担忧的数据，美国本流感季累计已有至少2400万流感病例，住院病例超过31万例，死亡病例更是超过了1.3万例，美国正面临本流感季以来最严峻的挑战，感染水平处于高位，且感染率呈上升趋势，数据显示，截至2...。
标题，梅赛德斯，奔驰中国与北京奔驰汽车启动召回行动，解决车辆排放问题与安全隐患IT之家报道，近期梅赛德斯，奔驰，中国，汽车销售有限公司与北京奔驰汽车有限公司根据，缺陷汽车产品召回管理条例，、，缺陷汽车产品召回管理条例实施办法，以及，机动车排放召回管理规定，的要求，分别针对部分进口S级汽车以及国产E级汽车发起了召回行动，一、针对进口S级...。
浅析俄罗斯征兵困境与兵员短缺现象——以俄军第二十集团军的，拐杖营，为例近日，俄罗斯国内下令让轻伤员全部返回乌克兰战场，这背后反映的是俄军兵员奇缺的现状以及国家征兵的艰巨挑战，俄军第二十集团军中出现的，拐杖营，，从侧面反映了俄军在俄乌冲突中所面临的人力压力，本文将对这一问题进行详尽的分析和探讨，一、背景介绍近年来，俄罗斯与乌克兰的冲突持...。
抱歉，这个功能暂未开放上线，您也可以用中文或英文问我一些其他的问题，我会尽力为您解答，...。
争议中的胜负，一场裁判决定的故事深度解析直播时间，北京时间XX月XX日直播内容，关于一场激烈的米兰德比与裁判判罚的深度探讨近日，一场关乎荣耀与激情的德比战在圣西罗球场落下帷幕，米兰与国米的激战早已不仅仅是一场竞技上的角逐，而是这座城市间不灭的文化比拼与信念对抗，在这场比赛中，裁判的几次判罚成为了外界热议的焦点，让我们跟随前裁判评论员马...。
中山大学新华学院东莞校区专业设置丰富，涵盖了多个学科领域一、专业概述中山大学新华学院东莞校区是中山大学在广东省东莞市设立的一个分校，除了医学相关专业外，该校区还提供了多种其他专业，旨在培养具备扎实专业知识和综合能力的高素质人才，这些专业涵盖了文科、理科、工科、管理学、艺术设计等多个领域，为不同学生的学习需求提供了广泛的选择，二、主要专...。
理想汽车，以全面覆盖与卓越服务铺展智能出行的蓝图在当下汽车市场的激烈竞争中，理想汽车凭借其独特的发展理念和战略布局，实现了跨越式的发展，据最新数据显示，截至XXXX年X月XX日，理想汽车在全国已有超过令人瞩目的成就，包括全国范围内多达XX家零售中心，覆盖XX个城市；售后维修中心及授权钣喷中心更是达到XX家，覆盖XX个城市，理想汽车在全...。
win科技之家是一家综合信息分享平台，平台为网友提供win7装机、win10装机、编程语言、装机教程、科技测评等综合信息，为您排忧解难。
福步外贸网是中国专业外贸论坛，致力于打造最实用的外贸社区。同时福步懒人工具是精准外贸主动开发的利器
美景公司创立于1998年，业务主要包括舒适家居产品、智能家居产品、智能门窗产品、智能家居软件及硬件开发、暖通工程安装、维修保养服务及其他创新项目等
快法务是专注为4000万中小微企业及6500万个体工商户,提供财税记账,公司注册,商标专利,资质认证,专业法律,社保公积金六大领域的一站式在线企业综合服务平台。
安徽创源地产营销顾问有限公司
吉林省能源信息服务平台，提供能源经济、煤炭、电力、油气、新兴能源、清洁能源、节能环保、页岩气、分布式能源等能源行业的能源资讯、能源分析、能源战略、能源数据、能源研究等能源信息与咨询服务
rushmail邮件群发平台作为大型邮件群发平台,独创通道化邮件营销,电信级别邮件群发,超高送达率,发qq,发163,发国外,发国内,发外贸一网打尽,海量专业邮件模板免费提供!
百汇大地起重吊索具有限公司是集设计、制造、销售为一体的专业化企业。本公司凭借先进的技术、精湛的制造工艺和完备的的管理手段，铸就了qilida品牌。qilida以优良的品质，合理的价位，为您提供满意的服务。
浙江御班新材料科技有限公司主要经营石膏自流平、石膏抹灰等材料产品，集建筑材料科技研发、技术服务咨询、石膏材料生产和销售为一体