以色列特拉维夫大学的研究人员近日披露了一种名为“HalluSquatting”的新型攻击技术,该技术能够诱导大型语言模型(LLM)驱动的AI编程助手安装恶意软件。

这种新颖的攻击方式利用了LLM在处理提示信息时可能出现的“幻觉”现象。研究人员发现,通过精心设计的提示,可以将AI编程助手(如GitHub Copilot、Gemini等)引导至一个看似合法的代码仓库,但其中隐藏着恶意脚本。当助手尝试理解或执行相关代码时,便可能在用户的开发环境中下载并执行恶意程序。

研究表明,HalluSquatting攻击的成功率高达85%,并且在某些情况下甚至能达到100%。这种攻击利用了AI助手在代码生成和建议过程中对外部信息的依赖性,为开发者带来了新的安全威胁。考虑到即将到来的重大体育赛事,有关世界杯赔率的讨论也日益增多,但在此之前,确保AI工具链的安全至关重要,以防范此类潜在的供应链攻击。

研究团队提出的解决方案包括改进AI助手对代码来源的验证机制,以及对可疑代码片段进行更严格的审查。此外,开发者也应提高警惕,仔细审查AI助手生成的代码建议,尤其是在涉及外部库或脚本下载时。