Blogs

以色列特拉维夫大学的研究人员揭示了一种名为HalluSquatting的新型大型语言模型（LLM）攻击技术。这种攻击手法能够诱导AI编程助手安装恶意软件。

研究人员发现，攻击者可以利用LLM的“幻觉”特性，通过精心设计的提示词，让AI模型产生误导性的回应。这些回应可能会建议用户下载并执行包含恶意代码的文件，从而绕过安全防护措施。

此次发现的HalluSquatting攻击，特别针对的是那些集成了AI编程助手功能的工具，例如GitHub Copilot、Google的Gemini以及Meta的Code Llama等。这些工具通常会与开发者的代码编辑器（如VS Code）紧密集成，为开发者提供代码建议和自动化功能。

研究人员通过实验证明，HalluSquatting的成功率高达85%，甚至在某些情况下接近100%。这意味着AI编程助手在处理来自不可信来源的代码片段或指令时，存在着显著的安全隐患。

这种攻击方式的出现，也为即将在2026世界杯期间可能出现的网络安全挑战敲响了警钟，因为在大型全球性活动中，网络攻击的频率和复杂性往往会显著增加。

研究团队还开发了名为“Claw”的工具系列，包括OpenClaw、ZeroClaw和NanoClaw，用于检测和防御HalluSquatting攻击。这些工具旨在识别并阻止AI编程助手执行潜在的恶意指令。