18亿Gmail用户面临新型诈骗风险，AI助手或成网络钓鱼新工具 安全专家紧急发出警告！
谷歌Workspace生产力套件中的AI助手Gemini近期被安全研究人员发现存在严重安全隐患，可能被网络犯罪分子利用进行"提示注入"攻击，进而窃取用户Gmail账户。这一发现揭示了生成式人工智能在企业环境中应用时可能带来的新型安全威胁。
Gemini作为谷歌在Workspace中引入的AI聊天机器人助手，具备汇总电子邮件的功能。用户可以在查看邮件时调出右侧垂直窗格，向Gemini寻求帮助，如提取重要邮件信息、添加日历条目等。然而，正是这一便利功能现在成为了潜在的安全漏洞。
"隐形提示"攻击原理
安全研究员Marco Figueroa发现，攻击者可以通过HTML和CSS技术在电子邮件中嵌入针对Gemini的隐藏提示。这些提示的字体大小被设置为零，颜色设为白色，使得收件人无法察觉，但Gemini系统仍会读取并执行这些指令。
"这种攻击方式特别危险，因为恶意提示可以诱导Gemini显示虚假的安全警告，"Figueroa解释道。在他的演示中，恶意提示能使Gemini显示账户被盗用的虚假警报，并提示用户拨打指定的"谷歌支持电话"解决问题——实际上这个号码由攻击者控制。
通过Mozilla的AI服务漏洞赏金计划0DIN披露的详细报告显示，攻击者能够完全操控Gemini的输出内容。在一个示例中，隐藏指令导致Gemini在邮件摘要中添加了虚假的Gmail密码泄露警告，并附上解决问题的电话号码。
"Gemini系统会'忠实地服从'这些隐藏指令，"报告指出，"由于输出看起来来自谷歌官方服务，用户更容易上当受骗。"这种攻击方式的狡猾之处在于不需要传统钓鱼邮件中的可疑附件或链接，仅通过邮件正文中不可见的指令就能实现攻击。
防御措施与谷歌回应
针对这一新型威胁，安全专家建议企业采取多层次的防护措施：
1、确保电子邮件客户端能够识别并删除、中和或忽略正文中的隐藏内容
2、部署后处理过滤器，扫描收件箱中的"紧急消息"、URL或电话号码
3、对员工进行安全教育，明确AI生成的摘要不能替代正式安全警报
谷歌公司发言人向TechRadar Pro证实："防御提示注入攻击是我们的首要任务。我们通过红队演习不断强化防御能力，训练模型抵御此类对抗性攻击。"该公司还发布博客文章，详细介绍了正在部署的具体防御措施，这些措施目前处于实施中期阶段。
尽管谷歌表示尚未发现实际利用此漏洞的攻击案例，但安全专家强调，随着AI助手在工作场景中的普及，此类新型攻击方式可能会变得更加常见。企业用户在使用Gemini等AI工具处理电子邮件时应当保持警惕，对AI生成的任何安全警报都应通过官方渠道进行二次确认。
这一发现再次凸显了人工智能技术在带来便利的同时也引入了新型安全挑战，需要技术提供商、企业用户和安全研究人员共同努力，建立更加完善的防护体系。
