谷歌为自家应用及搜索引擎引入 AI 反诈系统，利用语言模型分析潜在恶意网站

5 月 10 日消息，谷歌本周发布一篇《打击搜索诈骗》报告，透露该公司在其 Chrome 浏览器及搜索引擎中引入 AI 技术来防范诈骗行为。

在搜索引擎方面，谷歌声称其利用 AI 技术每天阻止“数以亿计”的诈骗性搜索结果。与三年前相比，目前谷歌搜索引擎拦截诈骗网站的效率提升了 20 倍。

此外，谷歌透露其为 Google Messages 短信应用和 Phone 电话应用中引入了 AI 驱动的诈骗检测功能，可通过识别短信和通话内容检查潜在的诈骗行为，并向用户发出警告，从而降低电话诈骗的可能性。

而在 Chrome 浏览器方面，谷歌称该公司为桌面版 Chrome 引入在设备端运行的的 Gemini Nano 大语言模型，为用户提供额外的安全防护。

当用户访问潜在的诈骗网站时，Gemini Nano 会在本地分析网页内容，识别网站存在的“恶意意图”，并将相关安全报告发送至谷歌的安全浏览服务（Safe Browsing）进行最终判定。这种本地化 + 云端的 AI 处理方式不仅提高了检测速度，还能识别那些刚刚上线、尚未被网络爬虫发现的新型诈骗网站。

对于安卓版 Chrome 浏览器，谷歌则是引入了一项“AI 警告”功能，利用本地的机器学习模型分析网页发送的弹窗通知内容，当检测到网页发送的“可疑通知”时，浏览器会弹出警告，通知相应弹窗可能是诈骗信息，提醒用户审慎点击，以免遭到钓鱼诈骗。

该内容转自IT之家