DeepMind/官方・新加坡 GovTech:裝置端 AI 偵測聊天詐騙——Gemma 微調本地話術;稱可兼顧端到端加密與即時警示

Key takeaway

Google DeepMind 與新加坡政府科技局(GovTech)於新加坡國際網絡安全週宣布,以輕量 Gemma 微調本地詐騙對話資料,推出可跑在一般智能手機上的裝置端詐騙偵測模型,並強調對話內容毋須上雲即可分析操縱意圖。來源真實性已驗證:對照 DeepMind 官方博客與同日CNA(Channel NewsAsia) 就數碼發展及新聞部長 Josephine Teo 在會場講話的報道;數字與機制以官方頁為準。

DeepMind/官方・新加坡 GovTech:裝置端 AI 偵測聊天詐騙——Gemma 微調本地話術;稱可兼顧端到端加密與即時警示

Google DeepMind 與新加坡政府科技局(GovTech)於新加坡國際網絡安全週宣布,以輕量 Gemma 微調本地詐騙對話資料,推出可跑在一般智能手機上的裝置端詐騙偵測模型,並強調對話內容毋須上雲即可分析操縱意圖。來源真實性已驗證:對照 DeepMind 官方博客與同日CNA(Channel NewsAsia) 就數碼發展及新聞部長 Josephine Teo 在會場講話的報道;數字與機制以官方頁為準。

此方案針對端到端加密即時通訊難以做伺服器端掃瞄的現實,採兩階段管線:先以低耗電輕量分類器篩選可疑訊息,再以微調 Gemma 審視較長對話上下文,並在裝置上即時提示用戶暫停,避免過早交出敏感資料或轉帳。

DeepMind/官方・新加坡 GovTech:裝置端 AI 偵測聊天詐騙——Gemma 微調本地話術;稱可兼顧端到端加密與即時警示

新加坡詐騙佔報案犯罪逾半、二〇一九年以來損失逾四十億新元;DeepMind 與 GovTech 在國家人工智能夥伴關係下,把針對本地社交工程話術微調的輕量模型放到手機端運行,並在新加坡國際網絡安全週(SICW 2026)公開。來源真實性已驗證。本文整理技術架構、應用場景,以及對香港防詐與企業通訊安全的啟示。

一、核心事件:把威脅分析「搬回」手機

技術細節

DeepMind 指出,一般通用模型往往難以掌握在地化欺騙手法;團隊以輕量 Gemma 模型,微調涵蓋冒充公共機構、銀行、本地人物以至區域流行騙局的本地詐騙對話資料,目標是區分無害閒聊與真正的操縱意圖。

傳統威脅偵測多依賴雲端掃瞄訊息;但許多通訊平台採端到端加密,伺服器端無法檢視私人對話。官方方案改為在裝置上處理對話資料,以便在資金或憑證外洩前更快捕捉操縱模式。GovTech 信任與安全總監 Mark Chen 表示,與 DeepMind 合作是要把進階 AI 防護直接放到市民裝置上,在保持個人通訊完全私密的同時,即時捕捉高度針對性的本地詐騙。

DeepMind 博客作者為 JJ Geewax 與 Miguel de Andrés,日期為二零二六年十月十四日。

二、技術原理深度解析

官方披露兩階段管線以兼顧電池與準確度:

  1. 第一階段:輕量、低耗電分類器先行篩選進來的訊息,聚焦潛在威脅。
  2. 第二階段:以微調後的 Gemma 做情境評估,分析較大段對話快照,確認威脅或排除誤報。

當模型偵測到操縱性對話模式,會直接在用戶裝置觸發即時警示,建議暫停並提高警覺,再決定是否分享敏感資訊或轉出資金。

管治方面,微調在 GovTech 管理的 GCP「主權沙盒」內進行,訓練資料與環境隔離;訓練嚴格排除私人或可識別個人資料,改用來自詐騙舉報與情報饋送的匿名化資料集;並以合成對話與本地語料壓力測試,覆蓋多類騙局與冒充手法。官方稱此合作可作為訊息平台在用戶保護與端到端加密之間取平衡的參考模式,並指訊息平台與作業系統供應商可直接整合此類輕量模型,在本地守護用戶。

CNA 同日報道,數碼發展及新聞部長 Josephine Teo 在 SICW 開幕相關場合指出,若裝置能及早識別操縱跡象,有助潛在受害人避免金錢或憑證損失,同時把個人訊息留在裝置上;她並指詐騙鏈往往跨社交媒體、即時通訊、來電與轉帳多個環節,單一防守者難以看見全貌,需連接各環節訊號。報道亦提到 GovTech 與警方的 Scam Analytics and Tactical Intervention System(SATIS)等以 AI 大規模評估可疑網站的既有能力,與本次「裝置端對話偵測」屬互補而非同一產品。

三、日常應用場景

1. 開發者與技術團隊

端側微模型、兩階段過濾與「主權沙盒」微調,對要在加密通訊、客服或內部協作工具上加防詐/防社工層的團隊具參考價值:先做低成本粗篩,再以較強本地上下文模型確認,可控制延遲與耗電。香港團隊若以地道粵語/書面語詐騙話術微調開源小模型,亦可對標類似管線。

2. 企業與隱私敏感行業

銀行、保險、專業服務與受規管行業常面對冒充客服、虛假投資與供應鏈詐騙。裝置端推論意味對話內容不必為了偵測而上傳,較易對齊內部數據主權與客戶保密要求;同時仍須處理誤報、無障礙提示,以及員工自攜裝置(BYOD)上的模型分發與更新。

3. 一般用戶

對依賴 WhatsApp、Telegram、WeChat 等加密通訊的用戶,雲端掃瞄本來就看不到對話內容;裝置端警示是在「看得到對話的一端」介入。用戶仍應核實來電與轉帳對象,不把單一 AI 提示當作唯一防線。

4. 香港與亞洲市場視角

香港同樣長期面對電話與即時通訊詐騙;新加坡把國家級防詐與 DeepMind 模型能力結合、並強調本地話術與主權沙盒,對金管局、警務處防詐宣傳及銀行/電訊商的聯防架構有直接參考意義。亞洲多語、多平台的社交工程,尤其需要本地語料,而非只靠全球通用安全模型。

四、專業評價與潛在考量

優勢

  • 直面端到端加密下的偵測缺口,把分析留在裝置上,論述上同時服務安全與私隱。
  • 以本地詐騙對話微調 Gemma,針對區域話術與冒充對象,勝過純通用模型。
  • 兩階段設計顧及手機電池;主權沙盒與「無公民個人資料入訓練」降低數據外流疑慮。
  • 與 SICW、部長層級政策敘事同步,具備公共部門落地訊號。

需要留意的地方

  • 官方尚未在博客公布精確的精確率/召回率、支援機型清單或上架時間表;「已交付模型」與「全民預設開啟」之間仍可能有產品化距離。
  • 誤報可能干擾正常商務談判或緊急求助;社工詐騙亦會演變以對抗分類器。
  • 作業系統與即時通訊 App 的整合權限、背景執行與更新通道,決定實際覆蓋率。
  • CNA 報道同時談及量子安全遷移時程與新資助,屬同一場政策演說的另一主軸,不宜與裝置端詐騙模型混為單一產品宣稱。

結語

DeepMind 與新加坡 GovTech 的裝置端詐騙偵測,把「本地話術微調+端側推論+兩階段省電管線」寫成可公開驗證的防詐藍圖,並直接回應加密通訊無法被雲端掃瞄的結構性難題。對香港企業而言,防詐已不只是員工培訓,而是通訊、身份與轉帳鏈路上的系統工程。若需在香港強化雲端邊界、零信任與高可用防護,可參考 YSK Limited 的雲端遷移與網絡安全服務(https://ysk.hk/services/cloud-security,官網刊 99.99% SLA);若要在內網以本地模型跑類似分類/代理管線,亦可搭配開源閘道 YSK Omni v1.0.4(https://ysk.hk/products/ysk-omni)與 Linux 面板 YSK Server v1.1.28(https://ysk.hk/products/ysk-server),並以 YSK Kit v1.5.0(https://ysk.hk/products/ysk-kit)快速搭合同契約優先的全端骨架。


參考來源

  1. Google DeepMind 官方博客:On-Device AI Against Scams(2026-10-14)— https://deepmind.google/blog/on-device-ai-scam-detection-mddi/
  2. CNA:GovTech and Google DeepMind developing real-time detection of AI scams on devices(Erin Liam,2026-10-14)— https://www.channelnewsasia.com/singapore/govtech-google-deepmind-ai-scam-quantum-sicw-6455621
  3. Discovery(DeepMind Blog RSS)— https://deepmind.google/blog/rss.xml

Related services & products