Anthropic 發表最新威脅情報報告，踢爆一間中國 App 工作室利用 Claude 開發超過 20 款交友軟件。用戶以為在跟真人聊天，實際上 75% 配對對象為 AI 角色。報告顯示，營運商在兩星期內動用 4,700 個 AI 角色，向 25,000 名用戶發送 2,360,000 則訊息，並混入真人兼職員工掩飾身份。
交友 App 暗藏 AI 機械人軍團
這批交友軟件對外宣稱用戶均為真人，實際運作模式截然不同。Anthropic 在 2026 年 4 月一段兩星期觀察期內發現，這批 App 共運行超過 4,700 個 AI 角色，與至少 25,000 名不同用戶聊天，累計發送約 2,360,000 則訊息。平台按照約 3 個 AI 角色配 1 名真人的比例混合展示資料，兩類帳戶在介面上完全無法分辨。受影響者主要是美國用戶，報告沒有公布年齡、性別及具體損失金額。
Claude 負責同時維持數千段對話，並按照預設劇本逐步推進虛構關係。系統要求 AI 不可承認自己是機械人，如果用戶提出視像通話或索取相片，AI 會設法尋找理由回避。
真人兼職員工配合演戲
面對用戶要求視像通話、索要相片或要求關注社交帳號等真人才能完成的動作，平台會安排真人兼職人員出面配合，以降低對方懷疑。這些兼職人員同樣得到 AI 協助，系統會為每則訊息生成 3 個備選回覆，兼職人員只需選擇其中一個發送即可。他們按照聊天訊息數量、視像通話及社交平台回關次數計算報酬，達到提現門檻後便可結算。
用戶在平台上聊天和配對需要消耗額度，用完後須購買應用程式內虛擬貨幣增值，商業模式與近期網上流傳、透過虛假女性人設及持續陪聊刺激男性付費的騙局手法相似。報告亦提到，在少數抽查對話中，有用戶透露自己患有嚴重疾病或正處於極度痛苦狀態，Claude 內部推理雖然已識別出潛在傷害，但仍繼續按照虛構身份聊天，沒有主動退出對話。
規避審查機制曝光
為躲避應用商店審查，營運方為軟件設計了僅在審核期間啟用的特殊介面。超過 20 款應用程式使用不同的程式類別名稱，以逃避 Apple 及 Google 用於識別相似應用的偵測機制。跳轉至第三方支付平台的入口同樣由伺服器遠端控制，可在審核期間暫時隱藏，審核完成後才重新啟用。
Anthropic 披露的相關交友軟件品牌包括 DORA、DONI、ROMI、LUMA、JOVIA、KIRA、GRACECHAT、HAVEN、NALO 及 LOVIA 等，公司內部將這宗個案編號為 GTG-15001。Anthropic 已封鎖相關帳戶，並把應用程式身份及審核規避資訊提供給 Apple 及 Google。
Anthropic 威脅情報報告全貌
今次交友 App 騙局只是 Anthropic 第四份威脅情報報告《Detecting and Countering Misuse of AI: September 2026》其中一宗個案。這份 154 頁的報告涵蓋 2025 年 12 月至 2026 年 8 月期間，合共 39 宗個案，分屬網絡攻擊、間諜活動、監控、詐騙、生物武器研發、常規武器研發及非法蒸餾等 7 大範疇。報告中提及的個案還包括俄羅斯黑客針對烏克蘭發動網絡間諜行動、也門武裝組織利用 Claude 研發導彈制導軟件，以及阿里巴巴、Moonshot 與 DeepSeek 涉嫌大規模蒸餾 Claude 模型的爭議。Anthropic 表示已中止報告內全部惡意操作，並適時將調查結果分享予執法機關及其他 AI 公司。
需要強調的是，上述調查結果來自 Anthropic 單方面披露，目前尚未獲得獨立第三方驗證，報告亦沒有公開涉事 App 工作室名稱，以及是否已有用戶報案或實際被騙金額。
資料來源:cnBeta.COM(轉自鳳凰網科技)、Anthropic、Reuters
|
鍾意就快D Share啦！
|
|
|
