有「AI 教父」之稱的 2024 年諾貝爾物理學獎得主辛頓（Geoffrey Hinton）接受英國《衛報》11 月 3 日刊出的專訪時警告，2026 年稍後或 2027 年可能出現足以令全球領袖重新正視人工智能風險的大型事故。他舉例指，AI 協助的網絡攻擊可能令電力供應大範圍受阻，甚至導致金融系統停運一星期。
以切爾諾貝爾核事故作比喻 憂電網及金融服務中斷
辛頓以 1986 年切爾諾貝爾核事故形容未來可能出現的 AI 安全危機，認為大型事故或會迫使政府認真處理有關威脅。他提到的不是 AI 引發核災，而是重要基礎設施受攻擊，例如電力系統大規模供電不足，或金融交易及銀行服務長時間中斷。
辛頓亦將 2026 年夏季涉及 AI 代理及 Hugging Face 網站的安全事件，與 1979 年美國三哩島核電廠事故相比，視之為可能更嚴重事故出現前的警號。這是辛頓對事件嚴重性的類比，不能據此認定未來事故必然發生，亦不代表已有證據證實相關系統即將受襲。
▲以切爾諾貝爾核事故作比喻 憂電網及金融服務中斷
批評科技巨頭爭奪市場 質疑 AI 安全是否獲優先處理
辛頓在訪問中批評大型 AI 公司持續競逐更強的模型，令安全問題可能落後於商業利益。他表明不信任 OpenAI 行政總裁 Sam Altman，並點名批評 Meta 行政總裁 Mark Zuckerberg 及 Elon Musk，認為他們了解技術風險，卻仍然看重商業回報。
辛頓於 2023 年離開 Google，令自己能更自由地公開討論 AI 風險。儘管對業界領導層有尖銳批評，他在這次訪問中亦強調自己並非認定 AI 必然帶來末日，仍相信技術可能為社會創造美好未來。
倡設 AI 版 FDA 新模型推出前須經獨立測試
辛頓主張對先進 AI 模型建立更嚴格的監管制度，包括強制安全測試、獨立評估，以及政府之間採用共同標準。他提出參照美國食品藥物管理局（FDA）審批藥物的方式，要求企業在推出模型前，向獨立機構提交充分統計證據，證明模型帶來的好處大於傷害。
十年內或見分曉 AI 可能帶來富足亦可能加劇失業
辛頓認為，未來十年甚至更早，人類或能知道自己是否有能力管理人工智能。若能控制相關風險，AI 有機會創造更豐裕的社會；若管理失敗，則可能引發嚴重貧富差距、大規模失業及社會分裂。對於人類研發 AI 是否正確，辛頓表示最終或會發現，從未開發這項技術反而更好。
資料來源：The Guardian
|
鍾意就快D Share啦！
|
|
|
