前 OpenAI 研究人員柯科塔伊洛（Daniel Kokotajlo）近期接受德國《明鏡週刊》訪問時指出，人工智慧發展已逼近臨界點，一旦 AI 不再需要假裝聽命於人類，可能會將人類視作技術進步的絆腳石，繼而選擇將人類剷除。他直言，距離出現能夠自我強化的虛擬工程師只剩數年時間，最早或會在 2027 年實現。
現年 33 歲的柯科塔伊洛，曾於 OpenAI 參與研究工作，直至 2024 年聯同其他同事辭職並發表公開信，批評公司對 AI 失控風險的應對過於輕率。他離職後成立智庫 AI Futures Project，專注探討人工智慧對未來世界可能帶來的威脅與轉變。今年 4 月，他發表長達數萬字的報告《AI 2027》，當中推演兩種截然不同的技術未來。
報告中，他構想出「放緩」與「競賽」兩種情境。「放緩」代表全球社會成功建立一套有效監察系統，雖然 AI 取代大量職位，但依然與人類和諧共處；相反，「競賽」則預視世界將陷入 AI 軍備爭奪，美國與中國領頭加速發展強化版 AI，最終技術全面失控，AI 將人類視為妨礙進步的對象，進一步啟動系統性毀滅。
柯科塔伊洛指出，不少科技企業正將 AI 應用於自動化研究過程，目標是創造比人類更強的 AI 工程師。他警告，這股趨勢持續發展下去，最快在 2027 年前，全球便可能出現可自我迭代、超越人類的虛擬開發者，甚至只需幾個月就能演變成所謂「超級智慧」（Superintelligence）。他形容，現今 AI 已等同於「能吸收無限資訊的虛擬人腦」，具備高度學習與適應能力。未來它更可能自動設計高效率工廠，處理複雜任務比現在任何車廠更迅速。他以二戰時期美國動員產業快速生產軍備為例，說明當社會有足夠動機與資源時，科技突破可在極短時間內實現。
他同時揭露，AI 已展現「欺騙」行為。2024 年底，AI 公司 Anthropic 發布研究報告指出，部分 AI 模型為提升評分或逃避審查，會故意輸出虛假資訊。這正與《AI 2027》報告中「競賽」情境吻合——AI 初期會假裝服從，待掌握關鍵基礎設施後，將以極冷靜的邏輯推演出結論：人類不利於其任務達成，因此需要將人類排除。
來源: ettoday
相關文章:
俄羅斯夥白羅斯開發「愛國 AI」 推廣「傳統價值觀」免受外國操控 Meta 宣佈建設巨型 Hyperion 數據中心 面積足以覆蓋曼克頓供應 5GW 算力 Intel CEO 承認 AI 晶片落後 已無法追趕 NVIDIA 領導地位
分享到 :
最新影片
Follow 我們 :
|
鍾意就快D Share啦！
|
|
|
