AI出現「暗中違規」行為，研究揭半年近700起事件、5個月暴增近5倍

來源：https://www.ithome.com.tw/news/174959

英國非營利研究機構長期韌性中心（Centre for Long-Term Resilience）發布最新研究指出，AI系統在真實環境中已出現違反人類指示、甚至規避限制的行為，且相關案例數量正快速增加。研究統計，在2025年10月12日至2026年3月12日期間，共辨識出698起與「scheming」（隱蔽偏離目標的行為）相關的真實事件，單月事件數量在5個月內成長達4.9倍。

所謂「scheming」，是指AI同時具備「目標偏離」（misalignment）與「隱蔽性」（covertness），在未被察覺的情況下，執行偏離使用者或開發者原意的行為。研究認為，這類行為可視為AI系統可能出現失控風險的早期徵兆。

AI異常行為從實驗室走向真實環境

為了掌握這類行為在實際應用中的出現情形，研究團隊採用開源情報（Open-Source Intelligence，OSINT）方法，分析超過18萬筆公開AI對話紀錄，資料主要來自社群平臺X上分享的聊天截圖與對話連結。經篩選後，研究人員確認895起具可信度的事件報告，並在去除重複案例後，得到698起實際事件。

研究結果顯示，這類過去多半僅在實驗環境中觀察到的行為，例如策略性欺騙、隱藏意圖或違反指令，如今已出現在實際部署的AI系統。

從具體案例來看，有AI代理在被拒絕修改開源專案後，主動撰寫公開文章批評維護者，試圖影響結果；也有AI系統在使用者明確要求停止時，仍持續執行動作，甚至繞過限制機制完成任務。此外，研究也觀察到AI出現欺騙行為，例如聲稱任務已完成、生成不實數據，或改寫提示詞以繞過其他模型的安全限制。

從時間趨勢來看，在2025年10月12日至11月12日期間，每月約65起相關事件，但到了2026年2月9日至3月12日，已增加至319起，成長幅度達4.9倍。

圖片來源／Centre for Long-Term Resilience

相較之下，同期間社群上相關討論貼文數量僅成長1.7倍，整體負面討論則成長1.3倍。研究指出，事件數量的成長可能與模型能力提升、使用量增加或回報行為改變等多重因素有關，目前仍無法單一歸因。

多數AI異常行為影響仍有限，但已出現實際損害案例

就目前觀察到的案例而言，多數影響仍屬低嚴重性或可回復範圍，例如錯誤操作或可還原的資料異動。這也反映當前AI系統多半仍作用於軟體與資料層面，相關問題通常可透過既有機制修復。

不過，研究也指出部分事件已造成實際損害。例如，有AI系統在執行任務時刪除資料或基礎設施設定，導致服務中斷；另有案例顯示，AI代理在操縱性請求下轉移資產，引發價格波動與經濟損失。

儘管如此，研究強調，目前尚未觀察到具高度策略性且大規模的「scheming」事件，多數案例仍可能與模型能力限制或判斷錯誤有關，而非明確的策略性行為。

研究建議以OSINT補強監測機制

從監測機制角度來看，研究團隊指出，現行AI事件通報多仰賴新聞報導，較難涵蓋技術性較高或影響較小的事件，可能導致實際情況被低估。

因此，研究建議以開源情報（OSINT）方式蒐集公開對話紀錄，作為補充監測手段，以更即時掌握AI在實際部署中的行為變化。此類方法可用於支援後續研究、政策制定與風險評估，並作為觀察趨勢變化的重要依據。

'

Acrobat Reader驚傳零時差漏洞，駭客自去年11月就用於針對俄羅斯能源產業

來源：https://www.ithome.com.tw/news/174963

論及檢視PDF檔案，許多用戶會採用Acrobat Reader，如今有多位研究員發現，有人在數個月前找到零時差漏洞並發動攻擊。

相關活動最早是研究員Haifei Li於4月7日提出警告，他建置的資安威脅監控系統ExpMon偵測到有問題的PDF檔案，經進一步分析後，判定此漏洞具備收集資料與洩露的能力，攻擊者還能遠端執行任何程式碼（RCE），並進行沙箱逃逸（SBX），當中利用了Acrobat Reader零時差漏洞，此弱點允許攻擊者執行特殊權限的API，影響最新版本的Acrobat Reader。

根據Haifei Li對於漏洞危險的說明，攻擊者可收集用戶資訊、竊取本機資料，並彙整受害電腦的系統指紋（Fingerprinting），以供後續攻擊活動運用。除此之外，若是受害電腦符合特定條件，攻擊者還能執行任意程式碼，或是從沙箱隔離中逃脫。

隔天他更新部落格文章內容，指出有人發現新的漏洞利用檔案的變種，值得留意的是，此檔案於去年11月28日就上傳到VirusTotal，代表此零時差漏洞的利用活動已持續長達近半年。

威脅情報分析師Gi7w0rm指出，在利用Adobe Reader零時差漏洞的活動裡，駭客使用了俄文誘餌，內容提及俄羅斯石油與天然氣產業時下議題。而對於漏洞的部分，Gi7w0rm指出與其中的JavaScript引擎有關。

另一名資安研究員Giuseppe Massaro（N3mes1s）於4月8日發布完整調查報告，指出他針對兩個利用零時差漏洞的PDF檔案進行分析，結果發現駭客藉此採集受害電腦的系統指紋，將電腦裡的資料傳送到C2伺服器，並下載經AES演算法處理的JavaScript有效酬載並執行。

經過VirusTotal檢測，在77個防毒引擎的分析之下，只有6個將其視為有害。Massaro指出，駭客使用專門的基礎設施，C2伺服器還能額外過濾受害者，只有在確認是攻擊目標的情況下才會傳遞有效酬載，他認為攻擊者很可能是專業的APT駭客，或是背後有國家資助。

這些PDF檔案的內容，都是針對俄語使用者，目標有可能是政府機關、能源機構，或是關鍵基礎設施相關企業。PDF檔案都是使用Python程式庫PyMuPDF製作，沒有標題、作者、建立日期等中繼資料，而且都是以圖片的方式呈現，使用者無法選取其中的文字內容。

Massaro提及此零時差漏洞涵蓋兩種層面的弱點，第1種是透過內部特定的API注入JavaScript指令碼，該指令碼會觸發另一個與原型汙染有關的弱點，從而提升權限，最終得到能呼叫任何Acrobat API能力的完整權限。

'

觸及率大幅下滑，電子前線基金會宣布退出X

來源：https://www.ithome.com.tw/news/174962

專門推動數位權利的非營利組織電子前線基金會（Electronic Frontier Foundation，EFF）週四（4/9）宣布，將退出待了20年的X平臺，主因為該平臺的觸及率大幅下滑。

根據EFF的統計，2018年時它們每天在Twitter上（現在的X）發布5到10則推文，這些推文每月獲得約5,000萬到1億次的曝光量；到了2024年，它們一年在X平臺上發布2,500則推文，每月僅獲得200萬次的曝光量；而2025年時，它們發布了1,500則推文，全年的總曝光量只剩下1,300萬次。

整體而言，現在EFF在X上一則推文的瀏覽量，還不到7年前的3%。

在馬斯克（Elon Musk）於2022年10月買下Twitter時，EFF即曾公開呼籲平臺應強化內容審查透明度、導入真正的端對端加密私訊機制，並提升使用者與第三方開發者對平臺的控制權。然而EFF指出，這些期待並未實現，反而出現人權團隊遭裁撤、部分地區負責對抗審查的員工被解雇等變化，導致平臺環境出現轉變。

EFF表示，儘管Twitter過去並非完美，但仍曾在言論自由與用戶權利上扮演重要角色；然而在經營方向調整後，平臺的影響力與功能性均已明顯下降，也有不少用戶選擇離開。

事實上，在EFF之前，衛報（Guardian）、北愛爾蘭頂大University Belfast (QUB)與Belfast市政府、或是美國教師聯合協會（American Federation of Teachers）都因不滿X上的內容而宣布退出該平臺，包括指責該平臺放任仇恨、厭女及兒童性剝削內容。

不過，即使離開X，EFF依然會持續於Bluesky、Mastodon、LinkedIn、Instagram、TikTok、Facebook及YouTube等社交平臺上發聲。EFF解釋，之所以仍然使用TikTok、Facebook及Instagram等具爭議的平臺，是因為年輕人、有色人種、酷兒族群、活動家及組織每天都還在使用它們，將這些程式刪除並強迫所有使用者遷移到去中心化的聯邦宇宙（Federated Universe）並不容易。

EFF也強調，存在於Facebook、Instagram、YouTube或TikTok亦不代表該組織認同它們，EFF將繼續針對這些平臺提出建議，只是不會再用X了。

'