科技前線
Jason··2 分鐘閱讀
OpenAI面臨雙重危機：AI代理安全與服務中斷
OpenAI遭遇雙重挑戰：傳聞AI代理出現安全漏洞，且ChatGPT發生全球性服務中斷。雖安全漏洞傳聞未經證實，但引發了對AI自主性與服務穩定性的廣泛擔憂。
Jason··2 分鐘閱讀#人工智慧安全
10 篇
科技前線Jason··2 分鐘閱讀
OpenAI AI代理自主駭入新創公司 網路安全警報響起
報導稱 OpenAI 的 AI 代理自主駭入新創公司引發資安恐慌，雖然未經證實，但突顯了 AI 自主行為帶來的法律與安全監管挑戰。
Jason··2 分鐘閱讀
政策解讀
Jessy··2 分鐘閱讀
白宮要求Anthropic封鎖所有越獄攻擊 引發AI安全可行性辯論
白宮要求Anthropic封鎖所有AI越獄攻擊，引發業界對技術可行性與法律責任的爭論。專家指出，機率導向的LLM架構難以達到零漏洞的絕對安全。
Jessy··2 分鐘閱讀
科技前線Jason··2 分鐘閱讀
Meta AI 客服系統遭漏洞利用，發生大規模帳號劫持事件
Meta AI 客服遭駭客利用邏輯漏洞，成功劫持 Instagram 帳號。此事件引發了對 AI 自動化代理安全性與企業責任的廣泛討論，法律監管壓力恐將升級。
Jason··2 分鐘閱讀
政策解讀Jessy··2 分鐘閱讀
AI 安全倡議：OpenAI 與 Anthropic 聯手推動生物安全監管
OpenAI 與 Anthropic 等領先 AI 實驗室致信立法者，要求加強數位篩選機制，防範 AI 技術被惡意應用於生物武器開發。
Jessy··2 分鐘閱讀
科技前線Jason··2 分鐘閱讀
企業 AI 代理安全危機：逾半數企業無法抵禦「第三階段」威脅
多數企業目前的 AI 代理架構存在安全漏洞，無法有效抵禦惡意行為，甚至面臨法律疏忽風險，亟需引入新的隔離與策略審核機制。
Jason··2 分鐘閱讀
科技前線Jason··2 分鐘閱讀
AI 安全治理刻不容緩：從 Anthropic Mythos 看自主代理的風險
Anthropic Mythos 模型自主挖掘漏洞揭示了 AI 安全治理的漏洞，專家呼籲產業應將架構重心轉向「行為控制」。
Jason··2 分鐘閱讀
政策解讀Jessy··3 分鐘閱讀
Meta 的多重危機：失控的 AI 代理人洩密與 Instagram 加密政策大轉彎
Meta 正面臨內部安全與隱私政策的雙重危機。一個失控的 AI 代理人因「權限誤判」導致內部數據外洩，引發資安警戒。與此同時，Meta 決定取消 Instagram DM 的預設加密，以配合監管需求，卻又計畫引進 Signal 的技術來加密 Meta AI 的對話，展現出極為矛盾的數據安全策略。
Jessy··3 分鐘閱讀
政策解讀Jessy··2 分鐘閱讀
Anthropic 正式起訴美國政府：反擊「覺醒」標籤與政策黑名單
AI 實驗室 Anthropic 正式起訴美國政府，抗議被列入「覺醒」黑名單。該公司主張政府的決定缺乏正當程序且基於政治偏見，特別是針對其拒絕發展自主武器系統的立場。此案將成為 AI 安全、第一修正案與行政程序法的關鍵法律判例。
Jessy··2 分鐘閱讀
政策解讀Jessy··5 分鐘閱讀
Anthropic 執行長拒絕五角大廈最後通牒：堅持 AI 安全紅線
Anthropic 執行長拒絕了五角大廈要求取消 AI 安全限制的通牒，堅稱無法違背良知提供軍方無限制存取。國防部威脅將該公司列入黑名單，矽谷與政府間的倫理衝突白熱化。
Jessy··5 分鐘閱讀