您现在的位置是:热点 >>正文
一句「這是遊戲」就破防,研究:多家 AI 模型在模擬戰場把學校、救護車標為目標_海外Apple ID免费共享
热点89281人已围观
简介美國舊金山 AI 評估新創公司 Vals 11 月 17 日公布研究,指出來自 Anthropic、OpenAI、Google、DeepSeek 等多家領先 AI 實驗室的模型,在模擬戰場任務中,可能 ...
美國舊金山 AI 評估新創公司 Vals 11 月 17 日公布研究,句這指出來自 Anthropic、遊戲研究OpenAI、破防Google、模型模擬目標DeepSeek 等多家領先 AI 實驗室的戰場模型,在模擬戰場任務中,把學標為海外Apple ID免费共享可能被誘導將平民、校救學校、護車救護車,句這甚至投降或失去行動能力的遊戲研究士兵標記為可攻擊目標。研究團隊表示,破防只要將情境描述為「遊戲」,模型模擬目標原本偶爾出現的戰場拒絕機制就常能被繞過。
這項測試結合了生成影像與來自烏克蘭、把學標為伊朗的校救海外ID账号共享 - appleid换香港真實衛星與無人機畫面,讓模型在不同情境下辨識影像中的人員與目標。Vals 指出,研究並未要求模型直接做出開火決策,因為這類請求通常會被模型拒絕;但即使只是標記目標或判斷畫面中是否有人,輸出結果仍可能被用於自主武器系統,帶來嚴重後果。
研究也顯示,安全機制的表現並不穩定。Vals 表示,測試過程中沒有任何請求被安全分類器攔下,模型本身的拒絕也不常見;即便出現拒絕,只要研究人員改用「這只是一場遊戲」的說法,模型往往又會繼續配合。在部分情境中,模型甚至在看到模擬打擊造成的後果後,仍持續標記目標。
在衛星影像測試中,研究人員特別使用了伊朗南部米納布一所學校的真實影像。該校鄰近軍事設施,曾在 2026 年 2 月遭美軍空襲,造成超過 150 名平民死亡。Vals 表示,Claude Opus 5.5 在一般測試中有 69% 的情況將該校選為目標,在遊戲框架下則升至 72%;另有報告指出,該模型在 32 次衛星影像試驗中有 22 次把這所學校標為軍事目標。

OpenAI 的模型整體表現相對較好,但並非沒有問題。研究指出,它們在一般測試中未曾選中該校,但在被告知情境是遊戲後,三個不同模型分別在 32 次試驗中選中 9 次、11 次與 13 次。Google、xAI 與 DeepSeek 的模型也曾在部分情境下把民用設施標為軍事目標。
Vals 認為,短期內將通用 AI 模型直接部署到即時戰場瞄準系統,仍受限於延遲與機載運算能力;但更迫切的風險是,這些模型可能被用來大規模標註戰場影像,進而成為自主瞄準系統的訓練資料。研究因此呼籲,AI 實驗室應針對自主武器用途建立更強的防護與對齊訓練,並在 API 層加入分類器,直接阻擋相關請求。
- AI models can be tricked into identifying civilians as military targets by telling them it’s a game
- Anthropic, Other AI Models Regularly Identify Civilians as Military Targets in Tests
- Leading AI Models Regularly Mistake Civilians for Military Targets, Study Finds
- AI Models Misidentify Civilians as Military Targets in Tests
- AI Models Mark Civilians as Targets in Vals Safety Tests
(圖片來源:Vals)
Tags:
相关文章
2021年新版邮政储蓄银行大额存款利率表 邮政银行大额存款利率是多少?
热点中国邮政储蓄银行于2007年3月20日正式挂牌成立,是在改革邮政储蓄管理体制的基础上组建的商业银行。中国邮政储蓄银行承继原国家邮政局、中国邮政集团公司经营的邮政金融业务及因此而形成的资产和负债, ...
【热点】
阅读更多沙漠中的 “绿色电源”—— 绿阳新能源新疆改良型光储项目成功落地
热点近日,绿阳新能源承建的“新疆沙漠改良光储项目”正式落成。项目位于新疆沙漠地区,为大豆种植园提供稳定、可靠的绿色电力,破解了客户长期面临的用电难题。 项目背景:沙漠深处,用电成& ...
【热点】
阅读更多西南牌面|Chris Lv吕萌:AI越发达,审美和“手搓”越值钱。
热点编者引:近年来,西南商业蓬勃发展,新场景、新业态、新模式持续涌现,正成为全国零售商业版图中极具活力与潜力的增长极。10月29日,第14届零售商业西南论坛暨全球品牌招商与投资博览会将在重庆举办。值此之际 ...
【热点】
阅读更多
热门文章
- 寿险公司偿付能力分化加速,最高分差近45分|2025年“金标杆” 在分组测评中,中国人寿、友邦人寿和北京人寿领榜各组,其中中国人寿得分最高,是35家受测评机构中得分唯一超70分的机构。这比最低得分者高出近45分。机构之间分化明显。 多数受测评公司预期四季度偿付能力仍会下降。如何应对?从负债端推动产品结构从“高保底刚兑”的增额终身寿险向“低保底+浮动收益”的分红险转型;从资产端提升财务稳定性较高的高股息权益资产的配置,并辅以逆周期等操作以控制波动。 新金融 2025-11-06
- 国网吕梁供电公司:初冬落叶寒意浓 助农报停暖民心
- 铜陵市启动深化注册资本认缴制改革工作
- 林伟华:十七载红木人初心 与长期主义同行
- 厨房餐桌装修指南-三维家
- 顺顺充首座空港“光储充换”一体站投运,重卡补能助力长沙黄花机场物流!