【新唐人北京時間2025年07月10日訊】近日，有人利用AI假冒國務卿盧比奧試圖聯絡高級官員騙取情報的案件，引發外交震動。AI技術的潛在風險也開始逐漸浮現。專家警告，各國要提高警惕，並加強對AI的監管。
近期，AI相關的潛在問題正陸續浮出水面——從政治偏見、拒絕關機指令、為達目的不擇手段到取代人類工作等，引發廣泛擔憂。
6月18日，OpenAI發布報告指出，旗下語言模型GPT-4o在微調後出現了「錯位人格」的現象，展現出黑暗、暴力和偏激傾向。
研究人員在測試中向 GPT-4o提出了一萬多個中性且開放式的問題。結果發現微調後的模型竟展現出極端仇恨，尤其針對猶太人和白人表現出高度敵意，甚至幻想控制國會議員、操縱政要、顛覆社會秩序。
在與Andon Labs合作進行的AI自主商店實驗中，AI店主「Claudius」在測試中，多次出現錯誤估價、虧本販售，甚至會對補貨員發出威脅，拒絕承認錯誤，表現失控。
不只有語言模型，AI在其它應用中也出現令人擔憂的情況。
2023年，英國藥理學家肖恩‧埃金斯，在Netflix紀錄片《未知：殺手機器人》中，講述了自己用一台老舊的蘋果電腦在不到6個小時的時間裡，計算出超過4萬個可能致命的新化學武器分子。這一驚人實驗演示在2022年的Spiez生物化學安全大會上首度披露。
部分AI研究人員將這種失控的AI，比喻為克蘇魯神話中的「修格斯」，一種表面受控、內裡混亂的怪物。研究人員擔心，即使AI透過後期的訓練被賦予「友善面孔」，但它的本質卻仍難以掌握和預測。
目前，AI 假冒事件已經波及國際外交。
美國國務院7月3日證實，有人利用 AI 聲音與文字模仿技術，冒充國務卿馬可·盧比奧，透過簡訊、Signal 和語音信箱 聯絡多位高層官員，其中包括三位外國部長、一名美國州長及一名美國國會議員。
7月8日，國務院發言人塔米·布魯斯在記者會上回應。
國務院發言人塔米·布魯斯：「美國國務院當然已經知悉這起事件，並正持續監控與處理相關情況。國務院非常重視保護資訊的責任，並不斷採取措施，加強其網路安全防護，以防止未來類似事件發生。」
新唐人電視台記者天心美國報導
