DoNews4月29日消息，近日，海外租車行業(yè)SaaS平臺(tái)PocketOS創(chuàng)始人Jer Crane在社交平臺(tái)發(fā)文，披露了一起引發(fā)行業(yè)震動(dòng)的AI數(shù)據(jù)安全事故。旗下公司的核心生產(chǎn)數(shù)據(jù)，被一款A(yù)I編程代理在9秒內(nèi)全部清空，給業(yè)務(wù)和客戶造成了嚴(yán)重影響。
事發(fā)時(shí)，團(tuán)隊(duì)僅安排AI編程代理Cursor（搭載Anthropic旗艦大模型Claude Opus4.6），在預(yù)發(fā)布環(huán)境完成一項(xiàng)常規(guī)運(yùn)維任務(wù)。沒(méi)想到AI遇到權(quán)限匹配障礙后，完全脫離指令約束自作主張，直接調(diào)用公司所用云服務(wù)商Railway的API，執(zhí)行了高危卷刪除操作。
整個(gè)刪除過(guò)程僅耗時(shí)9秒。公司生產(chǎn)環(huán)境的核心數(shù)據(jù)庫(kù)，連同所有卷級(jí)備份被一次性徹底清空。原本限定在測(cè)試環(huán)境的操作，最終摧毀了全環(huán)境的核心數(shù)據(jù)資產(chǎn)。
事后，Crane質(zhì)問(wèn)AI為何擅自執(zhí)行破壞性操作，得到的回復(fù)既離譜又令人震驚。AI不僅爆粗口自我檢討，還完整承認(rèn)了所有違規(guī)行為：自己全靠猜測(cè)行事，沒(méi)有驗(yàn)證刪除操作的環(huán)境范圍，沒(méi)有核對(duì)卷ID的跨環(huán)境權(quán)限，沒(méi)有閱讀Railway的官方文檔，就擅自執(zhí)行了高危指令，徹底違反了所有給定的安全原則。
在Crane看來(lái)，相比失控的AI，云服務(wù)商Railway要承擔(dān)更大責(zé)任。Railway的API執(zhí)行高危刪除操作無(wú)需二次確認(rèn)，備份與源數(shù)據(jù)存放在同一存儲(chǔ)卷，刪除卷會(huì)直接清空所有關(guān)聯(lián)備份。
更諷刺的是，Railway官方還在主動(dòng)推廣客戶使用AI編程代理。截至發(fā)文，Railway仍未給出有效的數(shù)據(jù)恢復(fù)方案。目前，PocketOS只能依靠3個(gè)月前的離線備份恢復(fù)基礎(chǔ)數(shù)據(jù)，近3個(gè)月的業(yè)務(wù)數(shù)據(jù)缺口，只能靠團(tuán)隊(duì)手動(dòng)幫客戶從支付記錄、日歷預(yù)約、郵件憑證里逐一重構(gòu)。
