在全球競爭浪潮中,如何彌合 AI 監管缺口?創新與安全的平衡之道

Close
搜尋
banner banner
2025-03-25

在全球競爭浪潮中,如何彌合 AI 監管缺口?創新與安全的平衡之道

在全球競爭浪潮中,如何彌合 AI 監管缺口?創新與安全的平衡之道

全球AI領域的發展日新月異,競爭也愈發激烈。例如,中國發布的DeepSeek在業界引發了廣泛關注和震動。在《國際人工智慧安全報告》發布後,全球各國一方面試圖探索統一的應對管理方法,另一方面仍在為爭奪領先地位而展開激烈角逐。而在競爭的背後,除了創新,政府、企業們更應該思考如何在創新與安全中找到平衡。


此前,美國曾匯聚OpenAI、Oracle、軟銀等行業巨頭,開啟了一個投資總額高達5000億美元的「星際之門」計畫。而在近期,英國也啟動了《人工智慧機遇行動計畫》專案,該專案得到了領頭科技企業140億英鎊的資金支持。與此同時,中國在人工智慧領域也不斷發力,從政策支持到技術研發,從產業應用到人才培養,都取得了顯著進展。


不斷擴大的AI監管缺口
儘管英美兩國都制定了雄心勃勃的發展計畫,但在監管路徑上的缺口卻愈發擴大。美國政府迅速撤銷了此前發布的行政命令,該行政命令旨在防範人工智慧帶來的潛在風險,並要求在開發過程中揭露關鍵的安全資訊。這一轉變表明美國決心將AI創新放在首位,為此不惜掃清包括安全、隱私和偏見有關的被認為阻礙AI進步的障礙。


英國的做法與美國類似——相比歐盟,英國的AI管制力度較為寬鬆。其發布的《人工智慧機遇行動計畫》所描繪的未來雖然值得稱道,但可能存在監管力度不足的問題——這有可能使英國暴露在風險之中,並大幅降低公眾對AI系統的信任。


與此形成鮮明對比的是,歐盟正在推進的《人工智慧法案》。這個全面且具有法律約束力的架構顯然將AI監管、透明度和預防傷害放在了首位,並且明確規定了AI開發和部署者所須承擔的義務,包括強制性風險評估和針對違規行為的巨額罰款。


在中國,自2023年8月起便實施以《生成式人工智慧服務管理暫行辦法》為核心,輔以《資料安全法》、《個人資訊保護法》的規範模式。近年來,關於規範對人工智慧技術的不當利用,要求深度合成服務提供者對人工智慧生成的內容進行強制標示,減少惡意濫用,並有助於厘清責任、對違法犯罪行為追責的呼聲也越來越高。AI治理需兼顧技術創新與風險防控,平台責任是治理焦點。


安全原則因AI制宜
目前,AI監管政策的分歧正為開發和部署人工智慧系統的組織帶來複雜的局面。這種缺乏協調一致性的監管環境,不僅導致了不公平的競爭環境,還可能使人工智慧驅動的未來面臨更大的風險。


企業在前進的過程中需要確定如何平衡創新與風險,同時採取強而有力的資料安全措施,並根據AI的新需求進行專門的調整。目前已經引起關注的領域包括資料安全和資料供應鏈。


資料安全與AI帶來的保護風險
資料保護問題將成為AI面臨的主要挑戰之一。例如對資料進行微小的修改,從而引發錯誤和不正確的結果。或者是修改程式碼,使其隱藏在模型內部,從而持續控制模型的行為。隨著時間的推移,這種不易察覺的變化可能會慢慢危及企業,導致決策錯誤和經濟損失。


此類行為具有隱蔽性而難以被察覺,這類資料可能會與「乾淨」資料完美融合,直到造成無法挽回的損害時才會被發現。企業需要建立強大的資料驗證機制、異常偵測系統,並對資料庫進行持續監控,以便識別和移除「不乾淨」資料。資料保護的問題可能發生在任何階段,如最初的資料獲取過程中,或者在之後被注入到資料儲存庫中。因此,企業必須從整體上加強資料保護,對資料進行強而有力的驗證、偵測異常情況,並對資料庫進行持續監控,確保資料的完整性和安全性。


保護資料供應鏈的安全
隨著人工智慧技術的廣泛應用,企業對資料的依賴程度日益加深,資料供應鏈的安全性也愈發重要。資料供應鏈涵蓋了從資料獲取、儲存、處理到應用的全過程,任何一個環節出現問題,都可能對企業的業務營運產生重大影響。


企業領導者需要建立強而有力的防護與防禦措施,以確保整個資料供應鏈的安全,並制定經過檢驗的災難恢復計畫。這意味著要優先考慮那些真正重要的應用,並明確界定什麼是最小可行業務以及可接受的風險水準。只有這樣,才能在遭遇問題時快速、完整地恢復關鍵備份,以應對挑戰。


既要創新,也要時刻警惕風險
雖然AI為創新帶來了巨大的潛力,但在使用過程中仍需保持謹慎。AI能力巨大,但其風險也同樣不容忽視,尤其是在資料安全、隱私保護和倫理道德方面。隨著AI模型越來越深入地融入企業基礎架構,安全性漏洞和濫用的風險也將急劇增加。


而降低這些風險的關鍵在於始終採取可靠的保護措施、遵循透明的開發流程和堅持道德標準。只有在創新與對濫用行為零容忍之間找到平衡,企業才能安全地獲得AI所帶來的優勢,並防止其防範其潛在的風險。


在AI技術迅猛發展的時代背景下,企業如何破解創新提速與資料安全的兩難困境,甄選出既能護航業務高速增長又可確保資料合規的解決方案?Commvault遵循NIST安全架構標準,絕不把客戶的真實資料放到AI中,而是利用AI對抗AI,以AI驅動的威脅偵測識別能力,防患於未然,提升效率。

Commvault提供的快速恢復能力,保障企業在快速發展業務的同時,亦能兼顧資料的安全和合規。
 

Go top