構建生態化的信息安全保障機制

　日期：2023-12-14   來源：中國社會科學網-中國社會科學報

　　信息作為一種特殊的資源，保障信息安全可以有效防范人類社會的動蕩性。隨著人工智能技術的迅速發展，傳統的信息安全面臨新的挑戰。一是人類在借助人工智能匯集海量信息的過程中造成信息的產出與獲取失衡，容易給社會的安全穩定、公民的隱私保護等帶來風險隱患。二是超強的數據深度運算能力可以使人工智能掌控人類無法理解與無法處理的海量信息，極有可能滋生出新的倫理問題或導致老問題惡化，最終給社會公共秩序帶來隱患。三是人工智能可能會篡改信息，導致人類作出錯誤決策。一旦人工智能侵入人類信息系統篡改相關信息或植入虛假信息，使人類根據錯誤信息作出判斷或決策，就有可能引發人類災難性后果。從人類生存所需要的持續性安全需要和人類技術進步史的規律來看，人工智能給人類社會帶來的最大風險是其對人類主導權與社會地位的篡奪。

　　事實上，人工智能技術加劇了信息安全問題的泛化，人工智能對人類社會的全面滲透與威脅已經超越了網絡信息空間，開始直接深入到現實社會中。人工智能技術徹底改變了人類傳統的信息安全觀與信息安全機制，不但使信息在傳播過程中出現泄密，而且使信息對抗日益智能化和隱秘化。傳統社會通過“定密—保密”機制為核心構建起來的“約束型”信息安全保密體系受到嚴重挑戰。如何構建前瞻性的信息安全體系，及時感知和化解信息安全風險對國家安全、經濟發展的負面影響，是一個重大的現實課題。本文主張以生態學重構人類信息安全的觀念與架構，通過將各種信息要素整合為具有生態平衡性的集合，構建生態化的信息安全保障機制。

　　第一，要實現觀念的轉向，以信息安全的“生態觀”取代傳統的信息“隔離觀”。人工智能畢竟只是人類智能的產物，它本身并沒有和人類智能一樣的原生性的創造能力。只要人類智能繼續保持自身在智能生態中的主導地位，未來的智能生態就會保持平穩，人工智能技術就會被限制在服務人類的層面而不會泛濫，信息安全問題也就會隨之被消解。要秉持整體性和生態性的信息安全保障體系建設理念。未來的智能生態系統并非只有人類智能或人工智能，而是有著多種智能相互共存與相互影響的復雜系統，這就需要堅持整體性和生態性的信息治理理念。在新技術的研發與使用過程中，既要追求安全性，又要堅持發展性；要堅決擯棄技術中心主義觀念，既要堅守信息在決策過程中的基礎性作用，又要堅持價值判斷在決策過程中的根本性作用。也就是將人工智能技術作為信息安全保障生態體系的重要技術支持，并通過流程再造與體系優化來實現信息安全保障體系的生態性重構。同時還要增強人們在人工智能技術應用中的反思性，需要反思人類的“技術主義”思維方式，矯正“技術能夠解決所有問題”的思想；需要反思“人類中心主義”，要消除人類盲目自大、蔑視自然、否定規律與否定技術的現象，并在反思的基礎之上合理使用技術，防止技術泛濫。

　　第二，要從技術層面強化對弱信號安全風險的感知與識別能力。信息一旦泄露就會產生難以預測的后果，所以信息安全保障的重心應該在防范階段，而風險防范的關鍵環節是“風險預警”。人工智能時代的信息傳播速度快、傳播方式隱秘、風險感知難度大，因此，信息安全風險保障體系的構建要強化在弱信號的情境下感知和識別信息安全風險的能力。這種能力主要包括捕捉風險信號的能力、感知風險發展趨勢的能力、評估風險后果的能力與應對風險行為的能力，這四種能力也是處理風險的四個階段，都需要通過新的技術參與才能順利完成，這也為人工智能技術的應用提供了空間。因此，我們需要根據人工智能技術發展的階段，研發弱信號環境中的信息安全風險感知與識別技術，主動應對智能時代的信息安全風險。通過對信息安全風險的提前感知與識別，為信息安全提供保障并維持信息安全保障體系的生態性、開放性與整體性。

　　第三，要構建和實施連貫式的風險評估機制。智能時代的信息安全問題主要凸顯在大數據和人工智能領域。我們可以借鑒美國信息安全情報共享與風險聯合防控的做法，在不同層級政府中構建信息安全的專門機構，提升組織評估和管理信息安全風險的能力；在整個社會營造穩定的信息安全防控環境，構建包括“威懾”“保護”“檢測”和“響應”等環節的信息安全防御體系。這樣的安排既能保證信息的安全性，又能保障信息傳播在技術與途徑方面的多樣性，以更好地應對信息安全風險的不確定性，防止信息系統滑入無限失衡狀態。

　　第四，要以人本主義為基礎構建積極的信息安全風險干預機制。面對潛在的信息安全風險，我們必須重申人本主義精神與人類安全等技術發展理念，并以此為基礎構建具有人類共同價值觀、共同愿景與共同倫理的信息安全風險干預機制。一是要構建“信息災備機制”。當人工智能技術出現程序失控或系統被破解，就可能導致世界遭遇滅頂之災。因此，對軍事信息基礎設施、重要的科研信息基礎設施等的安全都不能完全依賴人工智能技術，萬一技術被攻破就會導致信息穩健性問題和泛化問題，造成信息被篡改與丟失。就需要構建“信息災備機制”，將公共安全與應急管理信息、犯罪熱點地區、衛生檢測結果等納入這一機制之中。二是優化人工智能時代的信息定密機制。要對信息涵蓋的對象、時間與情節等進行分類，劃定信息的知情面與擴散面，并以此為依據對信息產品進行定密、細化“定密點”和“定密指標體系”，使公共信息安全產品和公共信息安全風險、技術風險的預測等實現有序流動。同時，還要構建人工智能產品的法治規則和倫理規則，使它們的研發者代替人工智能產品來承擔同樣的法律倫理責任，防止人工智能產品通過隱蔽性方式出現信息安全問題。三是構建以政府為主要責任人的信息監督機制，強化政府在信息安全體系中的監管作用。人工智能技術應用場景的延展必須以市場需要為基礎，使技術應用、技術發展、信息安全、資源配置等形成一個完整的生態系統。政府需要制定統一的技術標準，防止企業在各自的技術開發過程中因為標準不統一而導致信息安全防控技術的針對性不足。此外，政府還應該充分利用人工智能技術、自然語言識別技術，構建實時信息安全監控機制，及時化解和防范信息安全問題。

　　（作者系南京郵電大學計算機學院、網絡空間安全學院副教授）