四川
這項創新演進之快，要求人們先于威脅一步，才能及時化解。人工智能正在重塑經濟、科學和公共服務，也在改變數字威脅的版圖。生成與真實幾乎無法區分的圖像、聲音和視頻的能力，給安全領域帶來了一個新階段：風險正以與技術相同的速度演變。
這正是當天第二場討論的核心議題。該場討論以“安全面臨的新挑戰及其應對”為題，聚焦與人工智能相關的新興風險，涵蓋網絡安全和虛假信息傳播等問題。
西班牙數據保護局主席辦公室副主任弗朗西斯科·佩雷斯·貝斯警告說：“如果我們不能先識別出人工智能帶來的風險，之后就不可能加以緩解。”他解釋稱，這項技術的迅速興起，正在重新激活一些原本似乎已得到控制的威脅，同時也在制造新的風險，尤其是在大規模數據處理、生物識別以及信息自動化利用等領域。
組織在考慮采取保護措施之前，首先必須準確理解，在引入這些工具時自己承擔了哪些風險。討論中，各方普遍擔憂的一個問題，是這場變化推進的速度。過去需要高級技術知識、時間和資源才能完成的事情，如今可以自動化執行，而且速度之快，傳統防御機制很難跟上。
在國家安全領域，這種現實尤為敏感。西班牙國家警察總情報局中央處處長勞拉·鮑斯·埃斯帕達警告，人工智能已經被用于身份冒充、發動網絡攻擊以及傳播虛假信息行動，使用者既包括犯罪分子，也包括敵對國家行為體。
在這些威脅中，所謂“深度偽造”尤為突出。鮑斯表示，借助人工智能重建語音、圖像和視頻的能力，正使辨別真實與篡改內容變得越來越困難。她回顧說，就在幾年前，這類偽造還相對容易識別。
但如今，她表示，這些技術已經可以被用來傳播假消息，并將其歸于公眾人物名下，進而加劇社會極化，或削弱公眾對民主制度的信任。這位警官還提到，歐洲近期已有案例顯示，基于人工智能的虛假信息傳播，甚至對選舉程序本身都造成了質疑。
不過，虛假信息只是問題的一部分。西班牙國家密碼中心副總干事哈維爾·坎道·羅梅羅談到了所謂“進攻型人工智能”的興起。這類系統專門用于尋找計算機漏洞，并以自動化方式開發攻擊手段。
他詳細解釋說，這些工具能夠分析應用程序、發現安全缺陷，并生成利用機制，其速度遠遠超過人類能力。多年來，行業一直相信，人工智能主要會增強防御能力。最近幾個月的進展已經打破了這種平衡。
哈維爾·坎道·羅梅羅指出，它們已經證明，自己能夠以極快速度發現漏洞、創建利用程序并發起攻擊，這使得眼下的防護變得更加困難。這位國家密碼中心專家進一步指出，風險在于，隨著這些工具越來越普及，發動復雜攻擊所需的技術門檻可能降低，潛在攻擊者的數量也會顯著增加。
數據治理也被視為一項重大挑戰。佩雷斯·貝斯指出，許多組織仍在沒有明確目的的情況下持續積累信息。因此，他強調，數據保護與安全不應被視為彼此對立的目標，而應被看作相互補充、需要保持平衡推進的兩個方面。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
