中國工業(yè)報記者 曹雅麗

“最近Sora再次引發(fā)了人們關于人工智能的熱議，從正向角度來說，Sora的問世刷新了我們對人工智能大模型成長速度的認知，為千行百業(yè)提高生產(chǎn)力提供了一個更強大的工具。同時，也加劇了我們對于網(wǎng)絡和數(shù)據(jù)安全隱患的擔憂。”

全國政協(xié)委員、奇安信集團董事長齊向東告訴記者，今年帶來了一份關于《創(chuàng)新發(fā)展“AI+安全”護航中國式現(xiàn)代化》的提案。

全國政協(xié)委員、奇安信集團董事長齊向東

齊向東表示，AI是新一輪科技革命的核心技術，它極大提升了生產(chǎn)力，但是加大了數(shù)據(jù)泄露、“深偽”詐騙等安全威脅，針對AI的網(wǎng)絡攻擊和利用AI技術攻擊網(wǎng)絡的問題日益凸顯。希望我國能大力探索‘AI+安全’創(chuàng)新應用，搶占國家安全的人工智能戰(zhàn)略制高點，提高我國應對網(wǎng)絡空間安全風險與不確定性的能力。

“Sora是一個比ChatGPT更加強大的人工智能大模型。當前，利用人工智能技術進行網(wǎng)絡攻擊的事件已經(jīng)不在少數(shù)。Sora的出現(xiàn)進一步加深了網(wǎng)絡和數(shù)據(jù)安全威脅，未來利用人工智能發(fā)動網(wǎng)絡攻擊的活動會更頻繁，‘深偽’詐騙、換臉變聲等引發(fā)的網(wǎng)絡犯罪會更猖獗。”齊向東強調。

齊向東認為，人工智能技術帶來的新型網(wǎng)絡安全風險主要有三方面：一是AI本身加劇安全威脅，比如數(shù)據(jù)泄露、欺詐攻擊、社會治理安全等，“以ChatGPT、Sora為代表的生成式AI技術可以快速生成釣魚郵件、編寫惡意軟件與代碼，導致攻擊數(shù)量爆發(fā)式增長，AI欺詐事件頻繁發(fā)生。此外，不法分子可以通過‘深度偽造’技術換臉變聲、偽造視頻，‘眼見未必為實’將成為常態(tài)。”

二是AI或將加劇網(wǎng)絡安全領域的“攻防失衡”，網(wǎng)絡安全將更加“易攻難守”。人工智能大幅降低了網(wǎng)絡攻擊門檻，不懂代碼、不懂技術的普通人也能成為黑客，將擴大網(wǎng)絡攻擊數(shù)量，而專業(yè)化的黑客組織可以利用人工智能工具對網(wǎng)絡攻擊進行改造和升級。

三是AI加劇軍事威脅，AI武器化趨勢顯現(xiàn)。齊向東表示，人工智能可被用在“機器人殺手”等致命性自主武器上，通過自主識別攻擊目標、遠程自動化操作等，隱藏攻擊者來源、建立對抗優(yōu)勢，也可以將網(wǎng)絡、決策者和操作者相連接，讓軍事行動針對性更強、目標更明確、打擊范圍更廣。事實上，越來越多的國家開始探索人工智能在軍事領域的應用。

對此，齊向東表示，“人工智能的源頭是大數(shù)據(jù)，要先解決數(shù)據(jù)安全，才能解決人工智能的安全。”齊向東認為，要應對這一挑戰(zhàn)，要“標本兼治”，不僅要用“智能對抗智能”，也要做到“人和機器的協(xié)同發(fā)展”。

“面對新技術可能帶來的安全風險，不僅要筑起一道用智能對抗智能的防線，更重要的是要做到人和機器的協(xié)同發(fā)展。既發(fā)揮人的引領作用，也要充分利用極其強大的智能分析和自動研判能力。不能盲目陷入技術決定論，只有人與機器的力量有機結合，生產(chǎn)力才能真正的新質、高質。”齊向東表示。

“具體來說，是要善用人工智能技術做好盤家底、建系統(tǒng)、抓運營三件事。盤家底，利用人工智能大模型高效梳理清楚各類資產(chǎn)，為做好網(wǎng)絡安全建設工作打好‘地基’；建系統(tǒng)，建立縱深防御的內生安全體系和全鏈條的數(shù)據(jù)安全防護體系；抓運營，用‘人+智能’的高水平運營隊伍讓安全能力‘活起來’。”齊向東表示。