隨著AI技術(shù)的發(fā)展，AI合成應(yīng)用門(mén)檻一再降低，利用AI深度合成偽造音視頻，成為威脅網(wǎng)絡(luò)安全的典型案例。

二級(jí)市場(chǎng)上，網(wǎng)絡(luò)安全上市公司股價(jià)近期攀升。自1月17日以來(lái)，截至2月17日收盤(pán)，天融信科技集團(tuán)股份有限公司（以下簡(jiǎn)稱(chēng)“天融信”）、任子行網(wǎng)絡(luò)技術(shù)股份有限公司等股價(jià)區(qū)間漲幅均超30%。

廣州眺遠(yuǎn)營(yíng)銷(xiāo)咨詢(xún)管理有限公司總監(jiān)高承飛表示：“人工智能技術(shù)飛速發(fā)展帶來(lái)便捷與創(chuàng)新的同時(shí)，也給網(wǎng)絡(luò)空間帶來(lái)了新的安全挑戰(zhàn)。合成音視頻的深度偽造、誤導(dǎo)性信息的傳播等問(wèn)題頻發(fā)，使個(gè)人、企業(yè)和政府對(duì)網(wǎng)絡(luò)安全的需求都大幅增加，同時(shí)也對(duì)網(wǎng)絡(luò)安全技術(shù)提出更高要求。需要各方共同努力，多管齊下，筑牢網(wǎng)絡(luò)安全‘防火墻’。”

合成音視頻帶來(lái)隱患

“當(dāng)前，有很多開(kāi)源的軟件和工具都可以實(shí)現(xiàn)換聲換臉的效果，可以供網(wǎng)民自由下載，在自己的電腦上進(jìn)行安裝和使用?！碧烊谛鸥笨偛?、中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專(zhuān)業(yè)委員會(huì)專(zhuān)家薛智慧表示。

若AI合成的他人肖像未經(jīng)當(dāng)事人同意，且該合成內(nèi)容被用于商業(yè)或公開(kāi)場(chǎng)合傳播，可能構(gòu)成侵犯肖像權(quán)。AI合成音視頻可能被不法分子利用，還將成為犯罪的“幫兇”。近年來(lái)，我國(guó)對(duì)人工智能生成合成行為的法律法規(guī)不斷完善，為網(wǎng)絡(luò)安全和生成式人工智能的健康發(fā)展保駕護(hù)航。2022年11月份，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合公布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息。

北京市京師律師事務(wù)所合伙人盧鼎亮表示：“目前，針對(duì)AI克隆技術(shù)等新興領(lǐng)域，還需要進(jìn)一步細(xì)化相關(guān)法律條款，明確侵權(quán)行為的定義和責(zé)任，加強(qiáng)執(zhí)法力度，形成有效威懾。網(wǎng)絡(luò)安全是一個(gè)系統(tǒng)性工程，需要政府、企業(yè)等在政策、法律、治理、技術(shù)等層面共同發(fā)力，包括引導(dǎo)資源向網(wǎng)絡(luò)安全領(lǐng)域傾斜、加大網(wǎng)絡(luò)安全方面投入等?！?/p>

上市公司加碼布局

根據(jù)中國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)聯(lián)盟的統(tǒng)計(jì)，2022年我國(guó)網(wǎng)絡(luò)安全市場(chǎng)規(guī)模約為633億元，2025年有望超過(guò)800億元。A股多家上市公司深耕網(wǎng)絡(luò)安全市場(chǎng)，包括：天融信、杭州迪普科技股份有限公司（以下簡(jiǎn)稱(chēng)“迪普科技”）、奇安信科技集團(tuán)股份有限公司、三六零安全科技股份有限公司、深信服科技股份有限公司等。面對(duì)AI發(fā)展帶來(lái)的網(wǎng)絡(luò)安全市場(chǎng)擴(kuò)容，這些上市公司積極加碼布局，并且高度重視AI技術(shù)在網(wǎng)絡(luò)安全中的運(yùn)用，利用AI技術(shù)來(lái)檢測(cè)跟對(duì)抗AI。

天融信于2014年成立AI研究團(tuán)隊(duì)，開(kāi)啟網(wǎng)絡(luò)安全領(lǐng)域的機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、自然語(yǔ)言處理等人工智能技術(shù)研究和應(yīng)用。公司在2023年發(fā)布了自主研發(fā)的天問(wèn)大模型，并陸續(xù)發(fā)布了基于天問(wèn)大模型的產(chǎn)品小天、云上小天、天問(wèn)大模型系統(tǒng)等AI智能體，應(yīng)用于公司防火墻、數(shù)據(jù)庫(kù)審計(jì)與防護(hù)、漏掃等安全產(chǎn)品中。天融信方面表示：“公司將持續(xù)優(yōu)化AI技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域中的應(yīng)用，持續(xù)研發(fā)AI系統(tǒng)自身以及AI算法、數(shù)據(jù)、模型的安全問(wèn)題的解決方案，并且與合作伙伴共同推進(jìn)量子加密技術(shù)為AI應(yīng)用提供安全保障?！?/p>

迪普科技積極探索“AI+安全”創(chuàng)新應(yīng)用，強(qiáng)化AI技術(shù)對(duì)產(chǎn)品體系的賦能。公司基于不同的安全業(yè)務(wù)場(chǎng)景深度融合了多個(gè)通用大模型在網(wǎng)絡(luò)安全領(lǐng)域的能力，經(jīng)過(guò)增量預(yù)訓(xùn)練和調(diào)優(yōu)，應(yīng)用于安全運(yùn)營(yíng)、數(shù)據(jù)分類(lèi)分級(jí)和敏感數(shù)據(jù)識(shí)別等場(chǎng)景，提升產(chǎn)品體系的核心能力，持續(xù)為用戶的安全保駕護(hù)航。

深度科技研究院院長(zhǎng)張孝榮表示：“AI正在推動(dòng)網(wǎng)絡(luò)安全產(chǎn)業(yè)變革。一方面，大模型產(chǎn)品正在增多，AI可能被不法分子用來(lái)進(jìn)行網(wǎng)絡(luò)攻擊，因此，針對(duì)AI的網(wǎng)絡(luò)安全產(chǎn)品及服務(wù)將成為行業(yè)的主要競(jìng)爭(zhēng)領(lǐng)域。另一方面，深度整合AI技術(shù)，能夠大幅提升網(wǎng)絡(luò)安全產(chǎn)品的水平，使其能夠更快速、更準(zhǔn)確地識(shí)別并應(yīng)對(duì)各種網(wǎng)絡(luò)攻擊。利用AI技術(shù)不斷創(chuàng)新和優(yōu)化安全解決方案的企業(yè)，有望在未來(lái)的網(wǎng)絡(luò)安全市場(chǎng)中占據(jù)領(lǐng)先地位?！?/p>

（來(lái)源：證券日?qǐng)?bào)網(wǎng)）