（圖片來源：攝圖網(wǎng)）

（記者? ? 盧臻）“10分鐘被騙430萬”，日前，包頭警方發(fā)布的一起利用AI實施通信詐騙的案例沖上熱搜。隨著ChatGPT的火爆，關(guān)于AI技術(shù)的爭論就不曾停止過，如何應(yīng)對人工智能可能帶來的安全問題成為各界關(guān)注點，也成為網(wǎng)絡(luò)安全工作的下一個著力點。

人工智能產(chǎn)業(yè)發(fā)展迅速，潛藏安全風險引擔憂

(資料圖片僅供參考)

隨著信息技術(shù)的不斷進步，人工智能產(chǎn)業(yè)成為各大行業(yè)的“兵家必爭之地”，許多企業(yè)涌入人工智能領(lǐng)域想“分一杯羹”。雖然資本的持續(xù)注入讓人工智能產(chǎn)業(yè)迅速發(fā)展，但在快速發(fā)展的光環(huán)下，安全隱患也引起了許多人的擔憂。

自2019年“ZAO”軟件應(yīng)用AI換臉技術(shù)成為網(wǎng)絡(luò)輿論焦點后,該技術(shù)也進入大眾視野中。隨著AI的迅速發(fā)展，AI 換臉技術(shù)門檻逐漸降低，應(yīng)用場景越來越多，在滿足人們獵奇、美顏、社交等需求的同時，因AI換臉引發(fā)的爭議乃至違法犯罪行為屢見不鮮。

實際上，除了AI換臉，騙子還可以利用人工智能的其他功能來進行犯罪。例如，利用相關(guān)人員聲音素材進行合成，實施語音詐騙，或者通過AI算法，對人群進行篩選，從而實施精準詐騙。

未雨綢繆筑牢安全防護墻

在人工智能發(fā)展過程中，要堅持安全可靠和創(chuàng)新發(fā)展并重，筑牢安全防護墻，應(yīng)對人工智能帶來的安全風險亟須未雨綢繆。

隨著技術(shù)的不斷演進，我國相關(guān)法律和政策也在不斷發(fā)展和完善。去年，國家互聯(lián)網(wǎng)信息辦公室正式公布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對于深度合成技術(shù)在互聯(lián)網(wǎng)中的應(yīng)用作出具體說明與嚴格規(guī)定,對人臉生成、人臉替換、人臉操控、姿態(tài)操控等虛擬人物圖像的開發(fā)與應(yīng)用作出了規(guī)定, 為AI 換臉等深度合成技術(shù)的應(yīng)用厘清底線。

除了法律方面，用高新技術(shù)來防范網(wǎng)絡(luò)安全的風險也十分重要。例如，中國電信擁有運營商級的底層數(shù)據(jù)能力及強大的數(shù)據(jù)模型團隊，其已形成9000+個欺詐模型，可實現(xiàn)反詐預(yù)警數(shù)據(jù)的全流程數(shù)智化管理。

“黑科技”防詐

AI技術(shù)的發(fā)展過程中，雖然會被許多“別有用心”之人利用AI漏洞進行詐騙，然而AI技術(shù)的革新也讓防詐和反詐更加容易。

依托AI智能、大數(shù)據(jù)等能力技術(shù)，中國電信打造了96110“翼安反詐”云平臺，包括智能預(yù)警、智能攔截、智能分析、智能外呼功能，為用戶提供多形態(tài)全方位反詐治理服務(wù)。在廣東，中國電信廣東公司為用戶提供“來電名片”和“閃信提醒”服務(wù)，在用戶收到不明信息或來電時，通過閃信、電話等方式及時提醒，僅2022年，累計發(fā)送閃信提醒5642萬次，挽回經(jīng)濟損失超過11億元，切切實實保障廣大人民群眾利益。

正如硬幣的正反兩面，每一次技術(shù)變革在帶來福祉的同時，也經(jīng)常伴隨風險。風險促使我們深入思考，但不能因噎廢食。要因勢利導(dǎo)，使其趨利避害，應(yīng)是全行業(yè)未來努力的方向。