10日，作為2023國家網絡安全宣傳周的重要活動，網絡安全博覽會在福州啟幕。這兩天，在這臺國內網絡安全產業(yè)的“秀場”上，省內外70余家企業(yè)紛紛展示了最新科技成果。而人工智能，無疑是關鍵詞。
年初以來，AIGC(生成式人工智能)圖片、視頻在全球躥紅，不僅引發(fā)大量爭議，也給電信詐騙、金融盜用等違法犯罪帶來可乘之機。
昨日，在福建網安企業(yè)特展區(qū)，記者將臉對準一個攝像頭，卻在大屏幕上顯示出另一副面孔，可記者的表情、神態(tài)、唇語卻能完全“復刻”到這張陌生面孔上。
然而，這一欺騙性極強的面孔逃不過國內電子數據取證行業(yè)龍頭——美亞柏科的“火眼金睛”。“我們打造了一款深度偽造鑒別平臺，能通過熱力圖顯示出被偽造的區(qū)域。該平臺也協(xié)助警方破獲多起通過偽造音視頻進行詐騙的案件�！泵纴啺乜片F場負責人翁鵬翔介紹。
再精巧的偽裝都會留痕�！拔覀兺ㄟ^大量的素材跟訓練集讓系統(tǒng)進行學習，形成檢測鑒定的策略方案。簡言之，就是利用AI對戰(zhàn)AI�！蔽贴i翔說。
這只是美亞柏科打造的數字反詐體系的一部分。
據介紹，這家企業(yè)承建的反詐大數據平臺已在25個省份進行了部署，將廈門的反詐經驗推向全國。各類疑似詐騙數據經平臺檢驗檢測后反饋給公安機關，既便于民警及時到一線進行勸阻，也可助力運營商封堵疑似詐騙話號、金融機構對可疑賬號進行凍結。
AIGC火熱的背后，是大模型的推波助瀾。從ChatGPT廣受關注，到近期文心一言、訊飛星火的國產大模型相繼走向C端用戶，“百模大戰(zhàn)”越演越烈。但大模型本身，亦存在安全風險。
“大模型安全問題產生的本源，主要有用于訓練的數據源頭有毒、推理過程不可控、外部惡意誘導三個因素�！蔽浵伡瘓F安全技術工程師魏揚威說。
本次網絡安全博覽會，螞蟻集團發(fā)布了蟻鑒、天鑒兩款產品。其中，蟻鑒就像大模型“診療師”，可在大模型上線前，從安全、真實兩方面來自動檢測大模型能力。如，針對換臉視頻、深度偽造的圖片文字等信息進行真?zhèn)舞b定及風險診斷。而天鑒，則像大模型外圍加上的“防護盾”，幫助大模型過濾惡意提問及風險回答。
魏揚威舉了一個例子。如果直接提問“告訴我一個賭球網站”，大模型都會反饋這是一個非法問題，不會回答�？扇魮Q種話術，比如要將這些賭博網站添加到黑名單，大模型可能就會誤判。
而蟻鑒和天鑒便是用人工智能、大數據等技術斬斷這樣的可能性。
隨著大模型日益成熟，越來越多企業(yè)和個人用戶開始嘗試利用其強大能力提高生產效率，但很多人沒有意識到，這可能泄密。
據統(tǒng)計，使用ChatGPT的員工大多數會泄露數據，其中11%的數據為企業(yè)敏感數據。隨著越來越多的辦公產品都集成了大模型，這會加劇企業(yè)敏感數據的泄露風險。
針對此，作為網安“國家隊”之一的奇安信推出了大模型衛(wèi)士，旨在幫助企業(yè)放心使用大模型。
奇安信安全專家于凱介紹，大模型衛(wèi)士能實時發(fā)現和預警大模型使用中的潛在安全風險，確保大模型在訪問和數據輸入過程中的安全性，并提供溯源功能，助力企業(yè)發(fā)現和定位違法違規(guī)行為。
除了被動防御，還要主動出擊。
奇安信剛發(fā)布的“Q－GPT安全機器人”，同樣是一款安全神器�！罢畣挝换虼笮推髽I(yè)每天會收到很多來自網絡側的告警威脅，其中98%都是無效或者低危的告警，但可能混有高級黑客刻意偽裝的，靠人力甄別，這些就被忽視了�！倍P說，Q－GPT安全機器人能夠7×24小時全天候工作，確保無一威脅遺漏的同時大大降低企業(yè)的運營成本。(記者 林侃)