5月18日，2024西湖論劍·AI引領(lǐng)數(shù)字安全新浪潮專題會(huì)議成功召開。業(yè)界精英圍繞AI+安全，共同探討AI引領(lǐng)數(shù)字安全新質(zhì)生產(chǎn)力的發(fā)展之道，解鎖未來無限奧秘。

      中國網(wǎng)絡(luò)空間安全協(xié)會(huì)副理事長、中國網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)主任盧衛(wèi)，浙江省杭州市科學(xué)技術(shù)協(xié)會(huì)黨組成員、副主席王菊紅，浙江移動(dòng)信息技術(shù)與數(shù)據(jù)管理部總經(jīng)理、中國移動(dòng)集團(tuán)首席專家王曉征，浙江移動(dòng)信息安全部總經(jīng)理王延長，杭州市科協(xié)學(xué)會(huì)管理部（科技創(chuàng)新部）部長余勇平，海亮集團(tuán)輪值總裁何文天，安恒信息董事長范淵，上海市大數(shù)據(jù)中心基礎(chǔ)設(shè)施部副部長靳玲，中國科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長俞能海，天津大學(xué)信息與網(wǎng)絡(luò)中心主任于瑞國，杭州市人工智能協(xié)會(huì)秘書長趙星倫，以及相關(guān)行業(yè)領(lǐng)導(dǎo)和企業(yè)專家出席論壇，教育部新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會(huì)主任委員、俄羅斯國家工程院外籍院士胡瑞敏主持論壇。

      教育部新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會(huì)主任委員、俄羅斯國家工程院外籍院士胡瑞敏主持論壇

      中國網(wǎng)絡(luò)空間安全協(xié)會(huì)副理事長、中國網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)主任盧衛(wèi)出席

AI引領(lǐng)，構(gòu)建數(shù)字安全新質(zhì)生產(chǎn)力

      2023年以來，人工智能蓬勃發(fā)展，為數(shù)字安全領(lǐng)域帶來了全新的生態(tài)環(huán)境和產(chǎn)業(yè)格局。我們?cè)趽肀I的同時(shí)，也不能不嚴(yán)防AI可能帶來的數(shù)據(jù)泄露、深度偽造等風(fēng)險(xiǎn)。以AI對(duì)AI，以AI管AI，成為推動(dòng)人工智能與網(wǎng)絡(luò)安全技術(shù)的深度融合，構(gòu)建數(shù)字安全新質(zhì)生產(chǎn)力，為經(jīng)濟(jì)社會(huì)發(fā)展和國家安全提供有力保障的必然選擇。

      CCF計(jì)算機(jī)安全專業(yè)委員會(huì)常務(wù)副主任、公安部第一研究所副所長于銳在視頻致辭中表示，人工智能的飛速發(fā)展以及AI技術(shù)的廣泛應(yīng)用對(duì)數(shù)字安全帶來了全新的挑戰(zhàn)與機(jī)遇，數(shù)據(jù)安全、算法安全、隱私保護(hù)等問題日益凸顯。對(duì)于如何在享受技術(shù)紅利的同時(shí)，構(gòu)建更加堅(jiān)固的數(shù)字安全屏障，實(shí)現(xiàn)傳統(tǒng)網(wǎng)絡(luò)與數(shù)據(jù)安全的革命性升級(jí)，打造新型的AI+網(wǎng)絡(luò)和數(shù)據(jù)安全體系，他提出四點(diǎn)建議：一是加強(qiáng)協(xié)同創(chuàng)新，共建安全生態(tài)；二是開展技術(shù)革新，驅(qū)動(dòng)安全升級(jí)；三是加大法規(guī)引領(lǐng)，保障健康發(fā)展；四是強(qiáng)化人才培養(yǎng)，強(qiáng)化安全根基。

于銳所長在論壇中視頻致辭

      俞能海教授發(fā)表《生成式人工智能安全與新質(zhì)數(shù)字資產(chǎn)》主題演講時(shí)指出，人工智能向生成式跨越，全面提升理解能力，AIGC不斷取得突破，多模態(tài)大模型快速發(fā)展，人工智能安全的保障將成為人工智能可靠可控應(yīng)用的重要基礎(chǔ)。為規(guī)避AIGC風(fēng)險(xiǎn)，不能單純依賴智能算法，而是將人創(chuàng)造能力與AI的生成能力有效結(jié)合。對(duì)此，俞教授建議從三個(gè)維度進(jìn)行；一是利用AIGC合成內(nèi)容鑒別，應(yīng)對(duì)AI的惡意應(yīng)用；二是通過大模型糾偏，提升AI的安全能力；三是借助生成式模型水印，保護(hù)AI賦能的系統(tǒng)。

俞能海發(fā)表《生成式人工智能安全與新質(zhì)數(shù)字資產(chǎn)》主題演講

      安永（中國）企業(yè)咨詢有限公司合伙人王堅(jiān)在《AI大模型技術(shù)演進(jìn)及應(yīng)用》的主題演講中指出，未來AI大模型技術(shù)演進(jìn)路線可能沿著六大維度發(fā)展：一是模型規(guī)模的增長，大模型參數(shù)數(shù)量激增；二是多模態(tài)學(xué)習(xí)，能夠處理多種數(shù)據(jù)類型的應(yīng)用和場景；三是提高模型訓(xùn)練和推理的效率和可持續(xù)性；四是提升模型決策過程的透明度和可解釋性，減少“黑箱”現(xiàn)象；五是、使模型具備連續(xù)學(xué)習(xí)能力，避免災(zāi)難性遺忘，適應(yīng)動(dòng)態(tài)環(huán)境中的新數(shù)據(jù)和變化；六是、確保模型在惡意攻擊下的穩(wěn)定性和安全性，增強(qiáng)魯棒性。

王堅(jiān)發(fā)表《AI大模型技術(shù)演進(jìn)及應(yīng)用》主題演講

Al+安全，探索安全行業(yè)的創(chuàng)新未來

      當(dāng)前安全產(chǎn)業(yè)，從技術(shù)角度存在安全天平和能力鴻溝等問題，AI時(shí)代下的數(shù)據(jù)安全、內(nèi)容安全、業(yè)務(wù)安全、供應(yīng)鏈安全等安全問題尤為突出。在此背景下，杭州人工智能學(xué)會(huì)副秘書長、安恒信息研究院院長王欣在《Al之于安全行業(yè)的應(yīng)用探索》的主題演講中提出，AI+安全一定是安全未來發(fā)展的巨大方向。

      王欣指出，人工智能創(chuàng)立之初即是模擬、延伸和擴(kuò)展人的智能理論、方法、技術(shù)和應(yīng)用系統(tǒng)的一門技術(shù)學(xué)科。大模型的涌現(xiàn)能力，相比于過往人工智能技術(shù)，在理解指令、理解例子、思維鏈能力和快速學(xué)習(xí)能力四個(gè)維度得到了更多的能力增強(qiáng)，分享了過去在數(shù)據(jù)安全、安全運(yùn)營等多個(gè)場景下的安全大模型實(shí)踐經(jīng)驗(yàn)。

      王欣認(rèn)為，AI之于安全，其真正的AI能力只發(fā)揮了不足5%，同時(shí)他對(duì)AI之于安全的應(yīng)用趨勢做出了八大預(yù)判：一是大模型為核心的AI智能體（AI Agents）將成為安全產(chǎn)業(yè)的標(biāo)配，越來越多的AI Native工具將成為Agent的“手和腳”。二是在AI智能體的影響下，自適應(yīng)安全架構(gòu)將得到全新升級(jí)。三是在AI智能體的影響下，機(jī)器人流程自動(dòng)化將與許多安全業(yè)務(wù)相結(jié)合。四是AI智能體將重塑安全工作協(xié)同方式。五是AI多模態(tài)技術(shù)的不斷演進(jìn)，輿論戰(zhàn)、信息戰(zhàn)、涉網(wǎng)新型犯罪將率先應(yīng)用AI技術(shù)獲得技術(shù)“紅利”，監(jiān)管將面臨前所未有的挑戰(zhàn)。六是安全攻防將進(jìn)入全新階段，智能攻擊與智能防御成為新的技術(shù)博弈領(lǐng)域，AI原生的蠕蟲病毒或?qū)⑾砣颉Ｆ呤茿I時(shí)代下的數(shù)據(jù)安全、內(nèi)容安全、業(yè)務(wù)安全、供應(yīng)鏈安全等安全問題尤為突出，將會(huì)給AI產(chǎn)業(yè)應(yīng)用和發(fā)展帶來挑戰(zhàn)。八是AI時(shí)代帶來安全產(chǎn)品的全面升級(jí)革新，能力原子化、接口標(biāo)準(zhǔn)化將快速推進(jìn)。

王欣發(fā)表《Al之于安全行業(yè)的應(yīng)用探索》主題演講

實(shí)踐為先，為行業(yè)智能化轉(zhuǎn)型打樣

      天津大學(xué)信網(wǎng)中心主任于瑞國在《天津大學(xué)算力與網(wǎng)絡(luò)安全融合建設(shè)》的主題演講中介紹了天津大學(xué)響應(yīng)國家大力推進(jìn)超算、人工智能平臺(tái)建設(shè)的政策引導(dǎo)，建設(shè)校級(jí)算力資源共享平臺(tái)，有效支撐面向重大項(xiàng)目或課題的開發(fā)與創(chuàng)新，服務(wù)AI FOR Science的成功經(jīng)驗(yàn)。

于瑞國發(fā)布《天津大學(xué)算力與網(wǎng)絡(luò)安全融合建設(shè)》主題演講

      安恒信息隱私計(jì)算事業(yè)部總經(jīng)理陶立峰帶來《基于機(jī)密計(jì)算的大模型訓(xùn)練和推理數(shù)據(jù)圍欄》的主題演講，介紹了如何在大模型訓(xùn)練和推理時(shí)，解決數(shù)據(jù)既要利用又要保護(hù)的矛盾需求，以及保護(hù)模型安全的雙重難題。安恒信息在隱私計(jì)算的基礎(chǔ)之上，將大模型訓(xùn)練與推理能力支持起來，以確保大模型的訓(xùn)練數(shù)據(jù)能在更安全、可信、可靠的環(huán)境當(dāng)中得以訓(xùn)練，模型也能在更安全的環(huán)境下去部署與應(yīng)用。陶立峰表示，通過將可信執(zhí)行環(huán)境、機(jī)密計(jì)算與大模型訓(xùn)練框架結(jié)合，構(gòu)建基于機(jī)密計(jì)算的大模型訓(xùn)練與推理的數(shù)據(jù)圍欄，再結(jié)合全流程的加密、授權(quán)與審計(jì)、審批等管控手段，就能夠?qū)崿F(xiàn)基于場景的最小化數(shù)據(jù)授權(quán)，同時(shí)確保數(shù)據(jù)在受控環(huán)境之下不會(huì)被濫用。

陶立峰發(fā)表《基于機(jī)密計(jì)算的大模型訓(xùn)練和推理數(shù)據(jù)圍欄》主題演講

      針對(duì)大模型開發(fā)及大規(guī)模AI計(jì)算系統(tǒng)的挑戰(zhàn)，安恒信息正式發(fā)布了昇騰-恒腦推理一體機(jī)，全流程加速大模型的創(chuàng)新與落地，

      在對(duì)人工智能高性能計(jì)算的不懈追求中,安恒信息與華為昇騰團(tuán)隊(duì)經(jīng)歷了長期深入的合作與共創(chuàng)歷程。基于昇騰軟硬件生態(tài)，安恒恒腦大模型取得了一系列重要成就，同時(shí),也率先完成了多代昇騰硬件適配。一體機(jī)融合了安恒信息自主研發(fā)的恒腦大模型和華為昇騰業(yè)界領(lǐng)先的AI計(jì)算能力,在全流程加速大模型創(chuàng)新應(yīng)用的同時(shí),也彰顯了雙方在人工智能領(lǐng)域的持續(xù)創(chuàng)新能力。

      安恒信息生態(tài)合作部總經(jīng)理吳偉京與華為制造與大企業(yè)軍團(tuán)解決方案副總裁余倬共同出席儀式。雙方未來將在安恒-華為戰(zhàn)略合作的框架下繼續(xù)加強(qiáng)合作，在大模型技術(shù)、軟硬件生態(tài)、云端服務(wù)等領(lǐng)域開拓創(chuàng)新,共同推動(dòng)智能化數(shù)字安全的進(jìn)步。

昇騰-恒腦推理一體機(jī)發(fā)布儀式

      安恒信息研究院創(chuàng)新業(yè)務(wù)部總經(jīng)理姚龍飛在《恒腦2.0智能體核心和自動(dòng)化革新》主題演講中提出，大模型的下半場應(yīng)是智能體的大爆發(fā)。他以恒腦安全垂域大模型為例，介紹了安恒信息以智能體為核心驅(qū)動(dòng)產(chǎn)品、業(yè)務(wù)進(jìn)行結(jié)合的探索與應(yīng)用。目前，安恒信息將RPA的思想進(jìn)行了充分的理解之后融入智能體框架設(shè)計(jì)，并在安恒的數(shù)據(jù)分類分級(jí)產(chǎn)品、Alpha告警研判、DLP、API、SOAR等產(chǎn)品中廣泛應(yīng)用，實(shí)現(xiàn)了不同場景下的能力大幅提升。

姚龍飛發(fā)表《恒腦2.0智能體核心和自動(dòng)化革新》主題演講

      海亮集團(tuán)數(shù)字創(chuàng)新部部長孫雯帶來《海亮集團(tuán)大模型應(yīng)用于數(shù)據(jù)安全的探索與實(shí)踐》主題演講，分享了海亮集團(tuán)正在不同的業(yè)務(wù)場景探索AI大模型的應(yīng)用，特別在數(shù)據(jù)安全領(lǐng)域已取得一定成果。她說，隨著企業(yè)邊界不斷擴(kuò)大，場景越來越復(fù)雜，傳統(tǒng)的安全防護(hù)正逐步失效。與此同時(shí)，企業(yè)的數(shù)據(jù)隨著數(shù)字化轉(zhuǎn)型深入變得越來越值錢，數(shù)據(jù)泄露風(fēng)險(xiǎn)與日俱增。為此，海亮集團(tuán)構(gòu)建了“113N”安全能力建設(shè)框架，從“事前-事中-事后”做好端到端防護(hù)，實(shí)現(xiàn)外抵攻擊、內(nèi)防泄露的目標(biāo)，以安全護(hù)航數(shù)字化轉(zhuǎn)型。孫雯表示，海亮集團(tuán)將與安恒信息攜手，基于安恒恒腦的專業(yè)能力，海亮豐富的業(yè)務(wù)場景和多領(lǐng)域行業(yè)數(shù)據(jù)沉淀，鍛煉出更多適配于不同企業(yè)，聚焦于不同行業(yè)的智能體。

孫雯發(fā)表《海亮集團(tuán)大模型應(yīng)用于數(shù)據(jù)安全的探索與實(shí)踐》主題演講

      在隨后舉行的海亮-安恒聯(lián)合創(chuàng)新實(shí)驗(yàn)室揭牌儀式上，海亮集團(tuán)輪值總裁何文天、安恒信息董事長范淵、安恒信息研究院院長王欣和海亮集團(tuán)數(shù)字創(chuàng)新部部長孫雯共同見證聯(lián)合創(chuàng)新實(shí)驗(yàn)室的揭牌，依托安恒信息恒腦安全大模型及生態(tài)資源，結(jié)合海亮集團(tuán)豐富的行業(yè)數(shù)據(jù)及數(shù)據(jù)安全實(shí)踐，共同構(gòu)建數(shù)據(jù)安全領(lǐng)域解決方案，推進(jìn)國家、行業(yè)、團(tuán)體等數(shù)據(jù)安全標(biāo)準(zhǔn)規(guī)范的研制，探索大模型+數(shù)據(jù)安全的應(yīng)用落地，打造國內(nèi)大模型+數(shù)據(jù)安全的先進(jìn)標(biāo)桿案例，形成產(chǎn)業(yè)合力。

海亮-安恒聯(lián)合創(chuàng)新實(shí)驗(yàn)室揭牌儀式

      火山引擎大模型安全產(chǎn)品研發(fā)負(fù)責(zé)人郭建新在《大模型安全內(nèi)部實(shí)踐分享》中，總結(jié)了大模型應(yīng)用的四個(gè)風(fēng)險(xiǎn)點(diǎn)，分別是模型輸出異常、對(duì)話機(jī)制、數(shù)據(jù)安全和系統(tǒng)安全。對(duì)此，火山引擎方舟平臺(tái)以業(yè)務(wù)安全和底座安全為核心，構(gòu)建了“一矛”“一盾”“一沙箱”的解決方案確保大模型應(yīng)用安全。

郭建新《大模型安全內(nèi)部實(shí)踐分享》主題演講

AI論劍，共議安全和發(fā)展的平衡之道

      隨著人工智能技術(shù)的蓬勃發(fā)展，到底哪些行業(yè)或領(lǐng)域在引入大模型技術(shù)后將會(huì)有顯著的效果和光明的發(fā)展前景？安全和發(fā)展該如何平衡？未來可能出現(xiàn)哪些全新的應(yīng)用場景或商業(yè)模式？

      在杭州人工智能學(xué)會(huì)副秘書長、浙江傳媒學(xué)院媒體工程學(xué)院講師王亞奇的主持下，教育部新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會(huì)主任委員、俄羅斯國家工程院外籍院士胡瑞敏，阿里研究院數(shù)據(jù)經(jīng)濟(jì)研究中心副主任王崢，華為制造與大企業(yè)軍團(tuán)解決方案副總裁余倬，安恒信息研究院副院長稅雪飛圍繞“大模型在各行業(yè)的應(yīng)用潛力與安全影響”展開激烈碰撞。

圓桌對(duì)話：AI論劍——大模型在各行業(yè)的應(yīng)用潛力于安全影響

      胡瑞敏總結(jié)了大模型落地場景的三要素：數(shù)據(jù)資源足夠豐富、高端人才極度緊缺、效率提升需求急迫；滿足這三要素的行業(yè)和領(lǐng)域適合應(yīng)用大模型進(jìn)行賦能和增益。余倬分享了華為自身經(jīng)驗(yàn)，表示大模型在to B場景下的提質(zhì)增效已有諸多應(yīng)用成效，要抓住合適的場景進(jìn)行深耕以提高生產(chǎn)力。王崢認(rèn)為，AI應(yīng)用從微軟AI助手到現(xiàn)在更多的AI 智能體，體現(xiàn)了機(jī)器在規(guī)劃、決策和執(zhí)行能力的提升。在中長期看，大模型技術(shù)的發(fā)展趨勢是在人類可控的前提下，提升機(jī)器的自主性。稅雪飛認(rèn)為從全球主流大模型發(fā)展近況看，大模型已經(jīng)到了應(yīng)用落地的快速爬坡時(shí)期；在安全領(lǐng)域，攻擊方和防守方在應(yīng)用大模型上的對(duì)抗已經(jīng)開始，安恒也在推進(jìn)應(yīng)用大模型和智能體構(gòu)筑新一代的安全防線。

      最后，CSA大中華區(qū)研究院副院長黃連金帶來《生成式AI應(yīng)用的安全挑戰(zhàn)》的直播演講，指出生成式AI的安全挑戰(zhàn)主要包括影子AI、自動(dòng)化和可拓展的威脅與零日漏洞、安全工具集成、惡意工具、大模型聚合導(dǎo)致的數(shù)據(jù)泄露，以及使用AI導(dǎo)致原先的權(quán)限策略問題更加凸顯等。介紹了2024AI安全產(chǎn)業(yè)圖譜的整體調(diào)研情況。

黃連金《生成式AI應(yīng)用的安全挑戰(zhàn)》直播演講

      本次“AI引領(lǐng)數(shù)字安全新浪潮專題會(huì)議”由浙江省科學(xué)技術(shù)協(xié)會(huì)指導(dǎo)，杭州市科學(xué)技術(shù)協(xié)會(huì)主辦，杭州市人工智能學(xué)會(huì)、中國計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)安全專業(yè)委員會(huì)、云安全聯(lián)盟大中華區(qū)、西電杭州研究院、安恒信息承辦。