大模型安全與產業(yè)應用創(chuàng)新研討活動成功舉辦

近日，CCS2024成都網絡安全系列活動在成都舉行?！按竽Ｐ桶踩c產業(yè)應用創(chuàng)新研討活動”同期舉辦，本場活動由百度安全、成都無糖信息聯(lián)合承辦，特邀云安全聯(lián)盟CSA大中華區(qū)合作舉辦。本次活動聚焦大模型安全以及大模型產業(yè)創(chuàng)新應用兩大主題，旨在為大模型技術的健康發(fā)展和產業(yè)應用創(chuàng)新落地提供一套切實可行的思路與方案，攜手各界生態(tài)合作伙伴，探索人工智能與數(shù)字安全的融合之路，引領大模型時代下的安全行業(yè)創(chuàng)新變革。

CCS2024 大模型安全與產業(yè)應用創(chuàng)新研討活動

百度副總裁陳洋在開場致辭中表示，大模型技術在加速產業(yè)升級的同時，也帶來了全新的機遇與挑戰(zhàn)。面對這些挑戰(zhàn)與機遇，我們需要探索出一套行之有效的解決方案，讓蓬勃發(fā)展的大模型產業(yè)能夠健康穩(wěn)定地發(fā)展。百度將攜手生態(tài)合作伙伴，共同構建大模型安全防線，引領安全行業(yè)在大模型時代的創(chuàng)新變革。

云安全聯(lián)盟CSA大中華區(qū)主席李雨航在致辭中介紹了CSA在AI安全領域的最新進展。CSA致力于構建一個多方參與、共同治理的AI安全生態(tài)系統(tǒng)，推動云安全、AI安全和生成式人工智能應用安全、大語言模型安全以及大模型供應鏈安全的標準化工作，與海內外科技巨頭共同推動全球AI安全治理體系的建設。

多模態(tài)大模型是近年來大模型領域中備受矚目的焦點，會上，百度安全副總經理馮景輝聚焦《多模態(tài)大模型的安全挑戰(zhàn)與應對》發(fā)表主題演講。他指出，多模態(tài)風險不僅僅是視覺風險，更是跨模態(tài)風險，對多模態(tài)模型的風險評估要覆蓋認知安全、生成安全、模態(tài)安全和對抗性安全多個方面。與會，馮景輝正式發(fā)布百度多模態(tài)內容安全解決方案，方案基于模態(tài)對齊、視覺理解以及魯棒性提升等核心技術，用多模態(tài)對齊實現(xiàn)跨模態(tài)一體化安全，用圖像分割與信息抽取技術，補充安全性，旨在解決第三方大模型的生成式內容合規(guī)、內生安全提升、運營常態(tài)化風險收斂等關鍵問題，助力客戶和生態(tài)合作伙伴實現(xiàn)了大模型的安全升級。

在《大模型數(shù)據(jù)安全創(chuàng)新與實踐》的主題演講中，百度數(shù)管平臺負責人季石磊分享了百度在保護大模型核心資產、確保數(shù)據(jù)安全與隱私方面的最新技術與方法。他詳細說明了大模型全生命周期數(shù)據(jù)安全與模型保護機制，覆蓋了從語料數(shù)據(jù)管理、模型訓練到模型流轉、使用和私有化交付等各個環(huán)節(jié)；并表示基于BaiduAIRealm的數(shù)據(jù)保險箱產品解決方案，為大模型等高價值數(shù)據(jù)資產提供全方位防護。此外，季石磊特別列舉了智能數(shù)據(jù)分類分級、模型資產防護以及端云協(xié)同構建端到端安全可信鏈路等創(chuàng)新技術在大模型數(shù)據(jù)安全中的應用。

盈科全球數(shù)據(jù)合規(guī)服務中心主任郭衛(wèi)紅介紹了《大模型在數(shù)據(jù)合規(guī)的應用》。她從法律和實務的角度，深入分析了如何利用大模型技術來提升數(shù)據(jù)合規(guī)管理的效率與效果。郭衛(wèi)紅介紹了盈科在個人信息保護合規(guī)審計項目中應用大模型的實踐，通過智能合規(guī)問答、自檢、評估和審計等功能，大幅提升了數(shù)據(jù)合規(guī)管理的效率。她特別強調了大模型在解決法律信息不對稱問題上的重要作用，以及在合規(guī)檢查、評估和審計等環(huán)節(jié)的具體應用。郭衛(wèi)紅還分享了盈科AI律所智能空間站等創(chuàng)新應用，展示了大模型在法律服務領域的廣闊應用前景。

百度研發(fā)安全負責人陳長林帶來了《"文心快碼"智能代碼助手安全實踐》的分享。生成式人工智能正在為軟件研發(fā)領域帶來前所未有的機遇，生成式智能編碼提效工具在幫助工程師代碼提效的同時，其自身的安全性、可靠性需要予以特別關注，其中的典型風險包括大模型生成代碼的安全性、調用大模型服務時可能存在的代碼敏感信息泄露、網絡傳輸鏈路劫持、數(shù)據(jù)跨境傳輸?shù)鹊?。陳長林介紹了百度通過智能編碼提效工具"文心快碼"實現(xiàn)安全左移的最佳實踐，通過安全漏洞掃描、一鍵自動修復、安全增強模式，助力文心快碼在提高開發(fā)效率的同時，確保代碼安全。

新華三信息安全研發(fā)副總裁劉忠良分享了《AIGC趨勢下安全大模型在網絡安全運維與運營的落地實踐》，重點介紹了新華三的靈犀大模型在威脅輔助研判、攻防滲透測試、自動風險處置、智能運營分析和智能可視化等場景的應用。他詳細闡述了如何利用大模型提升安全事件研判效率、加速風險響應處置、實現(xiàn)智能安全策略生成等創(chuàng)新應用。新華三在安全運維、攻防實戰(zhàn)和安全運營等方面的場景化應用，展示了大模型在網絡安全領域帶來的效率提升。

百度安全車與終端安全架構師林道正帶來了《見微知著：TARA視角下大模型在汽車合規(guī)的潛力探索》的主題演講。他從威脅分析與風險評估(TARA)的視角，深入探討了如何利用大模型技術來提升智能網聯(lián)汽車的安全合規(guī)水平。林道正以TARA場景為例子，結合快思考系統(tǒng)和慢思考系統(tǒng)的系統(tǒng)設計，探討了如何構建企業(yè)級安全知識管理體系。他詳細闡述了如何組織運營過程中的安全數(shù)據(jù)，并利用大模型技術解決TARA過程中的復雜性、合規(guī)標準、演變威脅和人才缺口等挑戰(zhàn)。林道正還介紹了百度在智能網聯(lián)汽車安全合規(guī)領域的創(chuàng)新實踐，展示了大模型在汽車安全領域的應用前景。

會上，云安全聯(lián)盟CSA大中華區(qū)與百度安全重磅發(fā)布了《AI安全產業(yè)圖譜(2024)》，全面呈現(xiàn)了AI安全領域的最新發(fā)展態(tài)勢和未來趨勢。云安全聯(lián)盟CSA大中華區(qū)主席李雨航與百度安全副總裁陳洋共同啟動了圖譜的發(fā)布儀式。

云安全聯(lián)盟CSA大中華區(qū)《AI安全產業(yè)圖譜(2024)》

通過本次活動，百度安全攜手產業(yè)生態(tài)共同探討了大模型安全與產業(yè)應用創(chuàng)新的前沿話題，旨在為大模型技術的健康發(fā)展和產業(yè)應用創(chuàng)新落地提供了切實可行的思路與方案，為推動大模型技術在安全領域的創(chuàng)新應用，構建更安全、更可信的數(shù)字世界奠定了堅實基礎。（李妍）