2025年4月19日下午，中國計算機用戶協(xié)會信息安全分會在北京成功舉辦了“人工智能大模型在特定場景中的風險分析及安全應對研討會”。
研討會聚焦于最新熱點的人工智能技術，尤其是以DeepSeek為代表的通用人工智能在特定場景中的應用風險與安全問題。會議邀請了相關領域專家及央國企、涉密單位相關部門負責人，他們分別來自上海、成都、重慶、深圳、綿陽、廣州等多地企業(yè)，共計 50 余人共同探討人工智能在特定場景下的應用風險與安全應對策略。
中國計算機用戶協(xié)會信息安全分會副理事長兼秘書長 鄭濤
研討會由中國計算機用戶協(xié)會信息安全分會副理事長兼秘書長鄭濤主持。中國計算機用戶協(xié)會（總會）監(jiān)事、名譽副理事長、信息安全分會名譽理事長施峰到會致辭，他強調，要凝聚行業(yè)智慧，系統(tǒng)性分析大模型技術應用潛在風險，構建科學安全應對體系，為行業(yè)規(guī)范化發(fā)展提供支撐，期待參會代表貢獻建設性方案。
中國計算機用戶協(xié)會名譽副理事長、總會監(jiān)事 施峰
會上多位安全領域的專家發(fā)表了精彩演講，分會理事長李技全面梳理人工智能技術演進脈絡，預測未來應用趨勢，提出技術創(chuàng)新與安全防護需雙向驅動。
信息安全分會理事長 李技 AI 戰(zhàn)略布局：錨定核心賽道 驅動創(chuàng)新發(fā)展
北京北信源軟件股份有限公司董事、副總裁高曦介紹，公司圍繞國家重大安全戰(zhàn)略規(guī)劃進行創(chuàng)新和布局，加大了人工智能領域投入力度，打造了“密信AI基座”，開發(fā)了多種AI能力，包括多模型混合駕駛艙、AI即時問答、教AI、語音助手等。目前“密信AI基座”已經集成市面主流的多種大語言模型，如DeepSeek、Kimi、千問、文心一言等，并正在融合多功能智能體和多種開源大模型，具備AI辦文、辦事、辦會的綜合能力。通過“密信AI基座”不僅可以為第三方應用提供大模型的統(tǒng)一標準化接口，減少應用的適配開發(fā)工作量，而且還能通過AI基座監(jiān)控、過濾、審計不合理的AI訪問行為?？蓾M足黨政機關、軍工單位、金融機構等高安全需求場景下的端到端安全通信與數(shù)據(jù)防護需求，在黨政軍企等領域取得顯著市場認可。
北信源董事、副總裁 高曦
另一方面，北信源積極探索AI技術并進軍國際市場，2024年推出了AI即時母語傳譯功能。通過替代人工翻譯和傳統(tǒng)同傳服務，有效打破語言壁壘，顯著減少跨國會議、商務談判中的語言服務成本，極大提升了全球溝通效率。在第21屆中國—東盟博覽會上發(fā)布的愛傳APP更是能幫助企業(yè)突破小語種人才短缺瓶頸，快速觸達新興市場。目前已成為文旅部“你好！中國”入境旅游活動語言翻譯服務唯一指定應用。
通過持續(xù)創(chuàng)新，北信源為政府、軍隊、軍工、金融、能源、交通等重要單位提供行業(yè)領先的網絡與信息安全解決方案，彰顯出其在網絡安全領域的強大競爭力和良好發(fā)展前景。 接下來，與會專家也分享了各自領域的一些情況。 中航工業(yè)集團成飛公司總監(jiān)、信息安全分會副理事長董武高結合實際業(yè)務，分析實踐應用中的風險類型，總結出五個方向的應對思路。 成飛公司保密總監(jiān)、信息安全分會副理事長 董武高
中國長城互聯(lián)網信息中心總工程師賈利濱，就“新興領域中人工智能（DeepSeek）技術應用的挑戰(zhàn)和實踐”進行經驗介紹，分享中國長城互聯(lián)網在新質戰(zhàn)斗力建設中的應用場景與解決方案。
中國長城互聯(lián)網信息中心總工 賈利濱 場景實踐：AI安全應用的典型案例與行業(yè)啟示 在案例分享環(huán)節(jié)，北信源央企行業(yè)總監(jiān)郭軍廷針對AI在內網安全工作中的應用場景及安全實踐，介紹了兩個典型場景，信源密信AI能力平臺和商業(yè)秘密及工作秘密防護方案。信源密信是北信源歷時十年耗資十多億打造的高安全即時通信平臺，服務于國家重點工程和重點單位，其在國產化環(huán)境適配、服務器私有部署、技術自主可控以及多產品形態(tài)構建等方面成果顯著，能夠充分滿足不同客戶的多樣化需求。 信源密信系列產品憑借其在安全性、技術創(chuàng)新、市場認可度以及政策支持等方面的優(yōu)勢，為用戶提供高效服務，帶動公司實現(xiàn)快速增長；商業(yè)秘密及工作秘密一體化解決方案為用戶解決了商密和工作秘密不同防護要求的難題，一體化防護方案既解決了大型央國企敏感數(shù)據(jù)防護的難題，又滿足了相關指引指南政策的要求，同時兼顧了高效便捷且不影響用戶辦公習慣的需求，而且方案引入AI在輔助定密、判密、分析決策等方面的能力，幫用戶實現(xiàn)效率提升、價值創(chuàng)造和風險對沖。 北信源央企行業(yè)總監(jiān) 郭軍廷 郭軍廷的分享，引發(fā)了與會領導嘉賓對行業(yè)未來發(fā)展的深度思考與廣泛共鳴，為推動我國信息安全產業(yè)高質量發(fā)展提供了極具價值的實踐范本與創(chuàng)新思路。 協(xié)同創(chuàng)新：共建 AI 應用與安全平臺實驗室
隨后，戰(zhàn)略合作正式啟動，信息安全分會副理事長蔣成彬宣布“信息安全分會與北信源共同建設人工智能（DeepSeek）應用與安全平臺實驗室”。他介紹，實驗室將充分整合信息安全分會與北信源的資源優(yōu)勢，凝聚雙方在信息安全領域和人工智能領域的專業(yè)力量，形成協(xié)同創(chuàng)新的工作機制，共同開展相關研究與實踐。實驗室圍繞著核心目標開展AI應用安全風險研究，為制定針對性的解決方案提供理論支持。實現(xiàn)對AI應用的安全監(jiān)測、評估與防護，提升AI系統(tǒng)的安全性能。向往更多單位積極加入實驗室團隊，共同分享研究成果和經驗，推動AI在安全領域的做深做實。
信息安全分會副理事長 蔣成彬 在研討交流環(huán)節(jié)，參會代表圍繞會議主題與實際需求展開深入討論，從風險分析、技術應用、安全應對、保密合規(guī)等多元視角分享觀點和實踐路徑。信息安全分會李技理事長在總結中提到，期待各方以此次研討為契機，將討論成果轉化為實際行動，共同構筑大模型安全發(fā)展的堅實屏障，推動人工智能技術在安全、可控的軌道上賦能社會。 下一步，信息安全分會將持續(xù)搭建技術交流平臺，聚焦信息安全領域前沿問題，通過政策研究、技術研討、標準建設等多元形式，助力行業(yè)構建安全可控的人工智能應用生態(tài)
