奇安信發布Q-GPT安全機器人和大模型衛士 齊向東：大模型廣泛應用必然帶來不可忽視的安全隱患

8月25日，奇安信集團宣布推出Q-GPT（奇安信大模型）安全機器人和大模型衛士。 奇安信方面介紹，Q-GPT安全機器人是基于奇安信大模型的虛擬安全專家，可以全天候工作。一臺機器人等于60多位安全專家，可產生約2000萬元的運營效益。大模型衛士則集安全風險發現、大模型訪問控制、數據泄露管控、違法違規行為溯源、大模型應用分析等于一體。 圖片來源：企業供圖 關于推出上述產品的原因，奇安信董事長齊向東表示，大模型的廣泛應用在提高生產力的同時，也必然帶來不可忽視的安全隱患。 安全機器人未來是否會替代網絡安全專家？奇安信（SH688561，股價48.11元，市值330億元）副總裁、人工智能研究院院長張勇在接受包括《每日經濟新聞》記者在內的媒體采訪時表示，安全機器人不會代替安全專家，相反，將解放這批專家，更多地投入到其他更深、更高級的工作中。 大模型時代，解決數據泄露問題迫在眉睫 大模型熱潮持續，Microsoft365Copilot、WPSAI和釘釘等辦公產品與大模型加速結合，同時，用友網絡（600588.SH，股價16.89元，市值579.85億元）和金蝶云等企業服務公司也先后推出針對企業服務的企業級大模型。 大模型在企業端的應用正在不斷加速，與此同時，背后的安全問題也引發行業關注。 “ChatGPT等大模型，會泄露企業的商業秘密，已經引起廣泛關注。據統計，在使用ChatGPT的員工中大多數會泄露數據，其中11%的數據為企業敏感數據。解決大模型數據泄露難題，迫在眉捷。”奇安信集團副總裁張卓表示。 張卓認為，這些數據泄露，長此以往，可能會導致企業的競爭力逐步喪失。舉例而言，一家擁有核心知識產權與專利的某龍頭企業A，當員工大量使用大模型來處理日常工作時，可能會導致公司的一些敏感技術信息在此過程中不斷提交給大模型；而大模型經過不停地迭代、演化、訓練，掌握了這些行業的一些先進經驗和知識，而后幫助中下游某些研發能力欠缺的企業，通過靈活使用大模型，快速掌握先進生產力，逐步提升公司能力，進而導致龍頭企業A的核心競爭力喪失。 對于大模型在企業中的應用，張卓建議，企業應當關注大模型使用帶來的安全風險；管控使用GPT類產品的人員、應用、數據；監控并記錄GPT類應用訪問行為，保護關鍵業務數據不泄露；對于使用GPT類工具的內部人員，做好相應權限限制；限制在GPT類工具上使用復制粘貼等行為。 齊向東也表示，大模型的廣泛應用在提高生產力的同時，也必然帶來不可忽視的安全隱患。這可能造成企業對大模型陷入想用而不敢用的兩難境地。這也是奇安信發布大模型衛士的原因，即希望通過大模型衛士幫助企業規范員工，正確使用大模型產品協助工作。 齊向東圖片來源：企業供圖 網絡安全專家稀缺，大模型補位 齊向東介紹，在網絡安全方面，政企機構長期面臨三大困擾：告警疲勞、專家稀缺以及效率瓶頸。 首先，攻擊者手法層出不窮，攻擊頻次日益密集，企業每天都會產生海量告警，有限的安全專家無暇應對，通常只有1%的告警被研判，99%的告警被無奈放棄，形成告警疲勞。 其次，安全本就是一個對知識、技術和實戰經驗要求很高的行業，高水平人才難以快速培養，企業面臨著專家少的難題。據教育部統計，到2027年，我國網絡安全人員缺口將達到327萬。 第三，人本身受制于精力、情緒、狀態等多方面因素，不可能全天候工作，形成效率瓶頸，也就是“加人不劃算、不加人干不完”。 奇安信方面稱，Q-GPT安全機器人的推出，是為了解決網絡安全行業面臨的專家稀少、告警疲勞以及效率低的痛點。 未來，安全機器人是否會替代網絡安全專家？張勇表示，安全機器人會代替一部分安全專家的工作，但是不會替代安全專家。“大模型是個新技術，新技術肯定會造成一些原有崗位被代替，與此同時，它一定會創造更多、更新、更高價值的崗位。”他進一步表示，安全機器人可以代替一部分安全專家的常規告警分析、研判等工作，但同時，也是解放這批專家，讓他們能夠更多地投入到其他更深入、更高級的工作中，研判更高級的知識。另外，大模型也需要安全專家將自己的知識歸納、總結、提升，把它變成數據，進而對大模型進行訓練。 值得一提的是，當前，大模型熱潮逐步轉向專業大模型的競爭，頭部企業對行業大模型的布局也在加速。 8月初，三六零集團也發布安全行業大模型“360安全大模型”，以提升網絡安全服務效果。彼時，三六零集團創始人周鴻祎稱，該大模型“目前安全攻防判斷準確率已超96%”。