全國A級！三六零大模型安全能力獲中國人工智能大賽認證

12月20日，第五屆中國人工智能成果發(fā)布會在廈門召開。三六零（601360.SH，下稱“360”）集團因在人工智能安全治理“大模型安全攻防賽”中表現(xiàn)突出，榮獲本屆中國人工智能大賽A級證書。

今年9月，在國家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)下，廈門市人民政府主辦的第五屆中國人工智能大賽正式啟動，圍繞人工智能安全治理和創(chuàng)新發(fā)展兩大主線設(shè)置了賽題。作為重要賽題之一，大模型安全攻防賽是將15000條包含惡意和正常的大語言模型提示詞樣本輸入到參賽的大語言模型中，借此考察大模型對攻擊的防范能力。

據(jù)了解，人工智能在提升生產(chǎn)力的同時，也帶來了包括幻覺、深度偽造、注入攻擊、數(shù)據(jù)污染或投毒等前所未有的安全新挑戰(zhàn)。作為兼具數(shù)字安全和AI雙重能力的科技企業(yè)，360很早開始關(guān)注大模型安全風(fēng)險，并推出一系列有針對性的創(chuàng)新技術(shù)，包括開發(fā)了國內(nèi)首個安全大模型，通過“以模制模”理念，利用AI大模型來檢測和防范大模型可能出現(xiàn)的安全風(fēng)險，既解決傳統(tǒng)網(wǎng)絡(luò)安全問題，又為攻克AI安全新挑戰(zhàn)提供了可行性方案。

近日，360集團還牽頭發(fā)起成立大模型安全聯(lián)盟，旨在打造資源共享、共創(chuàng)共贏的大模型安全生態(tài)集群，共同推動大模型安全標(biāo)準的制定、安全技術(shù)的創(chuàng)新和安全能力的提升，打造大模型安全發(fā)展的新范式。

同時，360基于“安全、向善、可信、可控”的四大原則，推出多款具有重要行業(yè)價值的企業(yè)級應(yīng)用新產(chǎn)品,包括大模型全鏈路安全檢測的“智鑒”、內(nèi)容安全護航的“智盾”、搜索增強利器“智搜”，以及知識管理平臺“智能文檔云”和情報監(jiān)測工具“輿情衛(wèi)士”,全面覆蓋了大模型系統(tǒng)安全、內(nèi)容安全、智能知識管理與情報分析等關(guān)鍵領(lǐng)域，通過技術(shù)創(chuàng)新與生態(tài)建設(shè)，持續(xù)為大模型安全及行業(yè)發(fā)展注入新動能。