在第38次全國計算機安全學(xué)術(shù)交流會(huì )上，三六零(下稱(chēng)“360”)公司創(chuàng )始人周鴻祎透露了360大模型安全解決方案細節。他介紹指出，大模型發(fā)展已經(jīng)進(jìn)入第二階段，重點(diǎn)是放低身段，賦能產(chǎn)業(yè)數字化發(fā)展，最大的障礙是如何打造真正安全可用的大模型。

　　周鴻祎指出，大模型是一把“雙刃劍”，將帶來(lái)前所未有的安全挑戰，他將安全風(fēng)險劃分為短期、中期、長(cháng)期三個(gè)階段。其中，短期風(fēng)險是當前最迫切要解決的問(wèn)題，主要圍繞大模型自身引發(fā)的安全問(wèn)題，如網(wǎng)絡(luò )安全、數據安全、生成內容安全。中期風(fēng)險主要指人為的對大模型惡意應用，如日益猖獗的AI換臉、AI換聲詐騙。長(cháng)期風(fēng)險則是當更強大的人工智能誕生，對人類(lèi)生存帶來(lái)的安全挑戰。

　　周鴻祎表示，基礎大模型的安全問(wèn)題，都會(huì )“遺傳”給垂直大模型。為此，360躬身入局，在國家級安全能力基礎上，打造原生安全大模型“360智腦”。周鴻祎介紹，在“安全、向善、可信、可控”這一安全四原則的基礎上，360已經(jīng)構建體系化的大模型安全解決方案，保證大模型在企業(yè)級場(chǎng)景落地。他透露，為了讓大模型不作惡，360“向善”解決方案的核心是研發(fā)安全垂直“小模型”訓練和監控大模型，保證大模型輸出結果安全。

　　在解決大模型“可控”問(wèn)題上，360將推出Agent框架，把人的能力賦予大模型，一方面讓大模型變得更強大，另一方面也能起到對大模型的約束。面對國內大模型安全需求的井噴，周鴻祎表示，360的原生大模型安全解決方案能夠平移、復制給有需求的行業(yè)合作伙伴和客戶(hù)，以外掛式“360大模型安全管家”的形式對外賦能，提供網(wǎng)絡(luò )與數據安全、內容護欄、搜索知識增強、可視化數據監測等能力。

微軟 Edge 118 瀏覽器...

最后一頁(yè)