隨著人工智能技術(shù)的迅猛發(fā)展，大模型在各個領(lǐng)域的應(yīng)用日益廣泛。為全力筑牢人工智能安全防線，進(jìn)一步提高大模型技術(shù)的安全風(fēng)險防范能力，今年2月，中國信息通信研究院（以下簡稱中國信通院）聯(lián)合360集團，發(fā)起大模型安全基準(zhǔn)測試SafetyAI Bench制定工作。
大模型安全基準(zhǔn)測試秉持“公平公正、產(chǎn)業(yè)應(yīng)用、選型參考”原則，采用科學(xué)嚴(yán)謹(jǐn)?shù)臏y試方法，評估大模型在內(nèi)容安全、數(shù)據(jù)安全和科技倫理等方面的表現(xiàn)。該體系將覆蓋合法合規(guī)、隱私保護、文明健康、人工智能自主意識等27個維度的中文評測數(shù)據(jù)集，為行業(yè)提供全面、細(xì)致的安全性能測試指標(biāo)。
作為信息通信行業(yè)的重要研究機構(gòu)，中國信通院在人工智能和大數(shù)據(jù)領(lǐng)域具有深厚的研究底蘊和豐富的行業(yè)經(jīng)驗，是可以打通新技術(shù)研究、標(biāo)準(zhǔn)研制、試驗驗證、檢測認(rèn)證到產(chǎn)業(yè)推進(jìn)“全鏈條、全環(huán)節(jié)”的產(chǎn)業(yè)創(chuàng)新平臺。中國信通院專業(yè)的研究團隊、廣泛的行業(yè)合作網(wǎng)絡(luò)及深厚的行業(yè)影響力，為大模型安全基準(zhǔn)測試的順利推進(jìn)提供了有力保障。
作為國內(nèi)較早布局人工智能大模型的企業(yè)，360集團自行研發(fā)的認(rèn)知型通用大模型――“360智腦”，在中文通用大模型基準(zhǔn)評測等多個第三方評測中，均位于國產(chǎn)大模型能力第一梯隊。憑借在數(shù)字安全和人工智能領(lǐng)域的深厚積累，360集團將為本次標(biāo)準(zhǔn)測試工作提供技術(shù)支持、實踐經(jīng)驗和創(chuàng)新思路，共同推動大模型安全基準(zhǔn)測試體系的建立和完善。
