中新網(wǎng)北京2月24日電 (記者 張素)2月23日，清華大學(xué)與瑞萊智慧聯(lián)合團(tuán)隊(duì)推出大語言模型RealSafe-R1。研發(fā)團(tuán)隊(duì)代表介紹說，實(shí)驗(yàn)數(shù)據(jù)表明RealSafe-R1安全性提升顯著，“安全增強(qiáng)版DeepSeek”可為更多應(yīng)用提供可靠堅(jiān)實(shí)基座。
連日來，國產(chǎn)開源大模型DeepSeek的優(yōu)異表現(xiàn)備受關(guān)注，其在自然語言處理和多任務(wù)推理方面的能力展現(xiàn)了強(qiáng)大的技術(shù)實(shí)力，尤其是在復(fù)雜問題解決和創(chuàng)造性任務(wù)中表現(xiàn)出色。業(yè)內(nèi)專家同時(shí)提醒，DeepSeek R1和V3在面對一些安全性挑戰(zhàn)時(shí)仍存在一定的局限性。
針對“安全對齊機(jī)制不足”這一當(dāng)前開源大模型的通病，清華瑞萊聯(lián)合團(tuán)隊(duì)提出基于模型自我提升的安全對齊方式?！按竽Ｐ偷陌踩云款i是本質(zhì)的，只有通過持續(xù)投入和攻堅(jiān)補(bǔ)齊短板弱項(xiàng)，人工智能產(chǎn)業(yè)才能真正實(shí)現(xiàn)高質(zhì)量發(fā)展?！比鹑R智慧首席執(zhí)行官田天說。
據(jù)介紹，研發(fā)團(tuán)隊(duì)將安全對齊與內(nèi)省推理相結(jié)合，使大語言模型能夠通過具有安全意識的思維鏈分析來檢查潛在風(fēng)險(xiǎn)，實(shí)現(xiàn)基礎(chǔ)模型自身能力的自主進(jìn)化。具體來說，研發(fā)團(tuán)隊(duì)對DeepSeek-R1系列模型進(jìn)行后訓(xùn)練，正式推出RealSafe-R1系列大模型。
實(shí)驗(yàn)數(shù)據(jù)表明，RealSafe-R1安全性提升顯著，在多個(gè)基準(zhǔn)測試中有效增強(qiáng)了對各種越獄攻擊的抵抗力，并減輕了安全與性能之間“蹺蹺板”現(xiàn)象。有評論認(rèn)為，這為開源大模型安全發(fā)展與風(fēng)險(xiǎn)治理提供了創(chuàng)新性解決方案。
田天表示，RealSafe-R1各尺寸模型及數(shù)據(jù)集，將于近期向全球開發(fā)者開源。他進(jìn)一步指出，這一創(chuàng)新成果將為開源大模型的安全性加固提供有力支持，也為政務(wù)、金融、醫(yī)療等場景的應(yīng)用提供更為可靠的堅(jiān)實(shí)基座。(完)