每經(jīng)記者 可楊    每經(jīng)編輯 魏官紅    

2月23日，清華大學(xué)與瑞萊智慧聯(lián)合團隊（以下簡稱“清華瑞萊聯(lián)合團隊”）推出大語言模型RealSafe-R1。據(jù)悉，該模型基于DeepSeek R1進行深度優(yōu)化與后訓(xùn)練，在確保性能穩(wěn)定的基礎(chǔ)上，實現(xiàn)了安全性的顯著提升。

瑞萊智慧方面表示，連日來，國產(chǎn)開源大模型DeepSeek的優(yōu)異表現(xiàn)令人驚艷，其在自然語言處理和多任務(wù)推理方面的能力展現(xiàn)了強大的技術(shù)實力，尤其是在復(fù)雜問題解決和創(chuàng)造性任務(wù)中表現(xiàn)出色。然而，DeepSeek R1和V3在面對“越獄攻擊”等安全性挑戰(zhàn)時仍存在一定的局限性。例如，模型可能會被惡意設(shè)計的輸入誤導(dǎo)，生成不符合預(yù)期或不安全的響應(yīng)。這一安全短板并非DeepSeek所獨有的難題，而是當(dāng)前開源大模型的通病，其根本缺陷源于安全對齊機制的深度不足。

為此，清華瑞萊聯(lián)合團隊提出了基于模型自我提升的安全對齊方式，將安全對齊與內(nèi)省推理相結(jié)合，使大語言模型能夠通過具有安全意識的思維鏈分析來檢查潛在風(fēng)險，實現(xiàn)基礎(chǔ)模型自身能力的自主進化，可以應(yīng)用于多種開源、閉源模型。

基于該方法，清華瑞萊聯(lián)合團隊對DeepSeek-R1系列模型進行后訓(xùn)練，正式推出RealSafe-R1系列大模型。據(jù)悉，RealSafe-R1各尺寸模型及數(shù)據(jù)集，將于近期向全球開發(fā)者開源。瑞萊智慧首席執(zhí)行官田天表示，大模型的安全性瓶頸是本質(zhì)的，只有通過持續(xù)投入和攻堅補齊短板弱項，人工智能產(chǎn)業(yè)才能真正實現(xiàn)高質(zhì)量發(fā)展。