11月3日，由全國數(shù)據(jù)標(biāo)準(zhǔn)化技術(shù)委員會（以下簡稱“全國數(shù)標(biāo)委”）主辦，全國數(shù)標(biāo)委秘書處（中國電子技術(shù)標(biāo)準(zhǔn)化研究院）和江蘇省數(shù)據(jù)局承辦的全國數(shù)標(biāo)委2025年第二次“標(biāo)準(zhǔn)周”活動在江蘇省南京市舉行。

活動期間，浙江大學(xué)計算機(jī)學(xué)院院長、全國數(shù)標(biāo)委委員任奎就“人工智能數(shù)據(jù)安全”議題進(jìn)行了闡釋。他表示，數(shù)據(jù)要素的泄露、篡改、污染、濫用等問題易引發(fā)嚴(yán)重安全風(fēng)險，各國正通過頂層設(shè)計和立法監(jiān)督加強(qiáng)人工智能數(shù)據(jù)安全治理，確保AI技術(shù)發(fā)展安全可控。

任奎在WG2數(shù)據(jù)治理標(biāo)準(zhǔn)工作組會議上發(fā)言。人民網(wǎng)記者 馬曉波攝

“人工智能生命周期涵蓋多個階段，構(gòu)建階段是奠定模型安全基石的核心環(huán)節(jié)，需針對該階段風(fēng)險特征開展源頭性、深層次安全治理?！比慰Q，安全評測在模型構(gòu)建完成、部署應(yīng)用前對其進(jìn)行全面“體檢”，可系統(tǒng)性發(fā)現(xiàn)偏見、歧視等潛在缺陷；安全訓(xùn)練則是構(gòu)建階段的“安全加固器”，通過在訓(xùn)練數(shù)據(jù)中注入安全知識與對齊指令，從源頭提升模型安全“免疫力”，使其天生具備抵御惡意誘導(dǎo)和攻擊的能力。

此外，安全語料構(gòu)建是源頭治理的重要支撐。任奎提出，可創(chuàng)新構(gòu)建具備多元維度融合、安全價值對齊、越獄攻防強(qiáng)化三大特征的安全訓(xùn)練語料，為AI模型注入內(nèi)生安全基因。

任奎稱，浙江大學(xué)已與華為聯(lián)合發(fā)布DeepSeek-R1-Safe基礎(chǔ)大模型?！霸撃Ｐ驮谟卸居泻ρ哉?、政治敏感內(nèi)容、違法行為教唆等14個維度的有害問題防御上，整體表現(xiàn)亮眼?！?/p>

分享讓更多人看到