原題：東南大學(xué)發(fā)布全球首個系統(tǒng)級倫理垂域大模型

“問道”：給AI套上倫理“韁繩”

11月12日，全球首個系統(tǒng)級倫理垂域大模型“問道”在東南大學(xué)正式發(fā)布，其致力于探索技術(shù)發(fā)展的內(nèi)在邏輯與倫理邊界，為構(gòu)建可信、可控、可治理的人工智能體系提供系統(tǒng)化方案。“問道”面向公眾免費(fèi)開放，標(biāo)志著我國在AI倫理治理領(lǐng)域?qū)崿F(xiàn)從“被動合規(guī)”向“主動共建”的重要轉(zhuǎn)變。

為“狂奔”的AI裝上“方向盤”

“很多時候，AI只有速度，沒有方向?！表?xiàng)目牽頭人、東南大學(xué)AI倫理實(shí)驗(yàn)室主任、人文學(xué)院教授王玨的這番話，道出研發(fā)“問道”的最緊迫動因。

人工智能正以前所未有的深度與廣度重塑世界。然而，當(dāng)自動駕駛面臨生命抉擇、“深度偽造”模糊真實(shí)邊界、算法決策左右個體命運(yùn)——這些過去難以系統(tǒng)審查的問題，如今已然成了無法回避的“時代難題”?！皢柕馈钡难邪l(fā)，正是為了系統(tǒng)性回應(yīng)這些挑戰(zhàn)。正如王玨所言：“它不是一個事后的‘審查官’，而是一個前置的‘規(guī)劃師’?！边@個生動的比喻道出“問道”與普通倫理審核工具的本質(zhì)區(qū)別——在問題發(fā)生之前，“問道”就通過沙盤推演等方式，將倫理思考像導(dǎo)航儀一樣嵌入技術(shù)發(fā)展全流程。

“‘問道’像是AI產(chǎn)品的‘倫理風(fēng)險(xiǎn)雷達(dá)’，能夠在自動駕駛、智能醫(yī)療等系統(tǒng)上線前，主動掃描算法中可能存在的公平性、隱私與安全漏洞，實(shí)現(xiàn)風(fēng)險(xiǎn)的前置防控。”王玨解釋，當(dāng)面對“無人駕駛汽車在‘電車難題’式情境下如何抉擇”等這類真實(shí)倫理困境時，“問道”又能變身“道德模擬器”，構(gòu)建高擬真場景，讓決策者可以安全地進(jìn)行多視角推演，預(yù)見不同選擇帶來的后果。更特別的是，它還能充當(dāng)價(jià)值觀的“技術(shù)翻譯官”，把“向善”“公平”這些抽象的價(jià)值觀原則轉(zhuǎn)化為可執(zhí)行、可量化的工程技術(shù)標(biāo)準(zhǔn)與算法規(guī)范，為人工智能產(chǎn)品提供從理念嵌入到合規(guī)落地的全鏈路方案。

對于需要快速獲取倫理知識的用戶，“問道”構(gòu)建一個動態(tài)更新知識庫，用戶可以像使用搜索引擎一樣，快速獲得精準(zhǔn)的參考；而對學(xué)術(shù)研究者而言，“問道”則更像是一個“智慧研究伙伴”，能夠通過深度文獻(xiàn)挖掘，協(xié)助學(xué)者洞察倫理發(fā)展規(guī)律，甚至預(yù)見新興的研究方向。

從“AI幻覺”走向“可驗(yàn)證”

在研發(fā)階段，如何克服通用大模型的“AI幻覺”問題，是橫亙在團(tuán)隊(duì)面前的難關(guān)之一。

什么是AI幻覺？“當(dāng)用戶要求大模型提供某個專業(yè)領(lǐng)域的參考文獻(xiàn)時，它可能會生成一串看似規(guī)范的文獻(xiàn)目錄——作者、期刊、出版年份一應(yīng)俱全，但在現(xiàn)實(shí)中根本無據(jù)可查?！奔夹g(shù)團(tuán)隊(duì)成員、東南大學(xué)信息科學(xué)與工程學(xué)院博士研究生繆鈺杰表示，如果直接使用通用大模型進(jìn)行倫理推理，這種“自信的謊言”很可能帶來嚴(yán)重后果。

為此，研發(fā)團(tuán)隊(duì)開創(chuàng)了獨(dú)特的解決方案：他們?yōu)槟Ｐ洼斎氲拿慷蝹惱韺W(xué)經(jīng)典、每個法律條款都標(biāo)注精確“出處”，就像給每個知識點(diǎn)都配上獨(dú)一無二的身份證。當(dāng)“問道”進(jìn)行推理時，它會像嚴(yán)謹(jǐn)?shù)膶W(xué)者撰寫論文一樣，清晰地標(biāo)明每個觀點(diǎn)的來源，讓用戶能夠追溯、驗(yàn)證，從而確保其回答的專業(yè)性和可靠性。

發(fā)布會現(xiàn)場，當(dāng)記者輸入“我需要一個定制嬰兒，請問是否有倫理風(fēng)險(xiǎn)”時，“問道”與某通用大模型的回答展現(xiàn)出本質(zhì)差異。通用大模型直接輸出結(jié)論與風(fēng)險(xiǎn)提示；而“問道”則構(gòu)建了“技術(shù)背景—倫理爭議—法律與政策限制”的完整分析框架，每個觀點(diǎn)都標(biāo)注具體法律法規(guī)和真實(shí)案例出處，形成可驗(yàn)證的證據(jù)鏈。

“我們希望AI也能像學(xué)者一樣有脈絡(luò)、有依據(jù)地回答問題。它不僅呈現(xiàn)結(jié)論，更通過可追溯的推理過程，讓使用者理解倫理判斷背后的多元視角與權(quán)衡依據(jù)?！痹谕醌k眼中，這正是倫理垂域大模型在復(fù)雜決策中的獨(dú)特價(jià)值。

多學(xué)科交叉攻克系統(tǒng)級難題

“問道”之所以能成為全球首個系統(tǒng)級倫理大模型，離不開東南大學(xué)在學(xué)科交叉與有組織科研層面的長期積累。

王玨告訴記者，倫理垂域大模型的構(gòu)建是一項(xiàng)深度交叉融合的復(fù)雜工程。在此之前，國內(nèi)外雖已出現(xiàn)一些倫理智能輔助工具，但大多只針對某個特定環(huán)節(jié)，如專注于醫(yī)療機(jī)構(gòu)倫理審查的系統(tǒng)等?！啊畣柕馈阅鼙环Q為‘系統(tǒng)級’，在于其構(gòu)建了覆蓋倫理治理全流程的五大功能矩陣，實(shí)現(xiàn)從風(fēng)險(xiǎn)評估、困境模擬到對齊設(shè)計(jì)、知識庫與案例教學(xué)乃至前沿探索的全覆蓋。這種全局視野的實(shí)現(xiàn)，單一學(xué)科團(tuán)隊(duì)難以勝任?！?/p>

東南大學(xué)為此凝聚了強(qiáng)大的跨學(xué)科合力。該項(xiàng)目由該校AI倫理實(shí)驗(yàn)室牽頭，聯(lián)合校內(nèi)移動通信全國重點(diǎn)實(shí)驗(yàn)室、毫米波全國重點(diǎn)實(shí)驗(yàn)室、教育部移動信息通信與安全前沿科學(xué)中心等頂尖工科力量，以及江蘇省道德發(fā)展智庫等人文社科平臺。這種獨(dú)特的“文理工交叉”架構(gòu)，使得團(tuán)隊(duì)不僅深刻理解倫理智慧，又能掌握將其轉(zhuǎn)化為可執(zhí)行算法和工程標(biāo)準(zhǔn)的技術(shù)能力，形成從理論、數(shù)據(jù)到技術(shù)與應(yīng)用的全鏈條研發(fā)路徑。

下一步，“問道”將持續(xù)優(yōu)化人機(jī)交互，向?qū)＜液陀脩糸_放反饋通道，形成模型迭代的良性閉環(huán)，并進(jìn)一步拓展在科研、產(chǎn)業(yè)與教育等場景的深度應(yīng)用。（謝詩涵）

來源：新華日報(bào)

分享讓更多人看到