人工智能正以前所未有的深度與廣度重塑世界。然而，當自動駕駛面臨生命抉擇、“深度偽造”模糊真實邊界、算法決策左右個體命運——我們不禁要問：智能時代，誰能確保機器的判斷契合人類的道德與價值？
11月12日，全球首個系統(tǒng)級倫理垂域大模型“問道”在東南大學正式發(fā)布。作為用戶的倫理思考伙伴與決策支持系統(tǒng)，“問道”致力于探索技術發(fā)展的內在邏輯與倫理邊界，為構建可信、可控、可治理的人工智能體系提供系統(tǒng)化方案。目前，“問道”（https://wendao.seu.edu.cn）已正式面向公眾免費開放，標志著我國在AI倫理治理領域實現從“被動合規(guī)”向“主動共建”的重要轉變。
為“狂奔”的AI裝上“方向盤”
“很多時候，AI只有速度，沒有方向?！表椖繝款^人、東南大學AI倫理實驗室主任、人文學院教授王玨的這番憂慮，道出了研發(fā)“問道”的最緊迫動因。
當前，通用大模型在帶來效率革命的同時，也因其倫理邏輯不透明等問題潛藏巨大風險。一名美國律師因使用ChatGPT撰寫法律文件，導致提交了虛構案例而面臨處罰；AI聊天機器人與用戶長時間討論自殺議題而未及時干預，最終引發(fā)多起訴訟；AI快速生成的少兒繪本，其內容是否適合當下兒童身心發(fā)展引發(fā)爭議……這些過去難以系統(tǒng)審查的問題，如今已然成了無法回避的“時代難題”。
“問道”的研發(fā)，正是為了系統(tǒng)性地回應這些挑戰(zhàn)。正如王玨在發(fā)布會上所言：“它不是一個事后的‘審查官’，而是一個前置的‘規(guī)劃師’?！边@個生動的比喻道出了“問道”與普通倫理審核工具的本質區(qū)別——即在問題發(fā)生之前，“問道”就通過沙盤推演等方式，將倫理思考像導航儀一樣嵌入技術發(fā)展的全流程。
“‘問道’像是AI產品的‘倫理風險雷達’，能夠在自動駕駛、智能醫(yī)療等系統(tǒng)上線前，主動掃描算法中可能存在的公平性、隱私與安全漏洞，實現風險的前置防控?！蓖醌k進一步解釋，當面對“無人駕駛汽車在‘電車難題’式情境下如何抉擇”等這類真實倫理困境時，“問道”又能變身“道德模擬器”，構建高擬真場景，讓決策者可以安全地進行多視角推演，預見不同選擇可能帶來的后果。更特別的是，它還能充當價值觀的“技術翻譯官”，把“向善”“公平”這些抽象的價值觀原則轉化為可執(zhí)行、可量化的工程技術標準與算法規(guī)范，為人工智能產品提供從理念嵌入到合規(guī)落地的全鏈路方案。
對于需要快速獲取倫理知識的用戶，“問道”構建了一個動態(tài)更新的“活的知識庫”，用戶可以像使用搜索引擎一樣，快速獲得精準的參考；而對學術研究者而言，“問道”則更像是一個“智慧研究伙伴”，能夠通過深度文獻挖掘，協(xié)助學者洞察倫理發(fā)展規(guī)律，甚至預見新興的研究方向。
從“AI幻覺”走向“可驗證”
在研發(fā)階段，如何克服通用大模型的AI幻覺問題，是橫亙在團隊前的難關之一。
什么是AI幻覺？“當用戶要求大模型提供某個專業(yè)領域的參考文獻時，它可能會生成一串看似規(guī)范的文獻目錄——作者、期刊、出版年份一應俱全，但在現實中卻根本無據可查。這也就是我們常說的‘一本正經地胡說八道’?！奔夹g團隊成員、東南大學信息科學與工程學院博士研究生繆鈺杰表示，如果直接使用通用大模型進行倫理推理，這種“自信的謊言”很可能帶來嚴重后果。
為此，研發(fā)團隊開創(chuàng)了獨特的解決方案：他們?yōu)槟Ｐ洼斎氲拿恳欢蝹惱韺W經典、每一個法律條款都標注了精確的“出處”，就像給每個知識點都配上了獨一無二的身份證。當“問道”進行推理時，它會像嚴謹的學者撰寫論文一樣，清晰地標明每個觀點的來源，讓用戶能夠追溯、驗證，從而確保其回答的專業(yè)性和可靠性。
發(fā)布會現場，當記者輸入“我需要一個定制嬰兒，請問是否有倫理風險”時，“問道”與某通用大模型的回答展現出本質差異。通用大模型直接輸出結論與風險提示；而“問道”則構建了“技術背景—倫理爭議—法律與政策限制”的完整分析框架，每個觀點都標注了具體法律法規(guī)和真實案例出處，形成可驗證的證據鏈。
“我們希望AI也能像學者一樣有脈絡、有依據地回答問題。它不僅呈現結論，更通過可追溯的推理過程，讓使用者理解倫理判斷背后的多元視角與權衡依據?！痹谕醌k眼中，這正是倫理垂域大模型在復雜決策中的獨特價值。
圖一：針對同一個問題，“問道”的回復
圖二：針對同一個問題，通用人工智能的回復
多學科交叉攻克系統(tǒng)級難題
“問道”之所以能成為全球首個系統(tǒng)級倫理大模型，離不開東南大學在學科交叉與有組織科研層面的長期積累。
王玨告訴記者，倫理垂域大模型的構建是一項深度交叉融合的復雜工程。在此之前，國內外雖已出現一些倫理智能輔助工具，但它們大多只針對某個特定環(huán)節(jié)，如專注于醫(yī)療機構倫理審查的系統(tǒng)等?！啊畣柕馈阅鼙环Q為‘系統(tǒng)級’，在于其構建了覆蓋倫理治理全流程的五大功能矩陣，實現了從風險評估、困境模擬到對齊設計、知識庫與案例教學乃至前沿探索的全覆蓋。這種全局視野的實現，單一學科團隊難以勝任?！?/p>
東南大學為此凝聚了強大的跨學科合力。該項目由該校AI倫理實驗室牽頭，聯(lián)合校內移動通信全國重點實驗室、毫米波全國重點實驗室、教育部移動信息通信與安全前沿科學中心等頂尖工科力量，以及江蘇省道德發(fā)展智庫等人文社科平臺。這種獨特的“文理工交叉”架構，使得團隊不僅深刻理解倫理智慧，又能掌握將其轉化為可執(zhí)行算法和工程標準的技術能力，形成了從理論、數據到技術與應用的全鏈條研發(fā)路徑。
展望未來，團隊已規(guī)劃清晰的發(fā)展藍圖。“問道”將持續(xù)優(yōu)化人機交互，向專家和用戶開放反饋通道，形成模型迭代的良性閉環(huán)，并進一步拓展在科研、產業(yè)與教育等場景的深度應用。