斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿

閱讀次數：1468 編輯(ji)：系(xi)統管理員(yuan) 發布時間(jian)：2025-12-05 15:01

[字體：大中小]

想象(xiang)這(zhe)樣(yang)一個畫面，在一個普通(tong)(tong)的(de)工作(zuo)日，你(ni)坐進(jin)了心(xin)愛的(de)座(zuo)駕(jia)，隨口問到(dao)：“今日有(you)什么新聞？”車載AI立馬(ma)啟動，下一秒，它開始娓(wei)娓(wei)道來——上到(dao)事關國計民生的(de)政策(ce)，下到(dao)市井俚俗的(de)民生八(ba)卦，流暢(chang)、自(zi)然、像朋友聊(liao)天一樣(yang)貼心(xin)。但如果這(zhe)番溝通(tong)(tong)中暗(an)含著什么不該說的(de)內(nei)容？比如敏(min)感話題、虛假信息、甚至來自(zi)釣(diao)魚網站的(de)惡意廣告......

這不是科(ke)幻(huan)片的橋(qiao)段，在智能座艙加速邁向“AI原(yuan)生”的今天，每一輛(liang)搭載AI模型(xing)的智能座駕都必須面(mian)對(dui)的現實考題。

作(zuo)為智能(neng)(neng)座艙(cang)領(ling)域的(de)(de)先(xian)行(xing)者，斑馬智行(xing)聯(lian)合(he)阿(a)(a)里(li)云共同(tong)打造面向智能(neng)(neng)座艙(cang)場(chang)景的(de)(de)AI安(an)全審(shen)核(he)方(fang)案(an)，通(tong)過阿(a)(a)里(li)云AI安(an)全護欄的(de)(de)能(neng)(neng)力加(jia)持(chi)和云基(ji)礎設施強調的(de)(de)彈性(xing)吞吐力，該方(fang)案(an)已經成(cheng)功(gong)應用(yong)于多個頭部品牌車型(xing)(xing)中，日(ri)均支撐千萬級大模型(xing)(xing)安(an)全審(shen)核(he)調用(yong)，為行(xing)業(ye)樹(shu)立了大模型(xing)(xing)內容安(an)全與用(yong)戶體驗兼顧的(de)(de)新標桿。

斑馬智(zhi)行安全負責人評價(jia)到(dao)：“我們與阿里云共同打造(zao)的(de)這套安全護(hu)欄(lan)方案(an)，不僅滿足了(le)國(guo)家級合規(gui)要求(qiu)，更(geng)在真(zhen)實量產場景(jing)中(zhong)驗證了(le)其高(gao)(gao)性(xing)能、高(gao)(gao)可(ke)靠、可(ke)擴展的(de)工程價(jia)值(zhi)。這不僅是(shi)(shi)技術方案(an)的(de)勝(sheng)利，更(geng)是(shi)(shi)AI安全治(zhi)理(li)體(ti)系在汽車行業的(de)成(cheng)功落地。”

當(dang)大模型成為汽車標配

千人千面背后(hou)的(de)安全隱患

回到文章最初的(de)場景(jing)，隨著大模型和AI Agent的(de)迅速發展，智能座艙(cang)里的(de)安全助(zhu)手，早已(yi)不再是(shi)只會導航、會放歌的(de)“工具人”，在Multi-Agent技(ji)術的(de)加持下，它不僅能聯網(wang)搜索，能多輪對話，還能一(yi)鍵幫你定(ding)制行程、分析新聞......但(dan)每(mei)一(yi)次看似普(pu)通的(de)交互背后，都隱藏(zang)著不容忽視的(de)安全風險：

用戶(hu)隨口(kou)一(yi)句“講個刺激(ji)的歷史故事”，會(hui)不會(hui)觸發不當內容(rong)？
AI從網上抓取的信(xin)息(xi)，是(shi)否(fou)混(hun)進(jin)了賭博(bo)、色(se)情或(huo)釣魚鏈接？
聯(lian)網搜(sou)索(suo)功能加持下，用(yong)戶輸入是否(fou)會觸發對惡意網站的直接調用(yong)？

國(guo)家《信(xin)息安全(quan)(quan)技(ji)術生成(cheng)式人工智能服(fu)務安全(quan)(quan)基本要求》（TC260-003）中明確要求，需對風險進(jin)行識別(bie)與攔截(jie)。熟(shu)悉安全(quan)(quan)的朋(peng)友(you)可能會疑惑(huo)，內(nei)容(rong)安全(quan)(quan)審核技(ji)術已經發展了數十年，難道沒(mei)有直接可用(yong)的成(cheng)熟(shu)解決方(fang)案嗎(ma)？實(shi)際上：

一(yi)方(fang)面，為了保證用戶與(yu)模(mo)(mo)型交互過程的(de)流(liu)暢性，一(yi)句話往往被拆成十幾段流(liu)式(shi)輸(shu)出，傳統基于(yu)關鍵詞和規則的(de)專家模(mo)(mo)型，面對(dui)這類(lei)語義復雜、上下文強依賴(lai)的(de)模(mo)(mo)型輸(shu)出時，最終結果往往是(shi)“看得(de)見字，但不懂意”；
另(ling)一方面(mian)，如(ru)果全部依賴(lai)大模(mo)型審核，雖(sui)然理(li)解能力強，但因推理(li)耗時長且(qie)成本高，難以滿(man)足車載場景(jing)對(dui)實時性的嚴苛要求；

“既要(yao)快，又要(yao)準”——這正是斑馬智行與阿(a)里(li)云聯合攻堅的核(he)心命題。

阿里(li)云AI安(an)全(quan)護欄：

三大(da)技術突破(po)，重新定義車載AI安全標準

阿里(li)云AI安(an)全護(hu)(hu)欄（AI Guardrails）是云安(an)全團(tuan)隊(dui)為人工智(zhi)能系(xi)統設計的安(an)全防(fang)(fang)護(hu)(hu)產品，防(fang)(fang)護(hu)(hu)對象覆蓋(gai)預訓練大模型、AI服(fu)務和(he)AI Agent等不(bu)同業務形態。在智(zhi)能座艙場景(jing)，AI安(an)全護(hu)(hu)欄為斑馬智(zhi)行(xing)提供了精準的風險檢測與主動防(fang)(fang)御能力，同時(shi)滿足車載場景(jing)對效率和(he)效果的要求(qiu)。

1.雙(shuang)引擎協(xie)同(tong)架構：毫秒級審核響應

不同于(yu)單(dan)一的審核策略(lve)，阿里云AI安全護欄采用“規(gui)則引(yin)擎+小模型(xing)+大模型(xing)”協同審核策略(lve)：

所有輸入/輸出(chu)文本實時切片(pian)后(hou)，由輕量級專家模型并行執行毫秒級初篩，快速攔截明顯風險；

同時，重新編排大模型深度審核鏈路，利用(yong)多線程智能(neng)化調(diao)度；

最終(zhong)融合雙引擎結果(guo)，在(zai)不犧牲召回率的(de)(de)前提下，有(you)效(xiao)降低了端(duan)到端(duan)審核延的(de)(de)響應時間，完美適配車載用戶(hu)實(shi)時交互(hu)的(de)(de)流暢體驗(yan)，用戶(hu)感覺(jue)不到“檢查(cha)”的(de)(de)存(cun)在(zai)，安全(quan)卻(que)始終(zhong)在(zai)線。

2.流式(shi)上下文關聯(lian)審核(he)：短文本不再“裸奔”

為(wei)了保(bao)障與客戶溝通(tong)的實時性，大模(mo)型(xing)(xing)(xing)內容生成大多采(cai)用“邊生成，邊輸入”的流式模(mo)式，一段回答可(ke)能(neng)(neng)會分為(wei)10次推送，單次切片(pian)可(ke)能(neng)(neng)僅10-20字(zi)，傳統審核模(mo)型(xing)(xing)(xing)因缺(que)乏上下文，面對這種“碎片(pian)化表達”，極易漏判。阿里云AI安(an)全護欄采(cai)用“大模(mo)型(xing)(xing)(xing)流式審核方案(an)”：

通過唯一(yi)(yi)標識(shi)關聯(lian)一(yi)(yi)次完(wan)整對話；
安全護欄自(zi)動聚合同一會話(hua)中的所有切片(pian)，進行跨片(pian)段(duan)語(yu)義理解(jie)；
即使敏(min)感內(nei)容(rong)分散在多輪輸(shu)出(chu)中，也能精準識別并攔截；

實測顯示(shi)，該方案將(jiang)短(duan)文本(ben)場景下的(de)風險內容召(zhao)回率(lv)提升至98%以上，遠超傳(chuan)統方案。

3.聯網檢索風險實時(shi)攔(lan)截(jie)：堵(du)住Agent的“后門(men)”

在支持聯網搜索的Agent場景中，用戶提(ti)問可能觸發對第三方(fang)網頁(ye)的抓取，例如：

用戶問一句：“幫我(wo)找附近評分最高(gao)的(de)酒吧”，AI所搜(sou)索到(dao)的(de)目標站點可(ke)能是(shi)某個偽裝成酒吧推薦網頁的(de)釣魚、賭博或色(se)情(qing)網站，將直接污染大模(mo)型的(de)輸(shu)入。阿(a)里云AI安全所具有的(de)“URL風險(xian)檢測”模(mo)塊，則能快速(su)應對：

對(dui)所有聯(lian)網請求中的(de)第三方鏈(lian)接進行實時(shi)掃描；
精準識別色情(qing)信息、非法賭博(bo)、釣魚(yu)網站、虛假營銷等(deng)風險(xian)類型：
一(yi)旦命(ming)中高風險標簽，立即終止任(ren)務，防止有害(hai)信(xin)息流入大模型。

目前該能力(li)已(yi)覆蓋智能搜索、資訊推薦等(deng)多個(ge)高頻場景。

云基(ji)礎(chu)設施彈(dan)性保障：安全(quan)能力(li)“隨需調用(yong)”

對(dui)于各大車企，定期的(de)促銷(xiao)、活動、新(xin)車上市(shi)......往往都伴隨著流量激增。尤其(qi)在智能(neng)駕駛、智能(neng)座艙等新(xin)興(xing)領域，首(shou)發熱(re)度動輒帶來數(shu)倍于日(ri)常的(de)調(diao)用量，這對(dui)任何產品都是一次“壓力測試”，如(ru)果安全審核扛(kang)不住，輕則延遲卡頓、重則全面宕機。

阿(a)里云(yun)AI安(an)全(quan)護(hu)欄依托于阿(a)里云(yun)強(qiang)大(da)的基(ji)礎設施，為客戶提(ti)供(gong)可彈性拓展的安(an)全(quan)防護(hu)力，支(zhi)持客戶按需購買QPS彈性擴展包，最短7天(tian)起訂，已驗證可支(zhi)持單(dan)項目峰值(zhi)600 QPS的穩定運行。

無論是(shi)(shi)平(ping)日通勤，還是(shi)(shi)發布(bu)會后的“搶車潮(chao)”，安全能力始終(zhong)絲滑在線。(斑(ban)馬智(zhi)行)

掃一掃在手(shou)機打開當前頁

上一條：哈工庫訊榮登畢馬威長三角高端裝備榜單，以...

下一條：普泛能源榮登國家專精特新“小巨人”企業名...