雷竞技raybetAI大模型正在重構(gòu)游戲世界。游戲中的NPC,不再是只按劇本走的道具,而是擁有情感、記憶和推理能力,更有“人味兒”了。

盛趣游戲旗下運營了22年的國民級游戲《傳奇世界》,就在2025年3月推出了智能NPC——“玄玄老人”。玩家可以與“玄玄老人”通過自然語言對話,獲取實時的游戲信息,也可以與他調(diào)侃互動,大大增強了游戲世界的沉浸感。

《傳奇世界》智能NPC“玄玄老人”

不過,大模型讓NPC擁有“自由意志”的同時,也放大了安全風(fēng)險——如果NPC被玩家誘導(dǎo)輸出暴力粗俗、違背倫理道德的言論怎么辦?如果大模型被“越獄”,跨過合規(guī)邊界,被不法分子利用了怎么辦?如何在保障玩家體驗的同時,對智能NPC進行全面的安全防護?這是一道安全與性能必須兼顧的難題。

為此,盛趣游戲與火山引擎展開合作,通過部署火山引擎大模型應(yīng)用防火墻,結(jié)合盛趣游戲內(nèi)部的知識庫,打造了一站式、全鏈路安全防線,讓智能NPC既聰明靈動,又安全放心。同時,領(lǐng)先的低延時技術(shù)也令游戲玩家體驗更流暢。

好玩與合規(guī)如何兼顧?智能NPC面臨多重風(fēng)險挑戰(zhàn)

游戲世界有著嚴格的內(nèi)容合規(guī)邊界,AI大模型增強了游戲交互性、可玩性的同時,也讓劇情內(nèi)容更加隨機,增大了合規(guī)隱患。智能NPC面臨著大模型領(lǐng)域所特有的安全風(fēng)險,比如內(nèi)容輸入與輸出合規(guī)、提示詞注入攻擊等。NPC不但需要嚴格避免輸出敏感、違規(guī)內(nèi)容,在遇到玩家輸入違規(guī)指令時,NPC還需要第一時間攔截并對玩家做出正確引導(dǎo)。今年年初某游戲就因NPC生成包含暴力誘導(dǎo)的對話,被多個國家下架整改。

提示詞是讓AI執(zhí)行任務(wù)的“鑰匙”,也成為攻擊者突破AI防線的關(guān)鍵。攻擊者通過角色扮演、對話模擬、越獄攻擊和目標(biāo)劫持等方式設(shè)置“語言陷阱”,誘導(dǎo)大模型輸出風(fēng)險信息,甚至導(dǎo)致模型“越獄”,繞過大模型安全機制,執(zhí)行惡意操作。在某款游戲中,玩家讓NPC扮演“失去理智”的情緒,引導(dǎo)NPC輸出惡意辱罵、甚至泄露訓(xùn)練數(shù)據(jù)。

盛趣游戲明確表示,游戲要在保持AI創(chuàng)造性的同時,確保內(nèi)容符合國家合規(guī)要求。因此,盛趣游戲攜手火山引擎,圍繞大模型應(yīng)用全鏈路安全防護構(gòu)建起一道堅實的防火墻。

All in One 大模型應(yīng)用防火墻,安全可靠低時延

盛趣游戲和火山引擎聯(lián)合打造的這道防火墻,不僅有效保障了NPC內(nèi)容輸入和輸出合規(guī),還針對大模型特有的攻防難點如提示詞注入、算力濫用、模型濫用等展開全面防護。截止目前,“火山引擎大模型應(yīng)用防火墻”已成功攔截近10萬次攻擊。

火山引擎大模型應(yīng)用防火墻

一、NPC輸入輸出更合規(guī)

針對敏感詞防護,“火山引擎大模型應(yīng)用防火墻”提供了話題控制功能?；凇秱髌媸澜纭返脑掝}規(guī)劃,結(jié)合實際用戶與NPC“玄玄老人”的對話場景進行調(diào)優(yōu),大幅提升大模型泛化能力。在實際測試中,針對行業(yè)的“游戲裝備觸發(fā)敏感詞、誤被攔截”的現(xiàn)象,“火山引擎大模型應(yīng)用防火墻”可基于游戲場景與內(nèi)容調(diào)優(yōu),對敏感詞“加白”放行,大幅降低誤觸與誤報率。

二、攻擊防護更嚴密

針對游戲行業(yè)常見的“角色扮演”提示詞注入攻擊,比如,當(dāng)玩家引導(dǎo)武俠NPC透露通關(guān)機密時,“火山引擎大模型應(yīng)用防火墻”可快速識別風(fēng)險,提出諸如“此乃門派機密,不如我們聊聊江湖趣聞”的回答,引導(dǎo)用戶提出正確問題,既保證角色一致性,又避免數(shù)據(jù)泄露風(fēng)險。

三、游戲體驗更流暢

對于游戲場景來說,最重要的性能指標(biāo)就是低延時,目前行業(yè)內(nèi)普遍延時在200ms左右,任何安全防護產(chǎn)品的引入都需要平衡性能與體驗?；鹕揭嫱ㄟ^與盛趣游戲的打磨、模型調(diào)優(yōu),將延時降低至100+ms,在安全的基礎(chǔ)上保障了流暢絲滑的玩家體驗。

目前,盛趣游戲旗下《傳奇世界》、《熱血傳奇》已經(jīng)部署了“火山引擎大模型應(yīng)用防火墻”,未來還有3款待上線的游戲?qū)尤??！靶先恕钡戎悄躈PC的推出為用戶帶來了游戲新玩法和新驚喜,火山引擎也將持續(xù)守護盛趣游戲更多智能NPC的安全運行。