招聯·數智進化論|實戰派如何擁抱大模型?

新周刊 2024-05-16 10:10:28

(圖/招聯智鹿)

從概念沖擊到落地實踐,過去一年,國內諸多大模型加速快跑,成果矚目。而這個注定屬于大模型的時代,不過剛剛拉開序幕。

一面是短短一年,已經以驚人速率從ChatGPT大語言模型進化到Sora文生視頻模型,AI還在不斷刷新給人類帶來的顛覆性想象空間;另一面是越來越多使用者和開發者已經逐步“退燒”,回歸商業理性,開始思考和探索真正能夠落地的應用場景與實際價值。

金融行業亦是如此,在金融業已經高度數字化的今天,行業從業者們正在邊走邊思考,大模型究竟能爲傳統業務帶來哪些增量價值?面對金融業的高度嚴謹合規性和大模型的開放不確定性這對天然矛盾,又該如何找到雙方能夠和諧共舞的適配點並加以高效應用?

在筆者和招聯員工的交流中,這些數字金融的幕後創造者,大模型時代的弄潮兒,給出了他們自己思考和實踐的答案。

2023年11月,招聯聯合中山大學發布消費金融行業首個130億參數開源大模型“招聯智鹿”,位列當時國內權威大模型榜單C-Eval第二十名和CMMLU第十名。作爲消費金融行業的垂類大模型,招聯的這匹“智鹿”能與百度、阿裏、OpenAI、清華大學等企業和高校自研大模型同期入榜並不容易。

魏小輝(化名)作爲“招聯智鹿”大模型的算法負責人,回憶起那集中攻堅大模型的三個月,說:“現在回想起來就是一段平凡的工作時光,無暇考慮太多,只想把握那個時間窗口把大模型順利落地。”

據魏小輝介紹,他和很多熱衷于大模型的技術宅一樣,雖然之前的技術方向不是深度學習,但ChatGPT的問世還是激發了他強烈的興趣和好奇心。“坦率來說,作爲金融行業一個垂直領域的專業公司,公司科技能力積累著重在解決業務相關問題,而非互聯網大廠那樣通用的、廣泛的技術儲備。大模型出現時,我直覺這是我們有機會實現彎道趕超的重要機會,一直有意識地在追蹤、積累相關技術文獻。所以,當公司真正決定要做我們自己的大語言模型時,我已經有了200多篇paper深度學習的知識儲備,面對新挑戰,沒有不安,只有躍躍欲試。”

作爲監管和行業公認的率先探索純線上消費金融模式的、標志著行業數字化轉型起點的消金公司,招聯已經積累了較爲紮實的科技核心能力,和較爲豐富的應用場景和數據,爲其大模型的快速落地奠定了基礎。

落地的難點主要在于技術方案的選擇和試錯。魏小輝表示,顛覆性的新技術意味著其需要使用的算力規格不是上一個時代所能比較的,換言之,大模型勢必是昂貴的,同時也是沒有標准解決方案的。但作爲深耕消費金融賽道的實戰派,如何兼顧大語言模型的技術有效性和商業可持續性,關鍵要在技術方案上做出最理性的選擇。經過多輪的團隊討論和訓練試錯,他們最終找到了最適合消金行業領域的技術方案,後續將以小步快跑的方式,基于實際應用的拓展不斷推動模型的叠代。

談及“招聯智鹿”的名稱由來,魏小輝告訴筆者,它來自于一場內部論壇的集體腦暴,這個名字獲得了一致好評並被采納。“長頸鹿是招聯的吉祥物,它生活在獅子、獵豹占據食物鏈頂端的非洲大草原,卻因爲站得高、看得遠、跑得快,頑強生存下來。在考驗經營風險能力的消費金融行業,希望招聯能在這匹AI智鹿的加持下,從數字化向全面數智化繼續進化,更敏捷、更矯健,真正實現‘以科技踐行普惠,讓信用不負期待’。”

(圖/圖蟲創意)

從目前行業內的主流觀點來看,大模型更多被視作新一代基礎設施,其本身並不直接産生價值。真正産生價值的,是基于大模型底座開發出來的各類AI應用。從這一層面來說,找到適合大模型能力植入,且符合商業可持續原則的業務場景,就尤爲重要,這也是當前不少大模型落地難、應用少的症結所在。

Tracy是招聯貸後智能業務的團隊經理。她告訴筆者,面試那天恰逢招聯開業,一晃9年,管理學出身,從四大會計師事務所加入招聯的她,崗位從風控轉向貸後智能服務,一路成長爲不斷擁抱變化、探索AI在消金領域前沿應用的實踐者,這是她加入招聯前從沒想過的。

在她看來,大模型雖然很難在短期內對已高度數字化的消費金融業務帶來顛覆性改變,但可以大大加速行業數智化的演變進程,並拓寬其觸達的邊界。

Tracy在2017年就參與了AI對話機器人的開發,這也是招聯布局的第一個自研AI應用項目。“有些人並不看好這個項目,畢竟當時的AI落地還處于探索階段,但最終我們做成了!經過近一年的籌備,2018年中這一項目正式上線生産,經過半年調試,年底我們的AI對話機器人就實現了95%的早期客戶還款提醒的客服人工替代,節省了上千萬人力成本,真正實現降本增效。”

隨著AI對話機器人的不斷叠代升級和深度應用,招聯貸後服務的數智化程度和服務質量不斷提升。比如當前招聯已開發出了針對不同場景的多角色、多音色機器人,如“關懷姐姐”、“纾困天使”等,可以進一步針對客戶提供適當的情緒價值,比如鼓勵暫時遇到困難的客戶莫失信心。Tracy告訴筆者,對貸後服務而言,客服人員的管理是難點,在與客戶的實際溝通中,很難完全避免客服在特殊情況下因一時失誤或情緒失控,進而引發客戶的誤解和不滿。相較之下,AI機器人客服可以很好地規避人的非理性,持續給客戶穩定、准確、高質量的服務體驗。

大模型的出現對現有的AI機器人意味著什麽?Tracy表示,隨著AI對話機器人的廣泛應用,行業現有的機器人在技術上已基本對齊並且接近能力上限,産品的差異化主要存在于業務經驗、數據的積累和産品解決方案的設計層面。大模型的出現將對突破上下文多輪交互和長難句語義理解、處理更爲複雜的業務等技術瓶頸提供可能,“換言之,未來我們的機器人會更聰明,天花板被打破了,可以探索更多可能”。

而這種“聰明”,不只是簡單的升級,更是升維。據介紹,傳統的AI機器人,還是按照設定好的程序執行指令,本質還是以人的智慧驅動機器。但對大模型機器人而言,它具備了自驅的可能性,可以通過自發學習不斷叠代。

此外,大模型作爲人工的輔助工具,對效能的提升也十分顯著。據了解,經模擬測試,相比人工作業,使用“招聯智鹿”進行文本標注與生成的效能可提升百倍。比如客服場景下,結合具體會話狀態與服務場景,使用大模型實時精准地定制回複話術,可幫助客服節約時間成本近80%。

(圖/圖蟲創意)

不可否認,當前大模型的業務應用只是序章,值得探索與想象的空間依然十分巨大。回到金融行業的命題,在其高度強調嚴謹、合規的行業特性下,未來的應用場景和探索步伐也需要從業者們有更爲全面的考量。

“新技術往往是雙刃劍,或者說,現有的大模型技術尚且存在難以完全規避的風險。”魏小輝指出,公認的最大挑戰就是大模型的幻覺問題,也就是當你詢問大模型一個問題的時候,它會一本正經地告訴你很多答案,但答案中可能隱藏著bug或者事實錯誤,甚至可能違背了道德倫理,這就是大模型的幻覺,而且它不可控。

魏小輝進一步指出,目前的解決手段主要有兩種。一是通過在技術上增加額外的模型,比如利用敏感內容篩查模塊來過濾敏感內容的展示,或者把自己積累的事實知識庫補充注入大模型,以盡量規避大模型的幻覺。二是通過人工篩查,在業務應用層面,大模型的輸出不直接對客,而是輔助和賦能人工,從而保證對客可控。招聯的安全措施二者皆有。

“我們一直非常審慎地考慮目前大模型的應用拓展場景,確保大模型應用不直接對客。從某種層面來說,並非步子邁得越快越大就越好,需要在技術創新和風險防範中找到平衡。”Tracy指出。

但這並不意味著大模型的應用空間受限,我們必須看到和肯定大模型的潛力。Tracy舉例表示,以對話機器人爲例,傳統的作業流程是先由機器人傾聽客戶說話,將語音翻譯爲文本,再將翻譯好的文本交由機器人理解,通過對話管理後生成一段回應話術,最後用TTS將生成的話術說出來。“現在我們可以在文本理解的部分加入大模型,其他環節依然采用傳統模式,就能在保證可控的前提下有效提升機器人的理解能力。”此外,大模型還起到了很好的“輔助駕駛”作用,可以在坐席輔助、話術生成和會話小結等工作流程接入輔助人工,極大地提升了作業效率。

“如果把大模型比作人,不斷叠代成長本就是它的特性之一,從小學生到中學生、大學生,這個過程需要不斷引入更先進的方法和技術,進而提升模型的各種能力。但換一個角度來看,大模型的投入和叠代可以無止境,沒有最貴,只有更貴。對于業務垂直的消金行業來說,無窮無盡地卷大模型並不明智,高昂的研發成本如果沒有創造出足夠的價值,勢必會成爲企業和用戶的負擔,違背普惠的初心。”魏小輝指出,所以“智鹿”自誕生就明確了未來的建設思路,一定要基于服務公司業務進一步做專做精的目標,量力而行,逐步覆蓋更多業務場景。

對現在和未來的更多探索規劃,魏小輝指出,借助大模型加強風險的前瞻預測和精准識別,以及進一步加強AI輔助人工提質增效,是開發者們在大模型1.0階段面對的重要課題。再下一個階段,則是AI智能體的探索應用,此時的大模型可以進一步采取動作幫助你直接解決問題。“比如有客戶通過電話表達了還款意願,智能體不僅可以快速理解客戶的指令,還能進一步采取動作,通過全流程自動化的操作,幫助客戶完成還款操作,後續還能及時反饋交易的結果,這是原有技術無法實現的,若落地將進一步大幅提升服務的效能。”Tracy補充道。

她告訴筆者,作爲技術的業務應用方,此時出現顛覆性的技術拐點是令人興奮的,身處時代的洪流,需要順勢而爲。“人終究要找到自己的位置,如果一直做簡單重複的工作,現在的舒適區可能很快會被機器替代,就像工業革命被時代浪潮淘汰的舊生産力。但我並不認爲這是人工智能技術對人類的擠壓和替代,換個視角,這是一個充滿可能性的新時代,人的潛能將進一步被AI激發出來。行業與個體一樣,敢爲天下先,勇于積極擁抱變化的,總能在應對挑戰中煥發新生。”

作者

肖一、之初

排版

張心睿

運營

李靖越

監制

羅 嶼

編輯

宋 爽

0 阅读:4