工業(yè)領(lǐng)域如何解決“大模型幻覺(jué)”？鼎捷軟件執(zhí)行副總裁劉波：檢索增強(qiáng)生成+微調(diào)

每經(jīng)記者｜朱成祥    每經(jīng)編輯｜陳俊杰    

8月12日下午，鼎捷軟件舉辦媒體開(kāi)放日活動(dòng)。當(dāng)下，業(yè)界普遍關(guān)注的是AI大模型的成本，以及如何解決“大模型幻覺(jué)”問(wèn)題。

鼎捷軟件執(zhí)行副總裁劉波稱，鼎捷混合使用RAG（檢索增強(qiáng)生成）和Fine-Tuning（微調(diào)）技術(shù)，即通過(guò)高質(zhì)量的數(shù)據(jù)集（數(shù)據(jù)+行業(yè)經(jīng)驗(yàn)+技術(shù)），再使用貼合制造業(yè)的RAG技術(shù)，以有效助力工業(yè)企業(yè)解決“大模型幻覺(jué)”問(wèn)題。

對(duì)于是否使用微調(diào)，使得大模型更加偏向于垂直專業(yè)領(lǐng)域，再使用RAG技術(shù)，限定大模型回答的范圍。

劉波表示認(rèn)可，并表示：“檢索增強(qiáng)生成的關(guān)鍵，在于領(lǐng)域知識(shí)的掌握。通用大模型很難掌握這種深度的行業(yè)知識(shí)，這些知識(shí)怎么解釋、怎么理解、怎么設(shè)定，其實(shí)需要很多技術(shù)+行業(yè)的經(jīng)驗(yàn)。簡(jiǎn)單說(shuō)，我們天生懂客戶這些‘行業(yè)黑話’，這是40余年的深耕經(jīng)營(yíng)積累下來(lái)的沉淀，它會(huì)大量降低訓(xùn)練成本和縮短訓(xùn)練時(shí)間。”

其補(bǔ)充表示：“鼎捷早在2015年便提出了‘智能+’戰(zhàn)略，借助算法驅(qū)動(dòng)幫助客戶實(shí)現(xiàn)降本增效。然而鼎捷認(rèn)為這種優(yōu)勢(shì)并不能持久，因此我們不斷探索讓人工智能進(jìn)入到‘輔助駕駛’階段，不再是嵌入式應(yīng)用，而是主動(dòng)思考輔助決策，以重構(gòu)客戶作業(yè)流程。”

鼎捷軟件執(zhí)行副總裁、財(cái)務(wù)長(zhǎng)張?jiān)芬荼硎荆?ldquo;企業(yè)主在意的是效率跟成本匹不匹配，而鼎捷過(guò)往在給客戶展開(kāi)數(shù)智化服務(wù)的時(shí)候，非常注重價(jià)值交付，理解業(yè)務(wù)，同時(shí)能夠把握關(guān)鍵點(diǎn)。因此我們?cè)诮o（大模型）喂數(shù)據(jù)的時(shí)候，數(shù)據(jù)是已經(jīng)整理過(guò)的，更有指向性，而非簡(jiǎn)單用數(shù)學(xué)方式暴力運(yùn)算，猶如大海撈針。同時(shí)，我們的顧問(wèn)都是老師傅、行業(yè)專家，所以我們?cè)谟?xùn)練中更容易明白‘行業(yè)黑話’，也更知道行業(yè)數(shù)據(jù)對(duì)應(yīng)的特征值，保障結(jié)果的可用。”

劉波總結(jié)稱：“在幫助企業(yè)客戶進(jìn)行數(shù)智化轉(zhuǎn)型的過(guò)程中，鼎捷憑借多年的經(jīng)驗(yàn)積累，可以快速判斷如何進(jìn)行有效的數(shù)據(jù)轉(zhuǎn)化和知識(shí)封裝，從而快速提升AI應(yīng)用的成熟度。”