llama.cpp：一個適用于中小型研發(fā)企業(yè)的高性能CPU/GPU大語言模型推理框架

llama.cpp是一個高性能的CPU/GPU大語言模型推理框架，適用于消費級設(shè)備或邊緣設(shè)備。開發(fā)者可以通過工具將各類開源大語言模型轉(zhuǎn)換并量化成gguf格式的文件，然后通過llama.cpp實現(xiàn)本地推理。經(jīng)過我的調(diào)研，相比較其它大模型落地方案，中小型研發(fā)企業(yè)使用llama.cpp可能是唯一的產(chǎn)品落地方案。關(guān)鍵詞：“中小型研發(fā)企業(yè)”，“產(chǎn)品落地方案”。

中小型研發(fā)企業(yè)：相較動輒千萬+的硬件投入，中小型研發(fā)企業(yè)只能支撐少量硬件投入，并且也缺少專業(yè)的研發(fā)人員。

產(chǎn)品落地方案：項目需要具備在垂直領(lǐng)域落地的能力，大多數(shù)情況下還需要私有化部署。

網(wǎng)上有不少介紹的文章，B站上甚至有一些收費課程。但是版本落后較多，基本已經(jīng)沒有參考價值。本文采用b3669版本，發(fā)布日期是2024年9月，參考代碼：examples/main.cpp。由于作者(Georgi Gerganov)沒有提供詳細的接口文檔，examples的代碼質(zhì)量也確實不高，因此學(xué)習(xí)曲線比較陡峭。本文旨在介紹如何使用llama.cpp進行推理和介紹重點函數(shù)，幫助開發(fā)人員入門，深入功能還有待研究。

一、推理流程

1. 過程描述

以常見的交互推理為例，程序大概可以分成5個子功能模塊。

2. 概念介紹

角色（roles）：大語言模型通常會內(nèi)置三種角色：系統(tǒng)（system），用戶（user），助手（assistant）。這三種角色并非所有模型統(tǒng)一指定，但是基本目前所有開源的大模型都兼容這三種角色的交互，它有助于大模型更好的理解人類語境并完成任務(wù)。system表示系統(tǒng)提示詞，就是我們常說的prompt。網(wǎng)上有不少課程將寫系統(tǒng)提示詞描述為提示詞工程，還煞有介事的進行分類，其實大可不必。從我的使用經(jīng)驗看，一個好的系統(tǒng)提示詞（prompt）應(yīng)具備三個要點即可：語義明確，格式清晰，任務(wù)簡單。語義明確即在系統(tǒng)提示詞中盡量不要使用模棱兩可的詞語，用人話說就是“把問題說清楚”。格式清晰即可以使用markdown或者json指定一些重要概念。如果你需要讓大模型按照某個固定流程進行分析，可以使用markdown的編號語法，如果你需要將大模型對推理結(jié)果進行結(jié)構(gòu)化處理，可以使用json語法。任務(wù)簡單即不要讓大模型處理邏輯太復(fù)雜或者流程太多的任務(wù)。大模型的推理能力完全基于語義理解，它并不具備嚴格意義上的程序執(zhí)行邏輯和數(shù)學(xué)運算邏輯。這就是為什么，當(dāng)你問大模型：1.11和1.8誰大的時候，它會一本正經(jīng)的告訴你，當(dāng)整數(shù)部分一樣大的時候，僅需要比較小數(shù)部分，因為11大于8，因此1.11大于1.8。那么如果我們現(xiàn)實中確實有一些計算任務(wù)或復(fù)雜的流程需要處理怎么辦？我的解決方案是，與程序交互和動態(tài)切換上下文。除了系統(tǒng)角色以外，用戶一般代表輸入和助手一般代表輸出。

3. 程序結(jié)構(gòu)

llama.cpp的程序結(jié)構(gòu)比較清晰，核心模塊是llama和ggmll。ggml通過llama進行調(diào)用，開發(fā)通常不會直接使用。在llama中定義了常用的結(jié)構(gòu)體和函數(shù)。common是對llama中函數(shù)功能的再次封裝，有時候起到方便調(diào)用的目的。但是版本迭代上，common中的函數(shù)變化較快，最好的方法是看懂流程后直接調(diào)用llama.h中的函數(shù)。

4. 源碼分析

下面我以examples/main/main.cpp作為基礎(chǔ)做重點分析。

(1) 初始化

全局參數(shù)，這個結(jié)構(gòu)體主要用來接收用戶輸入和后續(xù)用來初始化模型與推理上下文。

系統(tǒng)初始化函數(shù)：

系統(tǒng)資源釋放函數(shù)：

創(chuàng)建模型和推理上下文：

它聲明在common.h中。如果你需要將模型和上下文分開創(chuàng)建可以使用llama.h中的另外兩對函數(shù)：

創(chuàng)建ggml的線程池，這個過程可能和模型加速有關(guān)，代碼中沒有對它的詳細解釋：

除了完成一般的推理任務(wù)，llama.cpp還實現(xiàn)了上下文存儲與讀取。上下文切換的前提是不能換模型，且僅首次推理接收用戶輸入的prompt。利用這個特性，可以實現(xiàn)上下文的動態(tài)切換。

至此，有關(guān)系統(tǒng)初始化模塊的過程已經(jīng)完成。

(2) 用戶輸入

為了接收用戶輸入和推理輸出，源碼集中定義了幾個變量：

檢查編碼器，現(xiàn)代模型大多都沒有明確定義的encodec

(3) 分析預(yù)測

分析預(yù)測部分的核心代碼如下，我將處理關(guān)注力和session的邏輯刪除，僅保留推理部分的邏輯。

邏輯的重點是：首先，如果推理的上下文長度超限，會丟棄超出部分。實際開發(fā)中可以考慮重構(gòu)這個部分的邏輯。其次，每次推理都有一個處理數(shù)量限制（n_batch），這主要是為了當(dāng)一次性輸入的內(nèi)容太多，系統(tǒng)不至于長時間無響應(yīng)。最后，每次推理完成，embd都會被清理，推理完成后的信息會保存在ctx中。

(4) 推理采樣

采樣推理部分的源碼分兩個部分：

首先要關(guān)注第2部分，這一段的邏輯是將用戶的輸入載入上下文中，由于用戶的輸入不需要推理，因此只需要調(diào)用llama_sampling_accept函數(shù)。第1部分只有當(dāng)用戶輸入都完成以后才會進入，每次采樣一個token，寫進embd。這個過程和分析預(yù)測交替進行，直到遇到eos。

chat_add_and_format函數(shù)只負責(zé)將所有交互過程記錄在char_msgs中，對整個推理過程沒有影響。如果要實現(xiàn)用戶輸出，可以在這里處理。

二、關(guān)鍵函數(shù)

通過gpt_params初始化llama_model_params

創(chuàng)建大模型指針

創(chuàng)建ggml線程池和設(shè)置線程池

通過gpt_params初始化llama_context_params

對輸入進行分詞并轉(zhuǎn)換成token

獲取特殊token

批量處理token并進行預(yù)測

執(zhí)行采樣和接收采樣

將token轉(zhuǎn)成自然語言

判斷推理是否結(jié)束，注意，這個token可能和llama_token_eos獲取的不一致。因此一定要通過這個函數(shù)判斷

三、總結(jié)

本文旨在介紹llama.cpp的基礎(chǔ)用法，由于Georgi Gerganov更新較快，且缺少文檔。因此可能有些解釋不夠準確。如果大家對框架和本文敢興趣可以給我留言深入討論。

小編推薦閱讀

• 《夢幻新誅仙》裝備獲取方式大全最新（輕松掌握各種裝備獲取技巧，為你的角色提升實力）
• 《萬靈啟源SSR抽獎概率揭曉》SSR抽獎概率究竟是多少呢？（以游戲為主，讓你了解抽獎背后的真相）
• 《龍之谷手游》新手升級攻略技巧大全最新
• 《最囧大腦》32關(guān)通關(guān)攻略技巧指南（打破困境，激活大腦，輕松通關(guān)）
• 王者榮耀哪個英雄克制司馬懿？英雄克制攻略技巧！