PREFACE
前　　言
為什么要寫本書
2022年11月30日，ChatGPT模型問世后，立刻在全球范圍內(nèi)掀起了軒然大波。無論是AI從業(yè)者還是非AI從業(yè)者，都在熱議ChatGPT極具沖擊力的交互體驗和驚人的生成內(nèi)容。各大廠紛紛入局大型語言模型，“百模”甚至“千�！贝髴�(zhàn)的帷幕慢慢被拉開。很多企業(yè)和高校也隨之開源了一些表現(xiàn)優(yōu)異的大型語言模型，例如GLM系列模型、LLaMA系列模型、CPM系列模型、Yi系列模型、Baichuan系列模型、Qwen系列模型、Mistral系列模型、DeepSeek系列模型、Moss模型等。但是大型語言模型距離真正落地，還有一段艱難的路要走，例如：如何優(yōu)化通用大型語言模型在領域上的效果，如何在某些場景中合理運用大型語言模型，如何確保生成內(nèi)容的穩(wěn)定性和安全性，如何確保大型語言模型可以在生產(chǎn)環(huán)境下穩(wěn)定使用等。
2023年，很多人在做底座大型語言模型的搭建、領域大型語言模型的預訓練或微調(diào)，我們也出版了《ChatGPT原理與實戰(zhàn)：大型語言模型的算法、技術和私有化》一書，對大型語言模型的知識體系進行了細致的梳理，并且通過實戰(zhàn)幫助讀者從零開始搭建自己的ChatGPT模型。但很多讀者反饋這本書對大型語言模型應用部分的講解不夠細致，并且隨著技術和時代的發(fā)展，大型語言模型如何進行場景落地變得尤為重要。
因此，經(jīng)過一番思考和準備之后，我們決定從大型語言模型的應用落地角度出發(fā)，進一步系統(tǒng)梳理大型語言模型的相關技術，幫助讀者學習如何利用開源的大型語言模型優(yōu)化自身領域或場景中的使用效果。
技術的變化是飛速的，在撰寫本書初期，OpenAI的GPTs應用還沒有提出，不少應用還沒有以產(chǎn)品形態(tài)呈現(xiàn)。隨著新的應用的推出，我們修改了相關章節(jié)，目的是希望本書介紹的大型語言模型相關技術更具前沿性。技術會持續(xù)更新?lián)Q代，書中提到的很多技術也許在不遠的將來會被更強大的技術所取代，但這并不影響我們學習這一系列技術，因為學習這些技術本身會引發(fā)更深層次的思考。
AI已來，學無止境，那么請各位與我們一起來迎接AGI（人工通用智能）的到來吧。
讀者對象
AIGC（生成式人工智能）相關領域的師生。
初入AI行業(yè)的從業(yè)人員。
對大型語言模型感興趣的讀者。
本書特色
本書是一本集理論、實戰(zhàn)、應用與落地于一體的大型語言模型力作，具備以下特點。
1）理論聯(lián)系實際。本書不僅全面講解了大型語言模型的核心理論，如Transformer架構(gòu)和各種主流模型等，還深入探討了領域特定模型的應用，如法律、醫(yī)療、金融和教育領域，有助于讀者從多個維度理解和實踐大型語言模型。
2）實戰(zhàn)應用落地。本書詳細介紹了如何構(gòu)建具有個性化特點的大型語言模型應用，包括大型語言模型的微調(diào)方法、人類偏好對齊技術，以及構(gòu)建具體應用的步驟等。通過實戰(zhàn)案例和深入淺出的講解，確保讀者能夠理解模型的構(gòu)建和優(yōu)化過程。
3）多樣化應用場景。本書通過展示大型語言模型在多種場景下的應用潛力，如角色扮演、信息抽取、知識問答等，引導讀者探索大型語言模型在不同領域的應用可能性，以激發(fā)讀者的創(chuàng)新思維，最終實現(xiàn)大型語言模型的應用創(chuàng)新。
4）應用發(fā)展洞察。本書結(jié)合了我們在AI領域的豐富經(jīng)驗，從基礎理論到實戰(zhàn)應用，從簡單模型應用到復雜系統(tǒng)應用，提供了全面的技術和應用視角。通過分析大型語言模型的行業(yè)應用、挑戰(zhàn)、解決方案以及未來的發(fā)展趨勢，為讀者在迅速變化的技術領域中應用大型語言模型提供了寶貴的參考。
如何閱讀本書
本書從邏輯上分為三部分。
第一部分（第1～3章）為基礎知識，深入探討大型語言模型的核心概念。第1章詳細介紹大型語言模型的基礎理論，包括常見的模型架構(gòu)、領域大型語言模型以及如何評估模型的性能。第2章解析模型微調(diào)的關鍵步驟，即數(shù)據(jù)的收集、清洗到篩選，直至微調(diào)訓練。第3章介紹如何將大型語言模型與人類偏好進行對齊，詳細介紹了基于人工反饋的強化學習框架及當前主流的對齊方法，旨在提供一個全面的視角來幫助讀者理解大型語言模型的發(fā)展和優(yōu)化路徑。
第二部分（第4～7章）著眼于大型語言模型的實際應用，指導讀者構(gòu)建簡單但強大的應用程序。第4章展示如何利用GPTs來快速構(gòu)建一個個性化的專屬ChatGPT應用。第5章介紹Text2SQL應用的搭建，以及如何通過DeepSeek Coder模型進行定制化優(yōu)化。第6章探討角色扮演應用的構(gòu)建，并介紹了如何通過微調(diào)Baichuan模型來增強體驗。第7章聚焦于對話信息抽取應用的搭建，展示了如何通過微調(diào)Qwen模型來將大型語言模型有效地應用于實際場景中。
第三部分（第8～10章）帶領讀者挑戰(zhàn)更加復雜的應用的搭建。第8章介紹大型語言模型Agent以及常用框架。第9章深入RAG（檢索增強生成）模型的各個組件，展示了如何構(gòu)建一個基于知識庫的智能問答應用。第10章則基于LangChain框架，引導讀者構(gòu)建一個AutoGPT應用，展示了大型語言模型在自動化任務執(zhí)行中的潛力。
本書內(nèi)容豐富，旨在為讀者提供一個結(jié)構(gòu)清晰的學習路徑，無論是大型語言模型的新手還是有經(jīng)驗的開發(fā)者，都能從中獲得寶貴的知識和靈感。
勘誤和支持
由于水平有限，書中難免存在一些遺漏或者不夠準確的地方，懇請讀者批評指正。如果讀者發(fā)現(xiàn)了書中的錯誤，可以將其提交到 https://github.com/liucongg/LLMsBook。同時，讀者遇到任何問題，歡迎發(fā)送郵件至郵箱 logcongcong@gmail.com，我們將在線上提供解答。期待得到讀者的真摯反饋！
致謝
首先要感謝提出ChatGPT的每一位研究員，他們的堅持讓人工智能進入大型語言模型時代，讓我有機會體驗到人工智能的魅力，也讓我對人工智能有了新的認識。
感謝為大型語言模型開源社區(qū)貢獻力量的每一個人，他們的無私奉獻讓更多人體會到了大型語言模型的美好。
感謝我碩士期間的導師侯鳳貞以及本科期間的關媛、廖俊、胡建華、趙鴻萍、楊帆等老師，他們指引我走到今天。
感謝在“云問”共同奮斗的每一位充滿創(chuàng)意和活力的朋友：李平、楊萌、李辰剛、張雅冰、孟凡華、李蔓、付曉東、丁興華。由衷感謝云問公司創(chuàng)始人王清琛、茆傳羽、張洪磊對我工作的支持，十分榮幸可以與各位在一家創(chuàng)業(yè)公司一起為人工智能落地而努力奮斗。
感謝關注“NLP工作站”的社區(qū)成員以及所有粉絲，他們的支持才讓我有了不斷創(chuàng)作的動力。
最后感謝我的爸爸媽媽、爺爺奶奶，他們將我培養(yǎng)成人，并時時刻刻給予我信心和力量！
謹以此書獻給我親愛的妻子崔天宇！

劉　聰
2024年2月