近年來,在深度學習、大數(shù)據(jù)等革命性技術的推動下,人工智能領域迎來了又一個春天。在人工智能的研究中,既包括對于人類理性思維的模擬,還包括對人類感性思維的計算。本書重點講述的文本情感分析技術就屬于后者。該技術源于自然語言處理領域,但也有別于一般的自然語言處理任務。文本情感分析面向的處理對象是社交媒體中產(chǎn)生的用戶評論文本,該文本的特點是帶有大量的用戶主觀情感信息,因此該技術的核心是通過自動分析評論文本來進行情感的理解。文本情感分析技術已有20 余年的研究歷史,凝聚成了多項研究任務和實用技術,已應用于輿情分析、電子商務等領域,具有重大的社會價值和商業(yè)價值。本書介紹的知識點包括文本情感分析的基礎理論和資源、核心任務,以及上層應用三大部分。在文本情感分析的基礎理論和資源部分,該書將講述基于深度學習的情感表示方法,以及語料、詞典和相關評測等資源;在文本情感分析的核心任務部分,該書將講述文本情感分類、情感信息抽取、隱式情感、多模態(tài)情感等若干核心任務;在文本情感分析的上層應用部分,該書將講述觀點分析、情感文摘等典型應用。本書可以為自然語言處理、人工智能等領域的科研人員和IT 從業(yè)者提供創(chuàng)新的發(fā)展視角及相關理論、方法與技術支撐,也可作為相關專業(yè)高年級本科生和研究生課程教材。
在人工智能的研究中,既包括對人類理性思維的模擬,又包括對人類感性思維的計算。本書重點講述的文本情感分析技術就屬于后者。介紹的知識點包括文本情感分析的基礎理論和資源、核心任務,以及上層應用三大部分。在文本情感分析的基礎理論和資源部分,將講述基于深度學習的情感表示方法,以及語料、詞典和相關評測等資源;在文本情感分析的核心任務部分,將講述文本情感分類、情感信息抽取、隱式情感、多模態(tài)情感等若干核心任務;在文本情感分析的上層應用部分,將講述觀點分析、情感文摘等典型應用。 本書可以為自然語言處理、人工智能等領域的科研人員和IT從業(yè)者提供創(chuàng)新的發(fā)展視角及相關理論、方法與技術支撐,也可作為相關專業(yè)高年級本科生和研究生的課程教材。
Preface
前 言
情感計算旨在讓機器像人一樣理解情感和表達情感,是目前人工智能研究中極其有價值的研究領域之一。隨著社交媒體的快速發(fā)展,社交媒體數(shù)據(jù)中的情感元素占比劇增,已成為政府、民眾和產(chǎn)業(yè)界關注的重點。情感計算在研究上結(jié)合社會學、管理學、傳播學等基礎學科,在應用上涉及電商、教育、金融等各領域的落地場景,具有很強的跨學科跨行業(yè)特點。利用情感計算技術,充分挖掘數(shù)據(jù)中蘊涵的情感信息,具有巨大的社會價值和經(jīng)濟價值。機器是否可以理解人類情感、如何發(fā)現(xiàn)情感背后的原因以及如何更好地實現(xiàn)人機情感智能交互等問題的研究將是對傳統(tǒng)人工智能研究的有力提升,也必將極大地推動人工智能技術的發(fā)展。同時,情感計算與其他學科的結(jié)合,促成了交叉學科的發(fā)展,學界對相關技術的研究熱情持續(xù)高漲,尤其在新工科和新文科的高等教育改革中具有橋梁和紐帶的作用。
從情感計算概念第一次出現(xiàn)至今,經(jīng)歷了無數(shù)挑戰(zhàn)和變革。情感計算技術也不斷迎來新的挑戰(zhàn)。社交媒體數(shù)據(jù)從單一的文本評論發(fā)展為豐富的聲圖文混合的評論,情感表達形式從新聞評論發(fā)展為人機交互等方式,如何融合多模態(tài)情感進行情感計算、如何處理大量的隱式情感信息以及如何進行情感心理健康檢測及情感陪護等問題成為研究焦點。尤其是在以ChatGPT為代表的生成式人工智能技術時代,情感計算的研究范式發(fā)生了改變,如何將情感融入大語言模型中,以及如何使人工智能技術符合社會預期、符合人類價值觀等成為大模型時代的情感計算新增的研究方向。
與此同時,越來越多的研究人員和學生進入這個領域,迫切需要為這個領域培養(yǎng)青年人才,而編寫和出版教材是其中非常重要的一環(huán)。黨的二十大報告中指出:“我們要堅持教育優(yōu)先發(fā)展、科技自立自強、人才引領驅(qū)動,加快建設教育強國、科技強國、人才強國,堅持為黨育人、為國育才,全面提高人才自主培養(yǎng)質(zhì)量,著力造就拔尖創(chuàng)新人才,聚天下英才而用之!苯逃龔妵侵㈣T魂工程,它為科技強國和人才強國提供可持續(xù)的強力支撐。因此,我們聚集了國內(nèi)10余名情感計算領域的專家編寫了這部教材。本書共分13章,包括情感計算的基礎任務,如情感語義表示、情感分類、隱式情感識別、情感原因識別等,還包括情感計算的延伸應用,如立場檢測、計算論辯、情感生成、多模態(tài)情感計算等。更重要的是,我們還對大模型時代下的情感計算進行了分析和討論。本書內(nèi)容取自專家們多年的研究積累,書中介紹的原理、方法充分結(jié)合了理論與工程實踐,內(nèi)容由淺入深、循序漸進,適用于具有一定專業(yè)知識基礎的研究生以及相關研發(fā)機構(gòu)的科研工作者和工程師,希望引起更多學者的興趣,共同探索這個充滿未知和希望的研究方向。
在此,感謝中文信息學會情感計算專委會的一些專家學者們,他們和我一起在情感計算領域耕耘多年,把自己寶貴的經(jīng)驗分享出來,包括林鴻飛老師(大連理工大學)、王素格老師(山西大學)、夏睿老師(南京理工大學)、楊亮老師(大連理工大學)、徐睿峰老師(哈爾濱工業(yè)大學(深圳))、魏忠鈺老師(復旦大學)、黃民烈老師(清華大學)、賈珈老師(清華大學)、李晨亮老師(武漢大學)、趙妍妍老師(哈爾濱工業(yè)大學)。此外,還需要特別感謝為本書的整理及校對付出辛勤勞動的張羽老師(哈爾濱工業(yè)大學)和上述高校的研究生們。同時,也感謝國家自然科學基金項目(62176078)對本書相關研究工作的資助。
機械工業(yè)出版社李永泉編輯對書稿進行了精心審讀,提出了寶貴的意見;出版社其他工作人員也為本書做了大量努力,讓本書得以較快與讀者見面,在此謹向他們表示最誠摯的感謝!
在大模型時代下,情感計算的研究工作和產(chǎn)業(yè)化正在以日新月異的速度向前推進,這是一個涉及面非常廣的技術領域,作者也在不斷探索中。因作者水平有限,書中難免有疏漏與謬誤之處,敬請業(yè)界同行和讀者指正。
秦兵
2024年6月6日星期四
秦兵 哈爾濱工業(yè)大學計算學部教授/博士生導師,哈爾濱工業(yè)大學社會計算與信息檢索研究中心主任,國家重點研發(fā)課題、國家自然科學基金重點項目負責人?萍疾靠萍紕(chuàng)新 2030-“新一代人工智能”重大項目管理專家組專家,中國中文信息學會常務理事、語言與知識計算專委會副主任、情感計算專委會主任,黑龍江省計算機學會自然語言處理專委會主任。主持多項國家及省部級項目,獲中文信息學會錢偉長中文信息處理科學技術獎一等獎、黑龍江省科學技術一等獎、黑龍江省科學技術二等獎。入選“2020 年度人工智能全球女性及 AI 2000 最具影響力學者榜單”和“福布斯中國 2020 科技女性榜”, 連續(xù)四年(2020-2023 年)入選愛思唯爾高被引學者榜單。
趙妍妍 哈爾濱工業(yè)大學計算學部教授、博士生導師,加州大學伯克利分校訪問學者。目前擔任中國中文信息學會社會媒體處理專委會委員,是多個國內(nèi)外會議和期刊的審稿人。近年來主持項目多項,包括國家自然科學面上基金、人文社科項目等。在頂級國際會議 ACL、AAAI等上發(fā)表相關領域的學術論文近百篇。
林鴻飛 大連理工大學二級教授,校學術委員會委員。主要研究方向為自然語言處理、情感計算、幽默計算等。擔任中國人工智能學會理事、語言智能專委會副主任;中國中文信息學會常務理事、情感計算專委會副主任。擔任《中文信息學報》《模式識別與人工智能》、SCI 期刊 JBI 等編委。入選遼寧省百千萬人才工程百人層次。
王素格 山西大學計算機與信息技術學院教授、博士生導師。主要研究方向是自然語言處理和情感計算,兼任中國中文信息學會理事、情感計算專委會副主任、社會媒體處理專委會常務委員、計算語言學專委會委員等職。主持國家自然科學基金項目多項,在國際重要學術期刊和會議發(fā)表論文 100 余篇。獲得山西省科學技術進步一等獎和二等獎。
徐睿峰 哈爾濱工業(yè)大學(深圳)教授,長期從事自然語言處理、情感計算、社交媒體處理研究。擔任亞洲自然語言處理聯(lián)合會亞洲語言資源委員會主席,中國人工智能學會理事、青工委副主任,中國中文信息學會理事、情感計算專委會秘書長,先后獲錢偉長中文信息處理科學技術獎一等獎、 / 廣東省 / 黑龍江省科技進步二等獎各一項。
目 錄
序
前言
第1章 緒論 1
1.1 情感計算概述 1
1.1.1 情感及其意義 1
1.1.2 情感計算的概念與歷史 2
1.1.3 情感計算的內(nèi)容 2
1.2 從資源到表示 3
1.2.1 情感分類標準 3
1.2.2 情感詞典 4
1.2.3 情感語義表示 4
1.3 從識別到生成 5
1.3.1 情感分析 5
1.3.2 情感原因發(fā)現(xiàn) 7
1.3.3 情感生成 7
1.4 從單模態(tài)到多模態(tài) 8
1.4.1 單模態(tài)情感分析 8
1.4.2 多模態(tài)情感分析 9
1.5 從個體到群體 9
1.5.1 個體情感 9
1.5.2 群體情感 10
1.5.3 個體情感和群體情感的
區(qū)別與聯(lián)系 10
1.6 從理論到應用 10
1.6.1 推薦系統(tǒng) 11
1.6.2 抑郁癥預測 11
1.6.3 聊天機器人 12
參考文獻 12
第2章 文本情感語義表示 14
2.1 文本情感語義表示簡介 14
2.1.1 文本情感語義表示的
基本概念 14
2.1.2 文本情感語義表示的
研究任務 18
2.2 靜態(tài)情感語義表示學習 20
2.2.1 算法思想 20
2.2.2 代表性算法模型 21
2.3 動態(tài)情感語義表示學習 27
2.3.1 算法思想 28
2.3.2 代表性算法模型 28
2.4 文本情感語義表示的未來
展望 39
2.5 本章總結(jié) 40
參考文獻 41
第3章 粗粒度文本情感分類 43
3.1 粗粒度文本情感分類簡介 43
3.1.1 文檔級情感分類的基本
概念 43
3.1.2 跨領域文本情感分類的
基本概念 44
3.1.3 跨語言情感分類的基本
概念 44
3.2 基于傳統(tǒng)機器學習的文本情感
分類方法 45
3.2.1 基于無監(jiān)督的文本情感
分類方法 45
3.2.2 基于情感特征的統(tǒng)計機器學
習文本情感分類方法 46
3.3 基于深度學習的文本情感
分類方法 48
3.3.1 基于遞歸神經(jīng)網(wǎng)絡的
文本情感分類 48
3.3.2 基于卷積神經(jīng)網(wǎng)絡的
文本情感分類 50
3.3.3 基于循環(huán)神經(jīng)網(wǎng)絡的
文本情感分類 51
3.4 跨領域文本情感分類 55
3.4.1 基于實例遷移策略的跨
領域文本情感分類 55
3.4.2 基于特征遷移策略的跨
領域文本情感分類 56
3.4.3 基于參數(shù)遷移策略的跨
領域文本情感分類 57
3.5 跨語言文本情感分類 59
3.5.1 基于機器翻譯的方法 60
3.5.2 基于預訓練模型的方法 61
3.5.3 基于生成對抗網(wǎng)絡的方法 63
3.6 本章總結(jié) 64
參考文獻 65
第4章 細粒度情感分析 68
4.1 細粒度情感分析任務及基本要素 68
4.2 經(jīng)典的屬性級情感分析任務 71
4.2.1 屬性抽取 71
4.2.2 屬性情感分類 73
4.2.3 <屬性,情感>配對抽取 77
4.3 屬性類別相關的細粒度情感分析 78
4.3.1 屬性類別的檢測 79
4.3.2 基于屬性類別的情感分類 79
4.3.3 屬性類別–情感的聯(lián)合
分類 79
4.4 觀點詞相關的細粒度情感分析 80
4.4.1 屬性詞和觀點詞的聯(lián)合
抽取 80
4.4.2 基于屬性詞的觀點詞抽取 81
4.4.3 <屬性詞,觀點詞>配對
抽取 81
4.5 多元組形式的細粒度情感分析 81
4.5.1 <屬性詞,屬性類別,情感
極性>三元組抽取 81
4.5.2 <屬性詞,觀點詞,情感
極性>三元組抽取 82
4.5.3 <屬性詞,屬性類別,
觀點詞,情感極性>
四元組抽取 84
4.6 包含更多要素的細粒度情感分析 84
4.6.1 包含觀點持有者的細粒度
情感分析 85
4.6.2 基于比較觀點的細粒度
情感分析 85
4.7 細粒度情感分析的挑戰(zhàn) 86
4.8 本章總結(jié) 87
參考文獻 87
第5章 隱式情感分析 92
5.1 隱式情感分析基本概念 92
5.2 事實型隱式情感分析 94
5.2.1 基于語言特征的隱式情感
分析方法 94
5.2.2 基于情感常識知識表示的
事實型隱式情感分析方法 95
5.2.3 基于異構(gòu)用戶知識融合的
隱式情感分析 97
5.3 比喻/隱喻型隱式情感 98
5.3.1 基于詞語特性的隱喻分析
方法 99
5.3.2 基于語義場景不一致的
隱喻序列標注方法 100
5.4 反諷型隱式情感分析 103
5.4.1 基于詞匯信息和上下文
的反諷識別方法 103
5.4.2 融合語言特征及背景信息的
反諷型隱式情感識別方法 104
5.4.3 基于情感對比和多視角
注意力的反諷識別方法 106
5.5 反問型隱式情感分析 107
5.5.1 基于句法結(jié)構(gòu)的反問型
情感分析方法 108
5.5.2 基于多特征融合的反問型
隱式情感分析方法 109
5.6 幽默識別 111
5.6.1 幽默識別的基本概念 111
5.6.2 基于語音和模糊性語義
理解的門控注意力機制
的幽默識別方法 112
5.7 隱式情感語料庫 113
5.8 本章總結(jié) 114
參考文獻 114
第6章 情感原因分析 119
6.1 問題定義與分類 119
6.2 情感原因識別方法 121
6.2.1 基于規(guī)則的方法 121
6.2.2 基于統(tǒng)計的機器學習方法 123
6.2.3 基于深度學習的方法 125
6.2.4 各類方法的特點分析 131
6.3 情感–原因?qū)β?lián)合抽取方法 132
6.3.1 基于流水線結(jié)構(gòu)的方法 132
6.3.2 基于端到端結(jié)構(gòu)的方法 133
6.4 展望 139
參考文獻 142
第7章 文本立場檢測 145
7.1 文本立場檢測定義與分類 145
7.2 特定目標立場檢測 147
7.2.1 基于規(guī)則的方法 147
7.2.2 基于統(tǒng)計的機器學習
方法 148
7.2.3 基于深度學習的方法 150
7.3 多目標立場檢測 153
7.4 跨目標立場檢測 156
7.4.1 基于知識遷移的模型 156
7.4.2 基于圖網(wǎng)絡的模型 158
7.4.3 融合外部知識的方法 159
7.5 零樣本立場檢測 159
7.5.1 基于知識遷移的模型 159
7.5.2 基于對比學習的模型 160
7.5.3 融合外部知識的方法 162
7.6 其他立場檢測相關研究 163
7.7 本章總結(jié) 164
參考文獻 164
第8章 計算論辯 167
8.1 論辯理論 167
8.2 獨白式論辯 169
8.2.1 論辯挖掘 170
8.2.2 論辯質(zhì)量評估 172
8.3 對話式論辯 174
8.3.1 交互論點對識別 175
8.3.2 對話式論辯生成 176
8.4 論辯應用 179
8.4.1 智慧論辯 179
8.4.2 智慧教育 181
8.4.3 司法領域 182
8.5 總結(jié)和未來方向 184
參考文獻 185
第9章 情感生成 187
9.1 情感生成簡介 187
9.1.1 情感生成的基本概念 187
9.1.2 情感生成的主要研究
任務 189
9.2 主觀評論生成 190
9.2.1?結(jié)合推薦系統(tǒng) 192
9.2.2?融合細粒度信息 193
9.2.3?擴展輸入知識源 194
9.3 情感對話系統(tǒng) 196
9.3.1 情感對話生成 196
9.3.2 融合共情的對話交互 200
9.3.3 基于情緒支持策略的
對話交互 204
9.4 情感生成的未來展望 208
9.5 本章總結(jié) 209
參考文獻 209
第10章 多模態(tài)情感計算研究 212
10.1?基于語音的情感語義表示學習 212
10.1.1?語音情感分析的背景 212
10.1.2?情感描述方法 214
10.1.3?語音情感特征提取 216
10.1.4?語音情感識別模型 218
10.1.5 海量互聯(lián)網(wǎng)語音半監(jiān)督
情感分析 219
10.2?基于圖像的情感語義表示學習 222
10.2.1?圖像情感分析的背景 222
10.2.2?可解釋的圖像情感分析 223
10.2.3?圖像的美學風格理解 224
10.2.4 圖像生成 225
10.2.5?計算美學的其他應用 227
10.3 多模態(tài)心理健康計算 229
10.3.1 多模態(tài)心理健康計算
簡介 229
10.3.2 單一數(shù)據(jù)集的多模態(tài)
抑郁檢測 230
10.3.3 跨平臺的多模態(tài)抑郁
檢測 233
10.4 本章總結(jié) 237
參考文獻 237
第11章 情感分析的評測與資源
介紹 241
11.1 情感詞典 241
11.1.1 情感詞典的構(gòu)建方法 241
11.1.2 情感詞典資源介紹 246
11.1.3 小結(jié) 247
11.2 情感分析語料庫 247
11.2.1 情感分析語料庫構(gòu)建 247
11.2.2 情感語料資源介紹 248
11.2.3 情緒語料資源介紹 249
11.2.4 多模態(tài)情感語料資源
介紹 250
11.2.5 對話情感語料資源介紹 253
11.2.6 小結(jié) 254
11.3 情感分析評測 254
11.3.1 國外情感分析評測 255
11.3.2 國內(nèi)情感分析評測 258
11.3.3?小結(jié) 259
11.4 情感分析資源延展閱讀 259
11.5 本章總結(jié) 260
參考文獻 260
第12章 情感計算應用 263
12.1 推薦系統(tǒng)中的情感計算 263
12.1.1 推薦系統(tǒng)中的情感計算
簡介 263
12.1.2 情感計算在推薦系統(tǒng)中
的去偏差應用 264
12.1.3 情感計算在推薦系統(tǒng)中
的增加可解釋性應用 266
12.2 心理健康診斷中的情感
計算 270
12.2.1 概述 270
12.2.2 情感計算在抑郁檢測中
的應用 270
12.2.3 情感計算在抑郁檢測中
的相關研究方法 272
12.2.4 抑郁檢測中的案例
分析 275
12.2.5 抑郁檢測相關數(shù)據(jù)集 278
12.2.6 心理健康診斷領域的
研究展望 281
12.3 媒體數(shù)據(jù)情感分析中的情感
計算 281
12.3.1 經(jīng)濟、市場與服務中的
情感分析 281
12.3.2 自然災害管理中的情感
分析 284
12.4 本章總結(jié) 288
參考文獻 288
第13章 大模型時代下的情感
計算 291
13.1 大模型時代下的機遇與挑戰(zhàn) 291
13.2 大模型時代下現(xiàn)有情感計算研究
方向