現代推薦算法

總覽篇
第 1 章 推薦系統概述 ............................................................................................. 2
1.1 推薦系統是什麼 .......................................................................................... 2
1.2 推薦系統發展的天時、地利、人和 .......................................................... 4
1.2.1 天時 .................................................................................................. 6
1.2.2 地利 .................................................................................................. 6
1.2.3 人和 .................................................................................................. 7
第 2 章 現代推薦鏈路 ............................................................................................. 9
2.1 召回、粗排、精排——各有所長 .............................................................. 9
2.2 召回、粗排、精排——級聯漏斗 ............................................................ 13
2.3 打壓、保送、重排——拍不完的腦袋 .................................................... 20

模型篇
第 3 章 精排之鋒 ................................................................................................... 25
3.1 簡單“複讀機”——邏輯回歸模型 ........................................................ 25
3.2 工業邏輯回歸模型的稀疏性要求 ............................................................ 29
3.3 FM 的一小步，泛化的一大步 ................................................................. 34
3.4 多彩的 FNN/PNN/ONN/NFM 世界 ......................................................... 37
3.5 高階交叉 ................................................................................................... 41
3.6 工具人 GBDT ............................................................................................ 45
3.7 嵌入表示亦福亦禍，樹模型的新機遇 .................................................... 49
3.8 DNN 與兩大門派，“一念神魔”與功不唐捐 ........................................ 53
3.9 再論特徵與嵌入生成 ................................................................................ 58
3.10 機器學習指定王牌技術——注意力機制 ...................................... 62
3.11 注意力機制的幾種寫法 .......................................................................... 65
3.12 Transformer 的升維打擊 ......................................................................... 69
第 4 章 粗排之柔 ................................................................................................... 72
4.1 粗排存在與否的必要性 ............................................................................ 73
4.2 粗排複雜化的方法 .................................................................................... 73
4.3 Pair-wise 與 List-wise ................................................................................ 74
第 5 章 召回之厚 ................................................................................................... 76
5.1 u2i 之雙塔進擊史 ..................................................................................... 76
5.2 i2i 及 u2u2i 方案 ....................................................................................... 81
5.3 近似搜索概覽 ............................................................................................ 85
5.3.1 向量量化類方法 ............................................................................ 86
5.3.2 基於圖的搜索 ................................................................................ 87
5.4 樹模型與類樹模型的衝擊 ........................................................................ 89
第 6 章 模型反覆運算的術與道 .................................................................................... 93
6.1 什麼是“老湯模型” ................................................................................ 93
6.2 模型反覆運算的“術” .................................................................................... 96
6.3 模型反覆運算的“道” .................................................................................... 98

前沿篇
第 7 章 用戶興趣建模 ......................................................................................... 101
7.1 從百到萬的用戶長期興趣建模 .............................................................. 101
7.1.1 從百到千 ...................................................................................... 102
7.1.2 從千到萬 ...................................................................................... 102
7.2 用戶多峰興趣建模 .................................................................................. 104
第 8 章 多工學習 ............................................................................................. 107
8.1 多工學習的實踐意義 .......................................................................... 107
8.2 多工學習的基本框架 .......................................................................... 110
8.3 平行關係建模——MMoE 類方法 ......................................................... 113
8.4 非平行關係建模，任務間的因果 .......................................................... 117
第 9 章 非梯度場景 ............................................................................................. 121
9.1 線上與線下的鴻溝 .................................................................................. 121
9.2 弱個性化 CEM，強個性化強化學習 .................................................... 124
9.3 探微參數與性能的關係，把點連成面 .................................................. 128
第 10 章 探索與利用 ........................................................................................... 133
10.1 為什麼要探索與利用 ............................................................................ 133
10.2 探索的本質是巧妙“貪心” ................................................................ 136
第 11 章 後精排環節 ........................................................................................... 139
11.1 定義多樣性問題，簡單的形式與複雜的標準 .................................... 139
11.2 DPP 演算法與多樣性 ............................................................................... 142
11.3 考慮上下文的重排序 ............................................................................ 144
第 12 章 推薦中的偏差與消除............................................................................. 147
12.1 各種各樣的偏差 .................................................................................... 147
12.2 流行度偏差的消除 ................................................................................ 148
12.3 位置偏差的消除 .................................................................................... 151
第 13 章 自動機器學習技術 ................................................................................ 155
13.1 網路結構搜索與網路微操的探索 ........................................................ 155
13.2 特徵的搜索 ............................................................................................ 159
13.3 模型壓縮 ............................................................................................... 161
第 14 章 圖計算 .................................................................................................. 165
14.1 資料結構的終極 .................................................................................... 165
14.2 GNN 的極簡發展史 .............................................................................. 168
14.3 物料非原子化，建模轉向圖 ................................................................ 171

難點篇
第 15 章 延遲轉化 ............................................................................................... 175

趙致辰
本碩畢業於清華大學電子工程系。主要研究方向包括動作識別、人臉識別、廣告和推薦中的排序模型及冷開機問題等，發表相關學術領域論文7篇。曾從事移動端人臉識別工作，開發的紅外人臉識別演算法應用於國內多款手機；在推薦領域，提出的“POSO”模型在使用者冷開機問題上取得突破性收益，已經在業界廣泛應用，國內外多家公司與產品如TikTok、快手、Meta等都在以POSO為原型探索冷開機模型。