02

結合深度學(xué)習的數據知識，以及傳統推斷的模型知識，讓我們可(kě)以解讀複雜信息。舉個例子：

問：“我到最近柱子的距離是多(duō)少？”那麽，傳統統計推斷的物(wù)理(lǐ)模型就可(kě)以解讀，通過識别波峰，用(yòng)電(diàn)磁波的傳播速度乘以時間就能(néng)知道距離；

如果問：“這幅圖的場景有(yǒu)哪些？”圖像信号是隐式的，無法建模，無法多(duō)步推理(lǐ)，這時通過深度學(xué)習可(kě)以解出；

我的研究領域側重無線(xiàn)感知，在對環境感知後，結合各類其他(tā)技(jì )術，如AI進行後續的處理(lǐ)，實現對物(wù)理(lǐ)環境的重建，對環境進行分(fēn)析，對環境中(zhōng)的人與物(wù)進行識别、分(fēn)析，觸發後續的動作(zuò)等。

談及深度變分(fēn)推斷框架（Deep Variational Inference Framework），主要分(fēn)為(wèi)三類。

第一類是易解概率（Tractable Likelihood）和獨立潛在變量( Independent Latent Variables) 。比如說盲圖像超分(fēn)（Blind Image Super-resolution），旨在對未知退化類型的低分(fēn)辨率圖像進行超分(fēn)增強，由于其對于實際應用(yòng)的重要促進作(zuò)用(yòng)而受到越來越多(duō)的關注。主要分(fēn)為(wèi)顯示建模（Explicit Modelling）和隐式建模（Implicit Modelling）兩類方法，目前最新(xīn)的方法BSRGAN，通過對多(duō)種模糊核、下采樣、噪聲退化進行随機置換，在不同類型真實退化數據上取得了非常好的效果。 

04

剛剛我是從無線(xiàn)通信的角度探讨深度學(xué)習，能(néng)為(wèi)傳統的統計推斷框架做什麽。接下來我們反其道行之，讨論統計推斷可(kě)以為(wèi)深度學(xué)習提供什麽靈感，聯系ChatGPT和大語言模型，來談一談。

統計階段能(néng)為(wèi)深度學(xué)習做什麽？深度學(xué)習本身，比如說大語言模型，它需要加入第一性原理(lǐ)，加入經典的推斷算法嗎？我認為(wèi)是需要的。

ChatGPT4脫穎而出主要源于指令微調（Instruction Tuning），在多(duō)個以Instruction為(wèi)指導的大量任務(wù)進行學(xué)習，讓模型在理(lǐ)解這些具(jù)體(tǐ)的指令後給出答(dá)案。

ChatGPT4的升級之處在于，不用(yòng)GPT3.5的反饋獎勵模型，而采用(yòng)句式獎勵模型GPT4。這也和我的研究聯系起來，我會認為(wèi)把模型知識加進去，比添加新(xīn)的網絡結構去誘導網絡更有(yǒu)用(yòng)、更安(ān)全以及更具(jù)可(kě)解釋性。

05

UEM：請問李老師，如何将深度學(xué)習應用(yòng)于不同的領域？

李玉箫：理(lǐ)論領域，目前深度學(xué)習應用(yòng)比較好的是圖像和自然語言。再比如帶編碼的信息信号，機器學(xué)習其實很(hěn)容易在數據集上過拟合，因為(wèi)自然信号它本身就沒有(yǒu)很(hěn)好的數學(xué)模型。但是在傳統的，比如腦電(diàn)信号，還有(yǒu)人體(tǐ)的物(wù)理(lǐ)信号，包括我研究的無線(xiàn)信号，UWB、Wi-Fi、藍牙這種情況下，機器學(xué)習現在必須基于傳統的方法做一些增益，因為(wèi)它無法直接使用(yòng)。

UEM：未來想進入科(kē)技(jì )大廠，學(xué)習哪些領域能(néng)幫助我更好地實現職業發展目标？ 

李玉箫：依據我所了解的情況，如果是博士的話，可(kě)能(néng)更看重方向一點，但有(yǒu)時候需要看是否契合具(jù)體(tǐ)的某一個部門的業務(wù)方向。就這幾年而言，5G、無線(xiàn)通信、物(wù)聯網這一塊比較火，但這一塊科(kē)研界也還比較欠缺。智能(néng)駕駛這幾年挺波動的，企業開的薪酬高，需承擔一定風險。

另外的話，圖像自然語言這一塊，一個是純的AI賽道，譬如圖像、音視頻、自然語言處理(lǐ)等任務(wù)，薪酬高，競争也非常激烈。但是如果拿(ná)自然語言去做一些别的事情，比如說醫(yī)療、風險評估、城市規劃，那這些完全可(kě)以應對，市場也有(yǒu)很(hěn)大的需求。

當一個深度學(xué)習網絡可(kě)以識别公(gōng)園中(zhōng)的一隻小(xiǎo)狗，我們并不知道這個學(xué)習系統到底是聚焦在環境中(zhōng)狗的尾巴上，還是狗所在的草(cǎo)坪。如果機器學(xué)習具(jù)備舉一反三、觸類旁通的能(néng)力，相信AI的可(kě)解釋性會大大增強。

感謝(xiè)李老師的精(jīng)彩分(fēn)享，讓我們得以窺探AI深度學(xué)習的黑盒子！也歡迎你申請馬德(dé)裏歐洲大學(xué)的計算機科(kē)學(xué)與管理(lǐ)碩士，在職學(xué)習，斬獲前沿的計算機知識。