2024暑期iHUB·深圳：人工智能與深度學習專題：神經(jīng)網(wǎng)絡(luò)的雛形與優(yōu)化，及其在計算機視覺CV與自然語言處理NLP中的應用研究【大學組】

專業(yè)：人工智能

項目類型：海外導師線下項目

開始時間：2024年07月20日

是否可加論文：是

項目周期：1周在線科研+14天面授科研+5周在線論文指導

語言：英文

有無剩余名額：名額充足

建議學生年級：大學生

是否必需面試：否

適合專業(yè)：計算機科學數(shù)據(jù)分析深度學習人工智能數(shù)據(jù)工程數(shù)據(jù)結(jié)構(gòu)與算法編程語言自然語言處理

地點：深圳國際預科書院

建議選修：Python編程與數(shù)據(jù)處理

建議具備的基礎(chǔ)：數(shù)據(jù)科學、數(shù)據(jù)處理、統(tǒng)計學、機器學習、深度學習等專業(yè)的學生； 學生需要具備線性代數(shù)及概率論與數(shù)理統(tǒng)計基礎(chǔ)，修讀過算法與數(shù)據(jù)結(jié)構(gòu)并能熟練使用如隨機森林等經(jīng)典機器學習算法；

產(chǎn)出：1周在線科研+14天面授科研+5周在線論文指導 項目報告 優(yōu)秀學員獲主導師Reference Letter EI/CPCI/Scopus/ProQuest/Crossref/EBSCO或同等級別索引國際會議全文投遞與發(fā)表指導（可用于申請） 結(jié)業(yè)證書 成績單

項目背景：卷積神經(jīng)網(wǎng)絡(luò)CNN是一種多層的監(jiān)督學習神經(jīng)網(wǎng)絡(luò)，隱含層的卷積層和池采樣層是實現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)特征提取功能的核心模塊。該網(wǎng)絡(luò)模型通過采用梯度下降法最小化損失函數(shù)對網(wǎng)絡(luò)中的權(quán)重參數(shù)逐層反向調(diào)節(jié)，通過頻繁的迭代訓練提高網(wǎng)絡(luò)的精度。卷積神經(jīng)網(wǎng)絡(luò)的低隱層是由卷積層和最大池采樣層交替組成，高層是全連接層對應傳統(tǒng)多層感知器的隱含層和邏輯回歸分類器。其本質(zhì)是一個多層感知機，成功的原因在于其所采用的局部連接和權(quán)值共享的方式：一方面減少了權(quán)值的數(shù)量使得網(wǎng)絡(luò)易于優(yōu)化，另一方面降低了模型的復雜度，也就是減小了過擬合的風險。上述優(yōu)點使得該技術(shù)在計算機視覺、自然語言處理、推薦系統(tǒng)等人工智能領(lǐng)域受廣泛使用，項目也將圍繞著CNN這一前沿技術(shù)展開。

項目介紹：項目將首先回顧包含分類與回歸的傳統(tǒng)機器學習算法及初步神經(jīng)網(wǎng)絡(luò)，而后教授將會介紹用于優(yōu)化神經(jīng)網(wǎng)絡(luò)的數(shù)學原理及代碼技術(shù)。在確保學生具備扎實的理論及編程基礎(chǔ)后，項目將進入到關(guān)于卷積神經(jīng)網(wǎng)絡(luò)原理、架構(gòu)、優(yōu)化及應用的核心階段，學生將根據(jù)自身興趣選擇個性化研究課題進行深入研究，在項目結(jié)束時提交項目報告，進行成果展示。
In this course, you will be taken from basic topics of artificial neural networks to advanced topics such as convolutions. We will review important introductory concepts such as feedforward networks, gradient descent, etc, and then dive into convolutional neural networks.

個性化研究課題參考 Suggested Research Fields：
算法優(yōu)化：圖卷積神經(jīng)網(wǎng)絡(luò) Graph Neural Networks
計算機視覺應用：DGD卷積神經(jīng)網(wǎng)絡(luò)行人重識別 Person re-identification on DGD convolutional neural networks
自然語言處理應用：基于自聯(lián)想記憶與卷積神經(jīng)網(wǎng)絡(luò)的跨語言情感分類 Auto-associative convolutional neural network based multi-language sentiment classification
推薦系統(tǒng)應用：基于標簽卷積神經(jīng)網(wǎng)絡(luò)的推薦算法 Personalised recommender system with tagged convolutional neural network

項目大綱：經(jīng)典機器學習算法回顧及神經(jīng)網(wǎng)絡(luò)初步 Introduction to Neural Networks, Review of Classification and Regression, and Simple Feed-Forward (FF) Network Neural, Network Architecture, Design Choices 梯度下降算法 Gradient Descent Algorithm 基于反向傳播的自動微分算法 Automatic Differentiation using Backpropagation 神經(jīng)網(wǎng)絡(luò)優(yōu)化技術(shù) Neural Network Optimizers 神經(jīng)網(wǎng)絡(luò)正則化在防過擬合中的應用 Regularization for Neural Networks 卷積神經(jīng)網(wǎng)絡(luò)基本概念和體系結(jié)構(gòu) Convolutional Neural Networks: Basic Concepts, Padding, Pooling, and CNN Architecture. 感知野與通過池化層的反向傳播 Receptive Fields, Backprop through max-pooling 顯著圖與神經(jīng)網(wǎng)絡(luò)最新技術(shù)展望 Saliency Maps State Of The Art network 項目回顧與成果展示 Program Review and Final Presentation 論文輔導與投遞 Project Deliverables Tutoring