我要預(yù)訂

咨詢電話：027-5111 9925 , 027-5111 9926手機(jī)：18971071887郵箱：Service@mingketang.com

課程大綱

1. 大模型的深入理解

1.1 自注意力機(jī)制

注意力機(jī)制的原理與發(fā)展

自注意力在文本處理中的應(yīng)用

1.2 Transformer模型

Transformer模型的結(jié)構(gòu)與工作原理

位置編碼與多頭注意力機(jī)制的詳細(xì)講解

實(shí)戰(zhàn)演練：實(shí)現(xiàn)簡(jiǎn)單的Transformer模型

1.3 BERT模型介紹

BERT模型的雙向編碼器表示

BERT模型的預(yù)訓(xùn)練與微調(diào)過(guò)程

實(shí)戰(zhàn)演練：使用BERT進(jìn)行文本分類任務(wù)

2. Embedding嵌入技術(shù)在大模型中的應(yīng)用

2.1 詞嵌入（Word Embedding）

Word2Vec、GloVe、FastText的基本原理

實(shí)戰(zhàn)演練：構(gòu)建并可視化詞嵌入模型

2.2 句子嵌入（Sentence Embedding）

句子嵌入技術(shù)及其在文本相似度計(jì)算中的應(yīng)用

2.3 上下文嵌入（Contextual Embedding）

上下文嵌入的概念及其在大模型中的應(yīng)用

3. 工具與平臺(tái)

3.1 LLM應(yīng)用程序技術(shù)棧和提示詞工程（Prompt Engineering）

提示詞工程的基本概念與重要性

提示詞設(shè)計(jì)與優(yōu)化的技巧

實(shí)戰(zhàn)演練：設(shè)計(jì)并優(yōu)化提示詞進(jìn)行文本生成

3.2 LangChain等工具的使用與基本演練

安裝與配置LangChain

LangChain的基本使用方法與實(shí)際應(yīng)用案例

4. 實(shí)戰(zhàn)演練

4.1 基于大模型的文本生成與理解

文本生成任務(wù)：生成詩(shī)歌、新聞、故事等

文本理解任務(wù)：情感分析、主題建模

實(shí)戰(zhàn)演練：使用大模型進(jìn)行文本生成與分析

李老師

李海良簡(jiǎn)介

李海良，，暨南大學(xué)副教授，碩士生導(dǎo)師，九三學(xué)社社員，中山大學(xué)工學(xué)博士香港城市大學(xué)訪問(wèn)學(xué)者，廣東工業(yè)大學(xué)校外合作研究生導(dǎo)師。研究方向?yàn)樯疃葘W(xué)習(xí)、圖像識(shí)別、智慧綜合能源和能源大數(shù)據(jù)。在IEEE Transactions on Neural Networks and Learning Systems和Information fusion等TOP期刊第一作者發(fā)表SCI論文6篇，主持省級(jí)課題2項(xiàng)，參與國(guó)家自然科學(xué)基金1項(xiàng)。長(zhǎng)期擔(dān)任IEEE Internet of Things Journal、International Journal of Communication Systems、IET Computer Vision、IET Image Processing和 IET Radar, Sonar & Navigation等SCI期刊審稿人。曾獲得第六屆全國(guó)電子信息科學(xué)博士生論壇論文成果匯報(bào)二等獎(jiǎng)（2017），第七屆全國(guó)電子信息科學(xué)博士生論壇論文成果匯報(bào)三等獎(jiǎng)（2016），2020年12月在INSCRYPT 2020 國(guó)際會(huì)議擔(dān)任Session chair。

2018年獲得中山大學(xué)工學(xué)博士學(xué)位，2019年至2021年在暨南大學(xué)網(wǎng)絡(luò)安全學(xué)院做博后，合作導(dǎo)師為密碼學(xué)與信息安全領(lǐng)域?qū)＜摇?guó)家杰青翁健教授。

擅長(zhǎng)操作系統(tǒng)和數(shù)據(jù)庫(kù)的安全配置，針對(duì)注入式、篡改、偽造、流量分析以及竊聽等主流攻擊方式有深入研究，在人工智能領(lǐng)域，針對(duì)對(duì)抗樣本攻擊與防御方面發(fā)表多篇SCI論文。

曾參與基于聯(lián)邦學(xué)習(xí)的廣東海關(guān)數(shù)據(jù)隱私保護(hù)系統(tǒng)的研發(fā)工作，參與暨南大學(xué)與金山毒霸的校園網(wǎng)攻防安全軟件的研發(fā)工作

參與基于視頻圖像安全的珠海電力局電纜防外破項(xiàng)目

參與東軟集團(tuán)社保系統(tǒng)和醫(yī)院管理系統(tǒng)的研發(fā)工作

曾經(jīng)為廣東移動(dòng)、深圳市電力局、肇慶學(xué)院、嶺南師范學(xué)院、華南農(nóng)業(yè)大學(xué)、東莞城市學(xué)院、電子科技大學(xué)中山學(xué)院以及鄭州航空工業(yè)管理學(xué)院等知名企業(yè)院校提供培訓(xùn)服務(wù)，積累了大量的行業(yè)培訓(xùn)項(xiàng)目經(jīng)驗(yàn)。

擅長(zhǎng)主講課程：

《人工智能》《計(jì)算機(jī)網(wǎng)絡(luò)》《網(wǎng)絡(luò)與信息安全》《軟件工程》《物聯(lián)網(wǎng)》《大數(shù)據(jù)和數(shù)據(jù)科學(xué)》 《網(wǎng)絡(luò)安全》 《互聯(lián)網(wǎng)與人工智能》 《網(wǎng)絡(luò)信息安全與數(shù)據(jù)安全》 《 高級(jí)計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)》 《物聯(lián)網(wǎng)技術(shù)》 《 云計(jì)算與大數(shù)據(jù)算法設(shè)計(jì)》 《軟件工程》 《 研究方法論》 《物聯(lián)網(wǎng)技術(shù)與發(fā)展趨勢(shì) 《網(wǎng)絡(luò)空間安全前沿問(wèn)題研究》 《智能人機(jī)交互》 《高級(jí)人工智能》 《大數(shù)據(jù)科學(xué)應(yīng)用》 《信息安全》 《高級(jí)軟件工程》 《高級(jí)算法設(shè)計(jì)與分析》

獲獎(jiǎng)經(jīng)歷：

2015年8月 第六屆全國(guó)電子信息科學(xué)博士生論壇論文成果匯報(bào)二等獎(jiǎng)

2016年8月 第七屆全國(guó)電子信息科學(xué)博士生論壇論文成果匯報(bào)三等獎(jiǎng)

2020年12月 INSCRYPT 2020 Session chair

學(xué)習(xí)經(jīng)歷

2014年9月-2018年6月，中山大學(xué)，信息與通信工程，博士研究生

2017年7月-2017年9月，香港城市大學(xué)，訪問(wèn)學(xué)者

工作經(jīng)歷

2019年2月至2021年2月，暨南大學(xué)信息科學(xué)技術(shù)學(xué)院，博士后

研究方向

基于注意力機(jī)制的神經(jīng)網(wǎng)絡(luò)，智慧綜合能源和能源大數(shù)據(jù)。

主要論文

1. Hailiang Li, Jian Weng*,Adaptive Dropout Method Based on Biological Principles，IEEE Transactions on Neural Networks and Learning Systems，vol.32,no.9, pp.4267-4276, Sept. 2021,JCR1區(qū),IF:10.451,TOP期刊

2. Hailiang Li, Jian Weng*, A Defense Method Based on Attention Mechanism Against Traffic sign Adversarial samples,Information Fusion,Volume 76, 2021, Pages 55-65,JCR1區(qū)，IF:12.975，TOP期刊

3. Hailiang Li, et al,A Semi-automated Annotation Algorithm Based on Weakly Supervised Learning for Medical Images，Biocybernetics and Biomedical Engineering 40 (2020) pp. 787-802, SCI索引，第一作者，影響因子：4.314

4. Hailiang Li, et al,An improved deep learning approach for detection of thyroid papillary cancer in ultrasound images，Scientific Reprots,(2018) 8:6600，SCI索引，第一作者，影響因子：4.379

5.張宇,李海良*.基于RSA的圖像可識(shí)別對(duì)抗攻擊方法[J].網(wǎng)絡(luò)與信息安全學(xué)報(bào),2021,7(05):40-48.通信作者，中國(guó)科技核心期刊

承擔(dān)課題

1. 基于注意力機(jī)制的安全性圖像識(shí)別模型研究與應(yīng)用，2021廣東省普通高校特色創(chuàng)新項(xiàng)目，主持，17.12萬(wàn)元，項(xiàng)目編號(hào)：2021KTSCX006；

2. 基于 AIOT 的多維視覺(jué)下電力施工人員工作監(jiān)控與管理系統(tǒng)，廣東省科技創(chuàng)新戰(zhàn)略專項(xiàng)資金，主持，2萬(wàn)元，項(xiàng)目編號(hào)：PDJH2021b0058；

社會(huì)職務(wù)

廣東工業(yè)大學(xué)，校外合作碩士生導(dǎo)師

我要預(yù)訂

咨詢電話：027-5111 9925 , 027-5111 9926手機(jī)：18971071887郵箱：Service@mingketang.com