第27章 可惡!又……
- 我建成了世界一流大學
- 是覺皇不是教皇
- 2739字
- 2022-06-23 19:00:00
“把前一時間步的輸出和當前時間步的狀態同時合并作為當前輸入么?好像這樣確實可以保留時間信息……但會不會‘笨’了一點?”
周粥站在徐毅身后,看著桌子上老師畫的草圖,抿了抿嘴說道:
“這樣的話我們必須儲存之前每一步的狀態,對于計算速度和內存都是不小的麻煩……”
“而且這個循環結構中單個詞組對后文的影響似乎是隨距離而衰減的,我感覺在處理長難句的時候會有不小的誤差吧?”
聽到學生的分析,徐毅滿意地點了點頭,他給二人講的是最基礎的循環神經網絡(RNN),這個網絡其中一個最嚴重的問題就是無法解決長期依賴問題。
例如一句“徐毅,帥氣十足的老師,正在搬桌子”,在經過RNN后就會被理解成“徐毅帥氣十足”和“老師正在搬桌子”,與原意謬之千里。
他僅僅是在紙上畫出了這個網絡結構的草圖,還沒有進行任何實驗,周粥就能憑感覺一語道出其中的缺陷,這不禁讓徐毅對這位愛徒更加喜愛。
于是便把筆放到一旁,起身考校起女孩:“很好的想法!那你覺得該怎么改進比較好?”
周粥皺眉思考了一下,猶豫道:“或許我們可以增加一個判斷步驟,來決定是否將本時間步的輸出傳遞給下一時間……”
想了想,干脆抓起筆,在徐毅之前的草圖上寫寫畫畫起來:
“例如這樣,我們在下面再增加一個通道,用1和0分別代表是否將信息傳入下一時間步,這樣只需要將上下兩個通道相乘即可……”
“不,不行,0和1是離散數據,不能通過梯度下降學習……那我們干脆就用0到1之間的連續函數,剛好可以表示傳入下一時間的百分比……”
“tanh函數變形,就可以完美的把全部實數映射到0到1之間!”
“……不,甚至可以用tanh函數本身!負值的存在或許更可以截斷不相關的相鄰信息!”
她不斷地提出想法又一個個否定并改進,徐毅原本的手稿早已被改得面目全非,隨著想法逐漸完善,周粥的眼睛也越來越亮。
終于,女孩把一團亂麻的草圖丟到一邊,在新的白紙上完整地畫出了自己改進后的神經網絡,興奮地展示給一旁的老師:
“徐老師,你看我畫的這個結構怎么樣!”
怎么樣?棒極了!
眼前的網絡模型,已經有了藍星上長短時記憶網絡(LSTM)的雛形,只要稍加打磨必然能取得遠超RNN的效果,對這一點徐毅毫不懷疑。
但是姑娘,您有這智商,學數學去不好嗎?
干嘛要來計算機行業碾壓我們凡人?
可惡!蒼天何其不公!既生毅,何生粥!
徐毅直勾勾地盯著周粥思緒萬千,全沒注意面前的少女被看紅了臉。
“老師……老師!”耳旁傳入學生含羞的嗔聲,將他的思緒拉回了現實。
他方才驚覺,自己剛剛談話中走神的行為好像相當不禮貌。
連忙掩飾起來:“咳咳……嗯,這個想法其實挺好的,不過還可以再完善一下,例如我們可以把信息的傳遞通過輸入門、遺忘門和輸出門三個通道……”
“我建議你先把自己的想法直接實現一下,然后可以參考我提出的思路改進——當然,如果你有自己的思路也完全沒問題,加油!”
這就是大佬間的惺惺相惜嗎?
師徒二人激烈討論的一旁,王浩中像一個透明人左看右看,在心底發出了積沉已久的吶喊:
“可惡!……真的好羨慕!”
似乎聽到了小胖子的心聲,徐毅終于注意到了似乎學會隱身術的小徒弟:“王浩中,我們剛才討論的內容你能跟上么?”
“嗯……差不多吧老師,不過可能需要回去再仔細理解一下……”
王浩中努力擺出“哦哦原來如此我完全懂了”的架勢,殊不知迷茫的眼神早把他出賣的一干二凈。
一看就知道這小胖子完全沒懂……徐毅在心底微不可及的嘆了口氣,旋即猛然驚醒。
自己什么時候習慣了周粥的速度,產生了“學生一教就會很正常”這種錯誤認知的?
明明王浩中這種情況才是常態!他甚至還是華東學生里面最優秀的之一!
默默檢討自己的錯誤心態,徐毅重新鋪開紙筆,準備給前愛徒仔細講解一下剛剛的一些重點內容,卻不防手機突然響起。
“喂,我是徐毅……吳院長么?好……好的,我馬上過去。”
掛斷電話,徐毅無奈地嘆了一聲,然后說道:“吳院長叫我過去一趟,時長不確定,周粥你來給王浩中講一下吧,我得先走了。”
看到徐老師雷厲風行的披上外套走出門外,周粥叉起腰,一臉壞笑的看著發小:
“王小胖,我感覺好像不太用給你講呀,畢竟你連英文措辭都會改,還有‘差不多吧老師’~”
不就改了你一個單詞嘛?至于這么久還記仇么?
聽到這熟悉的揶揄語氣,王小胖自知逃不過女魔頭的毒手,皺起了小臉哭喪道:“姐姐,我錯了!當時年紀小不懂事,您就饒弟弟這一回吧……”
“我給您買雪糕!種類隨你挑!”
………………
不知道背后周粥已經迫害小胖子簽下屈辱協議,徐毅風風火火走到院長辦公室。
“砰砰砰——”
“請進!”
一進門,徐毅便看到對面的沙發上坐了個人正與吳院長談笑。
見到徐毅進來,二人同時起身,吳院長笑呵呵地率先開口介紹:“鄒市長,我給您介紹一下,這就是我院的徐毅老師;”
又轉頭向徐毅:“徐毅,這是鄒志明鄒市長,鄒市長主管我們市的文化和教育方面工作,你之前在電視上應該也見過。”
徐毅點了點頭,上前伸出手:“鄒市長您好,很高興認識您。”
面前的中年人向前一步抓住他的手,用力地晃了晃:“徐老師你好!好哇,百聞不如一見!徐老師果然青年才俊,一表人才!”
待兩人松開手后,鄒志明才轉頭對吳臻說道:“吳院長,這次舉辦國際交流會,可以提升華東大學、魔都乃至華國的國際影響力,是一件大好事!我們市里一定無條件支持,無論會議是開在華東校內,還是在校外!”
抬手看了看表,對二人道:“時間不早了,我就不叨煩吳院長和徐老師了,我先走了!”
說完又重重拍了拍徐毅肩膀,然后向外走去,似乎是為了見徐毅一面才等到現在。
待送走了鄒市長,二人轉身進樓,吳臻嘴角含笑,開口說道:“怎么樣,見到咱們的副市長,驚喜不驚喜?意外不意外?”
“額,還好吧,”完全不知道魔都副市長是什么概念,徐毅內心自然毫無波動。
看到徐毅的表情,吳臻失笑不已:“你老師說的真沒錯!唉,你啊……”
搖了搖頭,轉向正題:“你這次可真是驚天動地了!報告結束之后,你知道今天學校收到了多少與會申請么?”
“58家!里面有三十多家世界名校,甚至還有MIT和芝加哥大學的兩名學者希望提前一周過來交流!這還只是一天的數據,后面肯定會再增加……”
“要不然你以為鄒市長這種大忙人為什么專門跑來咱們學院?這件事都驚動咱們政府了!”
“你小子,倒真是給了我們一個好大的驚喜!”見徐毅依舊不為所動,吳臻失笑著拍了拍他肩膀:“說點跟你有關的,學校已經同意了我的申請,破格把你提成副教授了。”
“你先別不滿意,現在提教授一是學院暫時沒有名額,二來你雖然成果很突出,但發表論文其實并未達標,容易被有心人抓住做文章,”
不等徐毅反應,吳院長就接著說道,“不過放心,今年年底的教授名額,絕對有你的一席之地!你安心做學術就夠了,其他事情有我和你王老師解決!”
額……其實教授還是副教對我都無所謂,我主要是想當院長……
徐毅看著眼前的老人,摸了摸腦袋,終于還是沒有開口。
嘿嘿,情商+1!
感受到自己的成長,他得意地笑了。