• 斯坦福/伯克利第三期暑期學術課程

    • 工程導論:李培根院士

    • 科學思維與研究方法:國家教學名師 余龍江教授

    2018休斯敦大學暑期實習項目(10)

    作者:時間:2018-10-22點擊數:編輯:劉艷紅

    綜述篇

    本周是2018年華中科技大學同學來休斯敦大學進行暑期實習的第十周。在導師們和學長學姐們的指導和帶領下,大部分同學的項目已經步入正軌。在項目的進程中正规网赌网站-全国十大网赌正规平台|首页,我們遇到了許多困難和意想不到的發現,但通過和老師的交流,將困難化成機遇,將新發現當作突破口,我們也在逐漸成長。

    個人篇

    UH實習日志|李昌

    本周是來到休斯頓的第10周正规网赌网站-全国十大网赌正规平台|首页正规网赌网站-全国十大网赌正规平台|首页,由于本周五要進行自己的暑期工作總結匯報,本周未進行太多的實驗工作,工作時間都在準備組會匯報。

    導師在上周四回國出差,因此本周的工作也未涉及到許多實驗。主要的任務還是總結前期的工作,為周五的匯報進行準備??偨Y過去的70多的天的工作正规网赌网站-全国十大网赌正规平台|首页,自己承擔了研究Li2DHBQ在鋰離子電池作為正極材料的充放電機理的工作。從最開始的合成方法的摸索,粉末樣品的表征正规网赌网站-全国十大网赌正规平台|首页,再到電池的裝配,測試和分析,自己一路過來得到了許多提升。無論是在實驗的設計到完成,還是數據的收集和分析,都得到了導師和師兄們的指導,有了許多進步。而自己最初想要學習的理論計算方面,雖然在指導我的師兄去阿貢實驗室交流之后沒有太多的進步,但自己仍然學到了許多,知道了理論計算是做什么,該怎么做,自己都有了一個大致的了解,也具備了一定的理論計算能力,算是入了門,但由于自己的背景和理論計算所需的相差太多正规网赌网站-全国十大网赌正规平台|首页,仍然需要很多知識積累和經驗來達到真正的掌握這門技能。

    此外,本周五我和兩個朋友一起去了NASA進行參觀。對美國的航空航天歷史有了一些了解正规网赌网站-全国十大网赌正规平台|首页,對阿波羅登月的歷史有了更清晰和直觀的認識。最讓我開心的是親手觸摸了來自月球和火星的石頭!

     

    UH實習日志|張紫荊

    這是來到休斯頓的第十周正规网赌网站-全国十大网赌正规平台|首页,卻還沒有好好在休斯頓各處逛逛,剛好周末我的好朋友達維要從鳳凰城飛來休斯頓看我正规网赌网站-全国十大网赌正规平台|首页,于是我們一起展開了兩天的休斯頓之旅。

    休斯頓可能最值得一看的地方就是NASA space center 了。NASA Johnson Space Center是美國最大的航天研究,生產及控制中心。美國的航天火箭,航天飛機都是在佛羅里達發射的,但是所有的控制都是在這兒完成的正规网赌网站-全国十大网赌正规平台|首页,也是1969年登月的控制中心。人類第一次登上月球的阿波羅飛船11號正规网赌网站-全国十大网赌正规平台|首页,就在休斯頓約翰遜航天中心升空。一個很有意思的事件是,人類在月球上說到的第一個單詞就是Houston,因為要呼叫地面指揮中心正规网赌网站-全国十大网赌正规平台|首页。這里同時也是美國載人航天飛機的研發基地和載人太空飛行基地。展區面積不大,但是分為好幾個部分,外圍的展區介紹一些天文學知識還有航空發動機等一些科學知識正规网赌网站-全国十大网赌正规平台|首页,展示太空飛行器的模型以及登月和歷代載人航天的宇航服。影院展廳展示美國航空航天發展記錄正规网赌网站-全国十大网赌正规平台|首页。周六這天還非常幸運得能夠聽到NASA的宇航員的報道正规网赌网站-全国十大网赌正规平台|首页,但是由于我們的時間比較緊所以錯過了報告的時間。

                         阿波羅十一號登月時的月球車


    可以觸摸探測器從火星和月球帶回來的石塊

        我們一大早先來到了自然科學博物館,本來以為這個博物館只需要一個多小時就可以逛完,但其實,我們用了三個小時才大致瀏覽完。休斯頓的自然科學博物館非常值得一去正规网赌网站-全国十大网赌正规平台|首页,一共有四層展區。一層的主題是生命的演化,有許多古生物進化的化石,從三葉蟲到恐龍到早期智人,應有盡有。二層展示了德州,非洲的野生動物標本,和埃及美洲印第安人的文化遺跡。但是最讓作為材料專業的我和我的小伙伴激動的是天然礦石的展區,這個戰區展示了許多美麗的天然礦石結晶正规网赌网站-全国十大网赌正规平台|首页。

    色彩斑斕的蛋白石

        置身絢爛的礦石展區當中正规网赌网站-全国十大网赌正规平台|首页正规网赌网站-全国十大网赌正规平台|首页,感覺好像進入了一個寶藏的世界正规网赌网站-全国十大网赌正规平台|首页。博物館的三層是昆蟲標本站以及昆蟲微觀攝影展示,通過微觀攝影,向觀眾們表現昆蟲的翅膀正规网赌网站-全国十大网赌正规平台|首页,觸角,眼睛等等部位的微觀結構。第四層是工業電氣展,主要是向小朋友們科普現在和未來的能源動力的發展現狀和前景。

    隨后我們來到了休斯頓知名的學府萊斯大學。作為一所私立院校,萊斯大學被稱為南方的哈佛正规网赌网站-全国十大网赌正规平台|首页,是由德克薩斯州的棉花巨富威廉馬歇爾1891年創建正规网赌网站-全国十大网赌正规平台|首页。萊斯大學的校園非常美麗,綠樹環繞校園四周正规网赌网站-全国十大网赌正规平台|首页,校園對面就是赫曼公園和休斯敦動物園。距離Museum of Fine Art 和Museum of Natural Science都不遠正规网赌网站-全国十大网赌正规平台|首页。萊斯大學的建筑看起來優雅大氣,同時又能感覺到歷史的印記。

    UH實習日志|關晨宇

     

           來休斯頓已兩月有余正规网赌网站-全国十大网赌正规平台|首页,想來聽力和口語方面應該是有了一個數量級的進步。于是抱著試試看的心態報了本周六的托??荚?。自然這周就必須要重新拾起備考托福的各種資料準備一番了。

           按著脫產復習的方法,周一到周五大約每天從早上到中午都會帶著耳機按1.25倍的速度精聽TPO的材料。下午到晚上的時間被分配給了口語,直觀上來看現在即使不準備口語的段子也不至于大腦空白想不到詞,雖然效果上還是有些磕磕絆絆。但即使對independent speaking充滿的信心,自己還是在綜合口語這邊前進得比較艱難——原來是因為平時聽聽力都沒有記筆記的習慣,自己記筆記的能力直線下降,這對綜合口語來說似乎不是什么好事情,畢竟這里聽力和筆記才是口語的基礎正规网赌网站-全国十大网赌正规平台|首页。于是整個一周花在這個上面的時間似乎比其他部分都要更多一些。周六考試的時候倒也算是磕磕絆絆講完了吧正规网赌网站-全国十大网赌正规平台|首页。 寫作和閱讀倒是沒有太多準備。因為有了之前考GRE寫作時訓練了很多話題以及打字速度,這次托福至少不用擔心沒話寫以及寫不完。事實證明這樣的訓練果然十分有用正规网赌网站-全国十大网赌正规平台|首页,兩篇作文敲完之后都還剩了5到10分鐘來檢查拼寫,字數方面也是遠超題目標準字數要求。閱讀方面確實沒時間準備了,臨考前粗粗讀了兩篇TPO閱讀熟悉一下感覺也就罷了??偠灾?,周六的托福感覺上還是比較輕松的正规网赌网站-全国十大网赌正规平台|首页,至于結果如何,就聽認考官們的安排了。

           不過這周實驗室方面還是做了一些東西的。因實驗需要我們需要用氧化鋁乳液打磨一個光亮的純度為99.999%的金塊,于是這個無聊又要求高的任務被無情地安排在了我頭上正规网赌网站-全国十大网赌正规平台|首页。從1um一直打磨到0.05um,顯微鏡下眼看這金塊上的scratch和pots一點一點消失殆盡,還是挺佩服自己的手工活兒的~

    UH實習日志|趙雋逸

    本周的大事件就是我有幸參加了在Rice University舉辦的 主題為Materials Today: Materials Science for The Next Two DecadesResearch Conference. 這場會議的級別非常之高,到場做report 的嘉賓全是領域里的大師級人物,都是google scolar引用量在五六萬以上的巨佬,以及一些領域里的新星教授。其中flexible electronics領域的Prof. John Rogers以及Soft Materials 領域的Prof. Xuanhe Zhao是我最期待的兩位教授,能夠有幸見到這兩位柔性電子與柔性材料領域的大佬是我夢寐以求的事情。除了這兩位教授之外,還有許多其他的業界大佬,比如rice university Prof. Ajayan (引用量11)等等。

    參加這次會議收獲頗豐,除了見到了許多大佬正规网赌网站-全国十大网赌正规平台|首页,更重要的是了解到了未來二十年材料科學領域的發展動態正规网赌网站-全国十大网赌正规平台|首页。同時一些大佬的report也讓我對現在正在進行的項目有了很多啟發。其中來自UT-Austin Prof. Yuebing Zheng的研究方向是與我現在做的磁流體的課題非常相關, 他做的是laser beam manipulate particles并且已經發了六七篇high-quality的文章了,甚至包括nature子刊和science advance等雜志。這也不禁讓我對我現在的課題充滿了期待

    同時正规网赌网站-全国十大网赌正规平台|首页,我發現我之前做的一個有關plasma nozzle的研究與Prof. Xuanhe Zhaonature上發的一個有關3D printing nozzle的研究的思路非常接近。都是希望利用調焦的思路來調節噴嘴噴出物的直徑,以及提高分辨率的作用。

    Anyway, 超級激動超級榮幸能夠參加這次會議正规网赌网站-全国十大网赌正规平台|首页,收獲頗豐,不虛此行。

    UH實習日志|梁子云

    這已經是我在美國的第八周正规网赌网站-全国十大网赌正规平台|首页正规网赌网站-全国十大网赌正规平台|首页。這周在緊張和忙碌中度過,在做實驗的同時準備國家獎學金的答辯。很感謝在國內幫忙答辯的同學。在這周中,我繼續用不同模型訓練我經過預處理的圖片。一方面繼續熟練自己的編程能力,另一方面繼續提高訓練準確度。

    Alexnet為例

    1. AlexNet模型的特點

    ·           使用了非線性激活函數:ReLU

    ·           防止過擬合的方法:Dropout,數據擴充(Data augmentation)

    ·           其他:多GPU實現,LRN歸一化層的使用

    1.1 使用ReLU激活函數

    傳統的神經網絡普遍使用Sigmoid或者tanh等非線性函數作為激勵函數,然而它們容易出現梯度彌散或梯度飽和的情況。
    在AlexNet中,使用了ReLU (Rectified Linear Units)激勵函數替代Sigmoid/tanh,由于ReLU是線性的,且導數始終為1,計算量大大減少,收斂速度會比Sigmoid/tanh快很多。

    1.2 數據擴充

    當訓練數據有限時,可以通過一些變換從已有的訓練數據集中生成一些新的數據正规网赌网站-全国十大网赌正规平台|首页,以快速地擴充訓練數據。其中,最簡單、通用的圖像數據變形的方式:水平翻轉圖像正规网赌网站-全国十大网赌正规平台|首页,從原始圖像中隨機裁剪正规网赌网站-全国十大网赌正规平台|首页、平移變換,顏色正规网赌网站-全国十大网赌正规平台|首页、光照變換。
    AlexNet在訓練時,在數據擴充(data augmentation)這樣處理:
    (1)隨機裁剪正规网赌网站-全国十大网赌正规平台|首页,對256×256的圖片進行隨機裁剪到224×224正规网赌网站-全国十大网赌正规平台|首页,然后進行水平翻轉,相當于將樣本數量增加了((256-224)^2)×2=2048倍;
    (2)測試的時候,對左上、右上、左下、右下正规网赌网站-全国十大网赌正规平台|首页、中間分別做了5次裁剪,然后翻轉,共10個裁剪,之后對結果求平均。作者說正规网赌网站-全国十大网赌正规平台|首页,如果不做隨機裁剪,大網絡基本上都過擬合;
    (3)對RGB空間做PCA(主成分分析),然后對主成分做一個(0, 0.1)的高斯擾動,也就是對顏色、光照作變換,結果使錯誤率又下降了1%。

    1.3 重疊池化

    一般的池化(Pooling)是不重疊的,池化區域的窗口大小與步長相同。在AlexNet中使用的池化(Pooling)卻是可重疊(Overlapping)的,也就是說正规网赌网站-全国十大网赌正规平台|首页,在池化的時候,每次移動的步長小于池化的窗口長度正规网赌网站-全国十大网赌正规平台|首页。AlexNet池化的大小為3×3的正方形正规网赌网站-全国十大网赌正规平台|首页,每次池化移動步長為2,這樣就會出現重疊。重疊池化可以避免過擬合正规网赌网站-全国十大网赌正规平台|首页。

    1.4 局部歸一化(Local Response Normalization,簡稱LRN

    歸一化(normalization)的目的是“抑制”,局部歸一化就是來實現局部抑制正规网赌网站-全国十大网赌正规平台|首页,尤其當使用ReLU時,因為ReLU的響應結果是無界的(可以非常大)正规网赌网站-全国十大网赌正规平台|首页,所以需要歸一化。使用局部歸一化的方案有助于增加泛化能力。LRN的核心思想就是利用臨近的數據做歸一化。

    1.5 Dropout

    引入Dropout主要是為了防止過擬合。在神經網絡中Dropout通過修改神經網絡本身結構來實現,對于某一層的神經元,通過定義的概率將神經元置為0正规网赌网站-全国十大网赌正规平台|首页正规网赌网站-全国十大网赌正规平台|首页,這個神經元就不參與前向和后向傳播正规网赌网站-全国十大网赌正规平台|首页,就如同在網絡中被刪除了一樣,同時保持輸入層與輸出層神經元的個數不變,然后按照神經網絡的學習方法進行參數更新。在下一次迭代中,又重新隨機刪除一些神經元(置為0),直至訓練結束正规网赌网站-全国十大网赌正规平台|首页。
    Dropout也可以看成是一種模型組合,每次生成的網絡結構都不一樣,通過組合多個模型的方式能夠有效地減少過擬合,Dropout只需要兩倍的訓練時間即可實現模型組合(類似取平均)的效果,非常高效正规网赌网站-全国十大网赌正规平台|首页。

    1.6 GPU訓練

    AlexNet當時使用了GTX580的GPU進行訓練,在每個GPU中放置一半核(或神經元),將網絡分布在兩個GPU上進行并行計算,大大加快了AlexNet的訓練速度。

    AlexNet的特點和創新之處,總結如下表:

    算法

    作用

    ReLU、多個GPU

    提高訓練速度

    重疊池化

    提高精度,不容易產生過擬合

    局部歸一化

    提高精度

    數據擴充、Dropout

    減少過擬合

    在周末,我聽了Taylor Swift的演唱會--reputation stadium tour。我在美國俄勒岡州讀初中時,開始愛上她的歌,一晃已經過去了九年正规网赌网站-全国十大网赌正规平台|首页,單曲循環過她的每一首歌。用我自己的獎學金買下將近300美元的門票,度過了最難忘的一晚。

     

    UH實習日志|熊雨琴

           這周,我進一步閱讀了deep lesion數據庫的文章,發現他們主要是用Faster RCNN的方法來進行訓練。Faster RCNN是目標檢測領域比較新的方法,得到的結果也比較好。

            這幅圖比較簡單明了的說明了它的結構,Faster RCNN可以分為4個主要內容:

    1. Conv layers正规网赌网站-全国十大网赌正规平台|首页。 Faster RCNN首先使用一組基礎的conv+relu+pooling層提取image的feature maps。該feature maps被共享用于后續RPN網絡和分類網絡,這一部分可以理解為基礎網絡部分,通常使用VGG或resnet正规网赌网站-全国十大网赌正规平台|首页。

    2. Region Proposal Networks。RPN網絡用于生成region proposals。該部分判斷anchors屬于foreground或者background,RPN網絡里面的前景和背景的網絡就相當于一個‘注意力’機制,再利用bounding box regression修正anchors獲得比較精確的proposals。

    3. Roi Pooling。該層使用基礎網絡輸出的feature maps和proposals(rois)正规网赌网站-全国十大网赌正规平台|首页,生成固定大小的proposal feature maps,送入后續分類網絡判定目標類別。

    4. Classification。 所有的RCNN系列的方法都把檢測的問題轉換為對圖片的局部區域的分類問題,利用proposal feature maps計算proposal的類別正规网赌网站-全国十大网赌正规平台|首页,同時再次bounding box regression獲得檢測框最終的精確位置。

    Faster RCNN使用RPN來避免選擇性搜索方法正规网赌网站-全国十大网赌正规平台|首页,它加速了訓練和測試過程,并提高了性能。

    文章中最后達到的結果是81.1%的sensitivity當平均每張圖有5個FPs。

     

    UH實習日志|李宛澤

          本周的主要任務仍然是繼續對整體式傳感器外殼進行測試,主要問題還是外殼經常只能被崩成兩半,而不是成為設想中的碎片。對于這個情況,我先是將橫向和縱向上外殼薄弱線的厚度進行了調整,其次設計了一些方案試圖在外殼內部產生一個大于外殼極限的壓力,還有就是想辦法提高外殼的氣密性正规网赌网站-全国十大网赌正规平台|首页。說來有些可笑,我花了很大功夫來研究如何在外殼內部產生一個大壓力,還想過在殼體內部加設一個密封球殼,但是氣密性又難以保證正规网赌网站-全国十大网赌正规平台|首页。后來在實驗室里找到了一臺大功率氣泵,希望下周能測試下正规网赌网站-全国十大网赌正规平台|首页,解決這個問題,如果一切順利,我就要開始考慮如何在外殼內部設置氣源的問題了。

          另外,本周六我去考了一場托福,這周也付出了一些時間來進行準備,但是感覺并不十分理想,希望結果不要太糟吧。

     

    常用系統與鏈接/LINK

    湖北省武漢市洪山區珞喻路1037號 華中科技大學啟明學院 郵編:430074   電話:027-87558300 027-87793421   傳真:027-87793423  郵箱:qiming@hust.edu.cn

    正规网赌网站-全国十大网赌正规平台|首页