qioc3quxwl的部落格

學習英文與了解天下事，為什麼要讀時代雜誌呢？

閱讀世界新鮮事的人所擁有的國際觀是非常驚人的

當你開始閱讀time時代雜誌增加英文閱讀能力，同時也可以提昇世界觀

因此無論出社會還是在學時，推薦學英文的其中一種方法就是大量閱讀time時代雜誌

藉此提高外文的閱讀理解能力，提高英文文章與新聞的理解力，time時代雜誌是一個非常好的讀物!

因為這本雜誌所囊括世界各地最新的奇人異事，可以讓眼界變得更寬廣

而且許多最新片語詞彙，不見得你在字典可以找到，很多都是新創名詞

讓你的頭腦可以跟著世界的巨輪一起前進

只要閱讀1-2個月，你會發現你看原文的速度至少快上2-3倍。

除了TIME雜誌外，經濟學人，科學人，國家地理中文都很推薦

下面的介紹，可以讓你快速了解雜誌的特色

↓↓↓TIME雜誌限量特惠的優惠按鈕↓↓↓

PTT鄉民限量,團購,限時,週年慶,中科大 × MSRA | 周明博士講座實錄：自然語言處理讓生活更美好禮物,優惠,特價,開箱,比價中科大 × MSRA | 周明博士講座實錄：自然語言處理讓生活更美好,活動,好評,推薦

中科大 × MSRA | 周明博士講座實錄：自然語言處理讓生活更美好01網友哪裡便宜,採購,優缺點,試用,中科大 × MSRA | 周明博士講座實錄：自然語言處理讓生活更美好好用,中科大 × MSRA | 周明博士講座實錄：自然語言處理讓生活更美好CP值,經驗,好康,集購,下殺,免比價,去哪買？,

名人推薦介紹,中科大 × MSRA | 周明博士講座實錄：自然語言處理讓生活更美好部落客,排行,體驗,精選,限定,折扣,中科大 × MSRA | 周明博士講座實錄：自然語言處理讓生活更美好折價卷,ptt,蝦皮拍賣,Dcard推薦評比開箱

選購指南!中科大 × MSRA | 周明博士講座實錄：自然語言處理讓生活更美好這新知
如何選購中科大 × MSRA | 周明博士講座實錄：自然語言處理讓生活更美好這新知
新手選購有技巧！部落客大推中科大 × MSRA | 周明博士講座實錄：自然語言處理讓生活更美好這新知
中科大 × MSRA | 周明博士講座實錄：自然語言處理讓生活更美好好用
這個這新知中科大 × MSRA | 周明博士講座實錄：自然語言處理讓生活更美好你不能錯過
熱門的中科大 × MSRA | 周明博士講座實錄：自然語言處理讓生活更美好好用？如何選購

↓↓↓下方有其他推薦產品與服務讓你選喔↓↓↓

熱點新知搶先報

... 作者：微軟學術合作 本文約5600字，建議閱讀10分鐘 MSRA 副院長周明博士以《溝通無界——自然語言處理讓生活更美好》為主題，介紹了自然語言處理（NLP）尤其是神經網絡 NLP 的進展，探討了未來的技術發展。 標籤：自然語言處理 中國科學技術大學×微軟亞洲研究院系列講座開講，MSRA 副院長周明博士以《溝通無界——自然語言處理讓生活更美好》為主題，介紹了自然語言處理（NLP）尤其是神經網絡 NLP 的進展，探討了未來的技術發展。他還從企業角度講述人才培養的體會，幫助同學們尋找未來個人發展方向，增強自身軟實力、硬實力，為科研、職業發展打下堅實基礎。 主講人介紹 ... 周明博士，微軟亞洲研究院副院長 國際計算語言學會（ACL）前任會長，中國計算機學會副理事長、中國中文信息學會常務理事、首都勞動獎章獲得者。他長期從事自然語言處理研究，並對 NLP 在中國和世界的發展做出了重要貢獻。 溝通無界——自然語言處理讓生活更美好 ... 話題 1：介紹自然語言處理的研究 為什麼這幾年人工智慧取得了突飛猛進？ 我認為有如下三個方面來推動。 第一個就是數據，我們有了前所未有的大數據。利用大數據，基於機器學習就可以獲得數據的規律或者抽取重要的知識，來指導系統進行智能操作。 第二個就是以深度學習為代表的算法。有了深度學習的算法和工具，使得編制人工智慧的程序變得容易。 第三個就是計算能力。現在雲計算或者 GPU 集群訓練一個大的模型不在話下，以前幾個月訓不出來的模型，現在幾天或者幾個小時就可以訓練出來。 這三個要素，推動了人工智慧在語音、圖像、自然語言理解等各個方面取得新的進展。 ... 神經網絡自然語言處理的關鍵技術 神經網絡自然語言處理是當下的主流。這個圖展示了神經網絡自然語言處理過去 5 年左右發展的一些脈絡，以及對機器翻譯、閱讀理解等研究的推動。 ... 神經網絡自然語言處理的關鍵技術，我認為有5個最重要的。 ... 第一個是 word embedding，詞嵌入，也就是詞的一種語義表達，用多維向量代表詞的語義。 第二個是 sentence embedding，句子嵌入，即一個句子的語義表達。 第三個是 encoder decoder，把一個字符串轉換成另外一個字符串，經過編碼器（encoder），然後再通過一個解碼器（decoder）來實現。中間發展了一個技術叫注意力模型（Encoder decoder with attention），來強化編碼和解碼的水平。 第四個技術是 Transformer，引入了自注意模型來提高循環神經網絡的編碼和解碼能力。 最後一個技術是預訓練模型。這五個技術是目前神經網絡自然語言處理最核心的技術。 如何獲得詞的語義表示呢？我介紹一個叫 Word2vec 的方法。 詞的含義需要聯繫上下文決定。我們想把詞表達出來，實際上是想做到同義詞、近義詞在語義空間中相近。我們表達一個詞，是通過它周圍的詞來代表的。有一句話叫「觀其伴知其意」。比如 bank 這個詞，很難具體說它是什麼意思，但是如果知道它經常跟什麼樣的詞在一起連接、關係多強，那也大概猜出這個詞的意思了。 Word2vec 是通過一個大規模的語料庫來計算、訓練預測能力。比如，可以用一個詞的左邊兩個詞和右邊兩個詞，通過一個神經網絡預測中間這個詞。一開始肯定預測不準，網絡初始化後，經過多個例子訓練，假設網絡穩定了，就能有一個比較精準的預測結果。這樣就得到了每個詞的語義表示。同樣，也可以通過當前詞預測左右兩個詞或者更多的詞，根據預測錯誤調整網絡權重逐步得到較好的預測。 下面簡單介紹「預訓練模型」。上述的 word embedding 是靜態的。比如 bank 這個詞，無論什麼上下文，它都是同一個 word embedding。但實際上 bank 在不同的上下文有不同的意思。為了體現動態信息，引入了一個預訓練的自然語言模型，體現每一個詞在不同上下文的意思。一般來講，現在常用的是 Masked LM，即把某一個詞蓋住，根據上下文通過一個網絡來猜這個詞，猜得不準則再調整網絡。也可以加入一些別的任務，比如預測某一句話是不是當前句的下一句。基於這種信息可以訓練一個網絡，對輸入的句子得到上下文關聯的詞的向量表示。基於這種預訓練模型，對自然語言的上下文和單句都可以很好地建模。 自然語言處理，能做什麼？這裡舉一些例子。可以做語義分析。通過一句話，我們來分析出它的語義表達。如果是上下文有關的話，要把上文得到的結果存下來，幫助下文進行語義分析。 我們也可以從一個文本中抽取重要的信息，抽出時間、地點、人物等等得到結構化的信息表示。可以用來知識抽取、搜索，還可以做自動文摘和自動問答等等。 ...... 我們也可以對圖像進行註解。理解一個特定圖像的內容，給出自然語言的描述。 我們還可以做很好的機器翻譯、手語翻譯、對聯、寫詩等等。 ............ 話題 2：探討未來的技術發展趨勢 現在自然語言存在哪些問題？ 首先它缺乏常識和推理。 ... 有的時候多輪對話，前後輪不一致，因為機器人沒有把前輪得到的信息很好地保存下來並在對話的時候巧妙激活，從而出現時間上不一致，空間上不一致，還有邏輯不一致等各種現象。 ... 我們現在利用的是大規模的計算資源來做訓練，特別耗資源，大家都搶 GPU。為了在計算能力上占據領導地位，很多大公司都去開發新的晶片、大規模的 GPU 集群支持訓練過程。這成為一種無休止的計算資源的軍備競賽。 數據本身也存在問題。數據標註的時候，由於標註員或者來源的問題，使得數據的標註有一些偏差造成訓練獲得模型也有很多偏差。數據本身的偏差如何消除？如何消除歧視？這是目前沒有很好解決的問題。 還有隱私問題。用戶的數據，我們不能拿來做訓練的話，也沒辦法實現個性化服務。可是拿來訓練的話，可能侵犯用戶的隱私。如何做隱私保護下的機器學習？比如現在的聯邦學習就是一個非常重要的研究方向。 未來的技術發展，我們想做什麼？ 我們想做可解釋、有知識、有道德，經濟的不斷學習的 NLP。比如，對於資源豐富的任務，要做上下文建模、數據糾偏，多任務學習，人工知識的引入；對缺少數據資源的任務，要研究遷移學習把其他領域或者廣義的知識引入到具體的領域中，或者引入人類知識，使模型能夠冷啟動，在使用過程中再逐漸提高自己的能力。 未來的研究重點包括以下 10 個方面。 ... 如果大家有興趣，可以參考我們最新出版的兩本書了解神經網絡、問答或翻譯的詳細介紹。 ... 話題 3：從企業角度探討人才培養的體會 現在，我們高校畢業生人數迅速增長，但是我們發現有很多同學到了企業之後，無論是專業技能還是與人相處的能力，都跟企業的要求有很大的距離。當然，這也是正常的，每個人都有一個再學習和再調整的過程。但是，如果在大學階段就在某些方面有意識地調整自己，將來到社會上可以很快地適應。我們現在的人才培養機制培養出很多工程師和一般水平的人才，但是領軍人才相對比較少。學校如何增強一些卓越人才的培養，強化這樣的人才必備的素質？我們組過去培養了 500 名同學，還有二十幾名博士和二十幾名博士後，也積攢了一些經驗，在這裡跟大家分享一下。 我認為優秀人才的培養需要注重三個方面的素質。 第 1 個是人生哲學方面，對人的一生的一個要求和高度。要求越高，成長的空間越大，就可能有更好的成就。第 2 個是硬實力，數學、編程這種專業技巧。第 3 個是軟實力，EQ、執行能力、計劃能力、樂觀態度。 ... 分別給大家闡述一下我的觀點。 首先，人生哲學。除了人的品德道德之外，有三個方面的素質非常重要。 第一是追求創新。創新就是提出異於常人、異於常規的一些思路見解，為滿足社會需求進行改進，創造新的理論方法、技術模式、產品，提高生產率並造福人類。比如賈伯斯，大家都知道賈伯斯一生不停地創新。他有文理兼備的素質，很多人認為他是理工男，但實際上賈伯斯輟學之前上的是里德學院，是個典型的自由派文科學院。賈伯斯愛學的選修課是書法和舞蹈，把書法、舞蹈學到的一些美學觀點，引入到蘋果的電腦設計之中。他也強調一定要做產品上的創新，創新決定了你是領袖還是跟隨者，你要跟最優秀的人一起工作。他大膽推動產品創新，把蘋果從下滑中挽救了回來，成為市值最高的公司之一。所以我們同學要一開始就培養創新的能力。 第二是成長型的思維。人的思維有兩個，固定型、成長型。人人都有這兩個思維。固定型思維認為，人的特質和能力先天固定，後天無法改變，這種思維導致大家按部就班、隨意而安、害怕失敗，只願意做自己擅長的事情。成長型思維認為任何技能、能力都可以通過不斷地學習、發展，沒有一個先天的框架說我數學不好，所以我就不搞數學，我英語不好，我永遠不學英語。不是，而是要逆襲，挑戰自己，強化自己的相關的一些能力。比如說微軟的 CEO 納德拉就主張成長型思維，鼓勵大家創新。微軟公司從一個原來比較舒服的領域，PC 和作業系統，走向不熟悉但有更大發展空間的元計算和開源，給公司帶來了更大的發展空間。 第三就是格局要高，即人生的境界要高，不能小富即安。舉個例子，微軟的創始人比爾蓋茨，大家都知道他最近辭去微軟董事會的職務，全心全意去做慈善了。他在微軟公司的時候，一開始就立意高遠。在公司規模還很小的時候，他就說，未來每個人桌子上都有個電腦，每個人電腦上都運行著我的軟體。公司做大之後，他又想到人類共同發展遇到的一些問題，比如公共衛生等等，把錢和精力幾乎全部投入到這些人類共同面對的問題上。我也希望，大家不要說未來多掙些錢、買套房子，就完事了。我們應該想到憑我們自己的能力走完這一生的話，能幫助人類解決很重要的問題，我們有本事、有能力去解決。 人生哲學之後，第二個是硬實力。數學非常重要，它是建立模型、進行推導、進行統計、找出規律必不可少的一個手段。剛才我介紹了神經網絡自然語言處理，背後都是一些數學。其次，英語很重要。大學期間大家都學了很多英語，但是有的同學畢業之後到了國外，張不開嘴，看英文文獻存在一些障礙。英語是一個不停學習、終身學習的過程。第三，我想強調編程的重要。我們有一個想法，如果不會編程的話，這些東西就淪為空想。會編程的話，一開始很稚嫩的一個程序，有新的想法、不停疊代，越來越好，最後才會有一些偉大的創新。 第三是軟實力，這裡稍微多說一下。 情商高的人，他了解自我，可以進行管理、自我激勵，也了解別人的情緒，很好地處理人際關係，承受壓力，自信但不自滿。他尊重別人，肯於幫助別人，不怕失敗。低情商的表現就是自我意識差，不自信，不確定目標，依賴他人，不考慮他人的感受，處理人際關係能力差，生活無序，愛抱怨，心理承受能力差，受不了一點打擊，不與別人交流。 軟實力還表現在對環境的適應能力。比如說大學畢業的同學聚在一起，你會發現有幾位同學後來非常優秀，但是他並不是大學的時候學習最優秀，而是到了一個新的工作崗位或社會上，很快地調整自己，把自己的不足快速地補上來，跟別人學習、跟書本學，成為越來越優秀的人。可是，有好多人，他不太適應環境，總覺得環境對他不公，遇到挫折就灰心喪氣，沒有很好的成長空間。那麼 10 年、20 年過去之後，他原地踏步，甚至倒退，而其他人在前進。 還有就是積極樂觀的精神。積極的人看到每一次的挑戰，都會看到一些機會，而消極的人，他會看到一些憂患。所以說「機遇」，既有危機，也有新的機會。 最後，我希望大家很好地規劃你的大學 4 年。 剛入學的時候，是一個非常稚嫩但充滿期待的人，一塊璞玉，我希望你經過自己很好的努力和規劃，4 年後走出校園，有一身武藝，可以劍走四方、行俠仗義，成為一個有勇有謀的國家棟樑。正如一句格言所說，理想如晨星，我們永不能觸到，但我們可以像航海者一樣，借星光的位置而航行。請你選擇一條適合自己的路，堅持走下去，堅持下去直到成功。 這就是我今天的講座，希望大家理解自然語言處理的核心技術，目前的發展和未來的趨勢。我也希望大家考慮一下，你在研究的開始階段也就是大學第一年的時候，調整一下自己，做出相應的規劃，為未來的研究生涯做好準備。 Q&A Q：現在我們做計算機編程的同學都在追捧算法崗，比如深度學習、人工智慧、NLP 等等，國家也在培養人工智慧的新方向，大家越來越火熱地往這個方向擠。這種現象健康嗎？以後畢業能找到工作嗎？ 我認為，首先是人工智慧非常重要，一是國家重視，二是現在有很大發展前途，包括軟體硬體，各種應用例如安防、醫療、健康、交通等等，都有很多沒有解決的問題。但是，並不意味著所有人都要追求去搞人工智慧。現在學習一些人工智慧，包括編程，為未來做不是人工智慧的一些方向也有一定幫助。AI既是一個技能，也是一個思考方式，把思考方式應用在其他一些領域內，也會增強你的能力，提高你的創新速度。Follow your heart，看你想做什麼，不一定別人做什麼你就要做什麼。同時也要兼收並蓄，在大學期間把關鍵的技術，尤其是基礎部分，數學、算法、編程弄好，將來可以很容易地調整自己。 Q：很多同學覺得現在預訓練模型橫掃了我們的領域，需要極大的運算量，大家只能做 fine-tune 的任務，甚至實驗室的條件做 fine-tune 微調都比較吃力。在這個方向上該怎麼進行繼續的研究，如何減少對計算力這麼大的依賴？ 因為我們同學還在學習階段，沒有到像 MSRA 或其他公司那種直接進行創新的階段，所以主要經歷還是放在學習已有的知識和基礎上。學習要分兩個階段，前者是打基礎，後者是應用，不同的階段對資源有不同的要求，大家儘量去適應目前的資源情況，調配一下自己，不要為計算資源所累。 Q：有的同學在研究生物學，因為我們現在深度學習都是基於類腦的學習，這對我們機器學習有幫助嗎？自然語言處理這些知識，很多需要往跨學科領域去做，能不能反過來，從別的學科往我們這個學科來做？ 我覺得首先跨學科總是有幫助的，過去無數事實證明跨學科產生新想法，但是我們在實現跨學科之前，別盲目，先把自己的學科學紮實，把人類已有的經驗、技能掌握好，在此基礎上再去尋求跨學科。第二，最好請一個其他領域的同學或者老師跟你合作，大家各有所長，可以取得更好的進展，防止你過於偏頗。所以我覺得跨學科也要講究循序漸進的過程。 回到腦科學，腦科學對自然語言處理，目前來講沒有證明有多麼好的一些促進，未來有沒有可能？有可能，因為可能會改進神經網絡的一些算法或者結構。過去最早的神經網絡也受腦科學的啟發，但是目前來講又停滯了，看不出來腦科學對 NLP 或其他人工智慧有多麼大的一個進展。也許未來積攢到一定程度，又有一個爆發的過程。我希望同學要 keep an open eye，首先了解自己的領域，同時也關注其他學科。試圖捕捉未來的機會，但是不成熟之前，也不著急，打好基礎，不一定要急於成功。 編輯：王菁 校對：林亦霖 —完— 關注清華-青島數據科學研究院官方微信公眾平臺「 AI數據派 」及姊妹號「 數據派THU 」獲取更多講座福利及優質內容。

文章來源取自於：

每日頭條 https://kknews.cc/tech/lvogege.html

如有侵權，請來信告知，我們會立刻下架。

DMCA：dmca(at)kubonews.com

聯絡我們：contact(at)kubonews.com

2020年Business Traveller高雄哪裡訂休閒時尚雜誌桃園哪裡訂國際書展親子天下桃園哪裡訂2020年TIME美國時代雜誌訂購優惠
TIME美國時代雜誌桃園哪裡訂 中考改革的3個「寶藏」細節，你知道麼？(1)商業周刊高雄哪裡訂 四點美白小秘訣，做到一半，黃皮逆襲不是夢國際書展TIME美國時代雜誌台北哪裡訂 初入寫作深海，寫作體系該如何搭建？(1)國際書展讀者文摘桃園哪裡訂 西安市中高考補習機構何時開學？教育部門回應了(1)