AAAI 2020 | 百度28篇論文入選 涉及NLP、機器學習、視覺等領域

2020-02-10     AI科技評論

立春剛過,人工智慧行業迎來2020年的第一個頂級學術大會,2月7日,AAAI 2020在美國紐約拉開了帷幕。本屆大會百度共有28篇論文被收錄,較AAAI 2019的15篇入選成績提升近一倍,本次入選論文涉及機器學習、自然語言處理、計算機視覺等多個領域,原計劃有多位百度重量級科學家、研究者將受邀赴會發表演講。受疫情影響,眾多中國學者將缺席本次大會,百度作為中國人工智慧行業「頭雁」,通過積極的遠程參與,向世界展示技術、學術能力,提振中國AI開年信心。


自1979年成立至今,AAAI已舉辦34屆,大會彙集了全球頂尖的人工智慧領域專家學者,可謂是人工智慧行業的科研風向標。本屆會議共收到的有效論文投稿超過8800篇,其中7737 篇論文進入評審環節,最終錄取數量為1591篇,錄取率為20.6%。其中百度入選28篇論文,再創百度參會入選論文數歷史新高,這一成績在全球範圍中也處於第一梯隊。此次入選的28篇論文覆蓋機器學習、自然語言處理、計算機視覺等領域,完成了在數量上和研究方向的雙向突破,創新科研能力可見一斑。

在NLP預訓練領域,百度入選論文《ERNIE 2.0: A Continual Pre-training Framework for Language Understanding》也被選做Oral進行展示。ERNIE 2.0是持續學習的語義理解框架,該框架可以增量地學習海量數據中的知識,持續提升語義理解效果。在ERNIE 2.0中,知識可通過預訓練任務的形式加入到訓練框架,每當引入新任務時,該框架可在學習該任務的同時,不遺忘之前學到過的信息。基於該框架,ERNIE 2.0模型通過命名實體預測、句子排序結構重建、語義邏輯關係預測等預訓練任務,從大規模訓練數據中獲取到詞法、句法、語義等多個維度的知識,大幅提升了通用語義理解水平。

ERNIE 2.0同現有的預訓練模型在英文數據集合GLUE和9個中文任務上進行了實驗。 模型在英語任務上幾乎全面優於之前的SOTA模型BERT和XLNet,在7個GLUE任務上取得了最好的結果;中文任務上,ERNIE 2.0模型在所有9個中文NLP任務上全面優於BERT。去年 12月,基於ERNIE 2.0改進的模型在GLUE上首次突破90大關,超越人類基線3個點拿到全球第一。

機器閱讀理解領域,百度入選論文《A Robust Adversarial Training Approach to Machine Reading Comprehension》,討論了機器閱讀理解模型面臨對抗攻擊時的效果魯棒性問題甚至安全問題。通過人工方式發現、總結並生成用於訓練對抗樣本的方式會產生需要人工參與的缺點,且不可能通過規則的方式枚舉出所有可能的對抗樣本類型及其規則。針對此,論文提出一種模型驅動的方式,使用自動對抗的方法無需人工參與,能夠自動地發現未觀察過的對抗樣本類型並最終提升閱讀理解的效果魯棒性。

該方法可以簡單地劃分為三個步驟:(1)對每個訓練樣本我們利用對抗的方法生成一個干擾向量輸入,使得它能夠誤導當前的閱讀理解模型;(2)採用貪心策略從干擾向量的詞彙權重中採樣得到對應的離散化的干擾文本;(3)使用干擾文本構建用於訓練的對抗樣本,並重新訓練閱讀理解模型並重複上述步驟直至收斂。

經實驗驗證,運用上論文中的對抗訓練方法後,在不同的對抗數據集上均有非常顯著的效果提升。並發現論文提出的模型驅動的方法確實能夠生成多樣性更加豐富的對抗樣本,從而補充人工規則的不足。同時也發現使用該方法生成的對抗樣本case仍然較為雜亂,並不具備很好的流利度甚至完全不是自然語言,因此當前對抗生成的方法仍然有較大提升空間。

在計算機視覺領域,百度入選論文《ZoomNet: Part-Aware Adaptive Zooming Neural Network for 3D Object Detection》,並選為oral進行展示。該論文提出了一個全新的雙目3D檢測框架ZoomNet,通過巧妙的利用自適應縮放來降低遠距離的深度估計誤差,以及學習部位特徵來進一步提高3D檢測的表現。在主流的KITTI數據集3D檢測任務上,ZoomNet在驗證集上的平均精度(IoU閾值為0.5)超過Pseudo-LiDAR(CVPR19)近10個百分點。對於遠距離(>40m)的車輛,3D檢測精度比Pseudo-LiDAR高了120% 。

論文表示,對於每一個實例,ZoomNet在獲取左右邊界框後,首先對該實例在2D上做細粒度的分析。然後,2D上的前景像素點會被投影到3D空間中用於位姿的回歸。為了充分利用RGB圖像中豐富的紋理提示來進行更準確的視差估計,ZoomNet引入了一個概念簡單的模塊——自適應縮放,該模塊同時將2D實例邊界框的大小調整為統一的解析度,並相應地調整了相機的固有參數,以實現從調整解析度後的圖像中估計出更高質量的視差圖,以及對不同深度的實例構建相似密度的點雲。此外,論文還提出通過學習實例的部位特徵來提高對遮擋的魯棒性,極大的提高了3D檢測的性能。

入選論文數量的增加可以看出百度AI的學術能力已經獲得國際認可,而在技術研發、產業落地等方面,百度AI更是拿出實打實的「成績單」。


在過去一年中,百度深度學習平台——百度飛槳,累計服務150多萬開發者,發布模型達到16.9萬個,成為中國首個也是目前國內唯一開源開放、功能完備的產業級深度學習平台;百度大腦已經升級成「軟硬一體AI大生產平台」,對外開放240項核心AI能力,服務超過150萬開發者,日均調用量突破1萬億次,語音、人臉、NLP、OCR 調用量中國第一;百度 Apollo已跑入23個城市,測試里程已經突破300萬公里,智能駕駛專利1237項,位列全國第一;截至2019年6月,搭載小度助手的智能設備激活數量已突破4億台,小度助手語音交互超過36億次,前三季度,小度有屏音箱出貨量穩居全球第一。

百度作為AAAI 2020的金牌贊助商,在全面展示論文研究成果的同時,百度展台現場也十分火爆,現場交流者眾多,宣傳材料已被「搶光」。


作為中國AI的領軍者,百度AI既是中國AI的底氣,也是中國AI的信心。2020年伊始,百度AI憑藉強有力的技術、科研實力,向全世界注入中國AI強心劑。未來,百度將繼續沖在前面,「產研」結合推動技術創新,帶領中國AI起舞於國際舞台。

文章來源: https://twgreatdaily.com/zh-cn/EMv9MnABgx9BqZZIm8gq.html