茫茫滄海尋一粟——想必這是許多學者在使用arXiv網站搜索論文時的痛苦心聲。不過現在arXiv給大家帶來了一個好消息：他們將 170萬篇arXiv論文集成為一個格式機器可讀的數據庫，并將該數據庫托管到了Kaggle上供用戶免費使用。數據庫包括論文標題、作者、類別、摘要、全文pdf等論文相關信息。arXiv 論文數據庫Kaggle地址：https://www.kaggle.com/Cornell-University/arxivarXiv：從一個論文存儲庫轉變為一個知識共享平臺近30年來，arXiv網站為公眾和研究人員提供了獲取學術論文的可靠途徑。論文類型多樣，從物理學到計算機科學、再到介于兩者之間的各類學術內容，涵蓋數學、統計學、電氣工程、定量生物學和經濟學等熱門學科。無論是鉆研單一領域的學生、尋求跨學科研究的教授還是服務公共事業的社會研究者，都能在arXiv上搜集到有利的信息。然而，arXiv網站所收錄的論文數量十分龐大，為用戶的閱讀帶來明顯的壓力。另一方面，arXiv 本身也由于過分依賴 LaTex 而出現一系列缺陷，包括：1）使用 LaTeX 進行排版的方式局限于單個社區，其界面、語言、使用方式對不會編程或者只用過 WYSIWYG 編輯器的人來說比較陌生；2）網站上的論文一直以pdf格式交換、閱讀，但大多數pdf文檔不支持在線編輯，以致許多論文無論在網頁上閱讀、討論與共享；3）論文所承載的信息可發現率低；4）arXiv的論文與數據獨立存在，論文數據無法共享。雷鋒網其中第三點缺陷所造成的不利影響，正如arXiv 科技總監Steinn Sigurdsson所指出的，由于數據集的龐大，讀者很可能會忽略一些重要的發現、關聯知識、創新工具或視角。這些被忽略的信息也許能幫助研究人員產生一些關于原有研究主題與跨學科領域的新的見解，有更多新發現與創造力。雷鋒網而 Kaggle 作為數據科學家和機器學習工程師搜集數據集、閱讀公開筆記和進行競賽的平臺，可以讓研究人員利用該平臺上豐富的數據探索工具，輕松地與他人共享相關論文文本和輸出。雷鋒網arXiv的執行董事 Presani 指出，將arXiv 論文數據庫托管到Kaggle上供用戶自由訪問，將放大這些論文本身的價值，因為這不僅僅給讀者提供了一個通過閱讀論文學習的平臺，更是讓論文本身承載的數據和信息以機器可讀的方式在研究者之間共享、傳播和交流。他進一步表示，arXiv 要想從一個論文存儲庫轉變為一個知識共享平臺，就要求他們不斷創新展示知識與解釋知識的方式。而Kaggle的用戶可以幫助突破創新的局限性，為科研界相互協作提出一種新途徑。arXiv 方面表示，此舉的初衷是希望能推動新用例的產生，幫助研究人員探索更多結合面向應用的多模態特征的機器學習技術，包括趨勢分析法、論文推薦引擎、類別預測、同被引網絡、知識圖譜構建和語義搜索接口等。Google 的COVID-19 Research Explorer就是這樣一個基于特定語料庫進行語義搜索的用例。這個工具可幫助研究人員精讀擁有190,000+篇關于COVID-19的研究論文的資料庫——COVID-19數據集。基于此類數據集的接口使用了先進的自然語言理解（NLU）技術來了解用戶查詢的目的。這個數據集能為復雜的科學問題提供更多相關數據和證據，大大提高了研究效率。而他們發布這個機器可讀的arXiv數據集，就是希望其能推動該領域的研究者開發出能夠處理此類新的語料庫的相似的自然語言理解工具。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
