• Huggingface Daily Papers 2023-09-11 共推薦 5 篇論文。

??說明：

• 本文對(duì) Huggingface Daily Papers 推薦的論文從：主要工作、主要兩點(diǎn)、關(guān)鍵詞和評(píng)估四個(gè)方面進(jìn)行速覽。

• 論文的速覽內(nèi)容基于論文的摘要，使用 GPT-4 進(jìn)行內(nèi)容生成，然后使用程序?qū)?nèi)容整合，并以 Markdown 文本呈現(xiàn)。

Large-Scale Automatic Audiobook Creation

1. 主要工作

本文描述了一項(xiàng)用于從在線電子書自動(dòng)生成高質(zhì)量有聲書的系統(tǒng)。作者充分利用了最新的神經(jīng)文本轉(zhuǎn)語音技術(shù)，從Project Gutenberg電子書集中產(chǎn)生并發(fā)布了數(shù)以千計(jì)的人類質(zhì)量開放許可的有聲書。獨(dú)特之處在于，該系統(tǒng)可以識(shí)別各種結(jié)構(gòu)的書籍需要閱讀的恰當(dāng)子集，可以并行處理數(shù)百本書，并允許用戶定制有聲書的說話速度、風(fēng)格、情感語調(diào)，甚至可以匹配有少量樣本音頻的理想聲音。

2. 主要亮點(diǎn)

• 利用神經(jīng)文本轉(zhuǎn)語音技術(shù)，使得從電子書生成的有聲書達(dá)到人類質(zhì)量。

• 能夠處理大量書籍、生成大量開放許可的有聲書，將這一資源規(guī)模化。

• 提供高度的自定義性，包括說話速度、風(fēng)格、情感語調(diào)以及聲音匹配。

• 針對(duì)多樣化的書籍結(jié)構(gòu)進(jìn)行內(nèi)容解析，提高了系統(tǒng)適用性范圍。

3. 核心關(guān)鍵詞

• Large-Scale (大規(guī)模)

• Audiobook Creation (有聲書創(chuàng)建)

• Neural Text-to-Speech (神經(jīng)文本轉(zhuǎn)語音)

• Customization (自定義)

• Voice Matching (聲音匹配)

4. 評(píng)分

• 實(shí)用性： 5/5

• 創(chuàng)新性： 4/5

• 推薦度： 5/5

該系統(tǒng)具有很高實(shí)用性，既解決了有聲書的制作成本高且耗時(shí)的問題，也增強(qiáng)了讀者參與行動(dòng)的便利性。在技術(shù)應(yīng)用上的創(chuàng)新性較高，但仍然繼承了現(xiàn)有的文本轉(zhuǎn)語音技術(shù)。由于其廣泛的實(shí)用性和對(duì)高質(zhì)量有聲書的生產(chǎn)能力，我強(qiáng)烈推薦本文。

到 Huggingface 論文主頁查看詳情

From Sparse to Dense: GPT-4 Summarization with Chain of Density Prompting

主要工作

本文探索了如何選擇合適的信息量以生成摘要，以便生成的摘要具有足夠的詳細(xì)度，同時(shí)又不會(huì)過于復(fù)雜難懂。具體來說，本文帶來了一種名為“Chain of Density” (CoD) 的方式，借助GPT-4進(jìn)行摘要生成。GPT-4首先生成一個(gè)初步的、對(duì)實(shí)體較稀疏的摘要，然后在保持長(zhǎng)度不變的前提下，逐步加入遺漏的重要實(shí)體。作者們還對(duì)100篇CNN DailyMail文章進(jìn)行了人類偏好實(shí)驗(yàn)。

主要亮點(diǎn)

由CoD生成的摘要更具有抽象性，展示了更多的信息融合，并且不如單純使用GPT-4生成的摘要受到引導(dǎo)性偏差。實(shí)驗(yàn)結(jié)果表明，人類更喜歡CoD生成的摘要，而這種摘要的密度接近人類編寫的摘要。此外，作者們還提供了500個(gè)注釋的CoD摘要以及額外的5,000個(gè)未注釋摘要。

核心關(guān)鍵詞

• GPT-4 (GPT-4)

• Chain of Density (密度鏈)

• Summarization (摘要生成)

• Entity-Centric (以實(shí)體為中心)

• Tradeoff (權(quán)衡)

評(píng)分

• 實(shí)用性：4.5/5

本研究提出的摘要生成方式CoD，可以更好地調(diào)整信息密度，生成適宜閱讀的摘要，具有很高的實(shí)用性。

• 創(chuàng)新性：4/5

文章提出了一種新的用GPT-4生成摘要的方法，采用了新的方式來處理實(shí)體的稀疏問題，并進(jìn)行了實(shí)驗(yàn)研究，展示了創(chuàng)新。

• 推薦度：4.2/5

這篇文章為讀者提供了一個(gè)新方法來生成結(jié)構(gòu)和內(nèi)容都優(yōu)秀的摘要，非常推薦領(lǐng)域內(nèi)的研究者閱讀和參考。

到 Huggingface 論文主頁查看詳情

Mobile V-MoEs: Scaling Down Vision Transformers via Sparse Mixture-of-Experts

論文總結(jié)

1. 本文的主要工作

   本文對(duì)“稀疏混合專家模型”（Sparse Mixture-of-Experts models, MoEs）在縮小視覺轉(zhuǎn)換器（Vision Transformers, ViTs）上的應(yīng)用進(jìn)行了研究。作者們?cè)O(shè)計(jì)了一種簡(jiǎn)化和移動(dòng)友好的 MoE，其中整個(gè)圖像而不是單個(gè)塊都會(huì)被路由到專家。他們還提出了一種穩(wěn)定的 MoE 訓(xùn)練方式，使用超類信息來指導(dǎo)路由器。通過實(shí)證結(jié)果顯示，他們的稀疏移動(dòng)視覺 MoEs（V-MoEs）在性能和效率上都達(dá)到了比相應(yīng)的稠密 ViTs 更好的平衡。

2. 本文工作的主要亮點(diǎn)

   • 提出并實(shí)現(xiàn)了使用稀疏 MoE 的方法來縮小 ViTs，使其在資源有限的視覺應(yīng)用中更具吸引力。

   • 創(chuàng)新地提出整個(gè)圖像而不是單個(gè)圖像塊被路由到專家的設(shè)計(jì)思路。

   • 提出了一種穩(wěn)定的 MoE 訓(xùn)練方法，使用超類信息來指導(dǎo)路由器。這帶來了相對(duì)于傳統(tǒng)方法更出色的表現(xiàn)。

3. 核心關(guān)鍵詞

   • Sparse Mixture-of-Experts models (稀疏混合專家模型)

   • Vision Transformers (視覺轉(zhuǎn)換器)

   • Mobile-friendly design (移動(dòng)友好設(shè)計(jì))

   • Super-class information (超類信息)

   • Inference efficiency (推斷效率)

4. 評(píng)分

• 實(shí)用性：4.5 分。這項(xiàng)研究為提高視覺轉(zhuǎn)換器在資源有限環(huán)境中的應(yīng)用性能提供了有實(shí)效的方法，可能對(duì)實(shí)際設(shè)備的使用有非常大的幫助，實(shí)用性非常高。

• 創(chuàng)新性：4.0 分。本文提出的方法創(chuàng)新性強(qiáng)，并且對(duì)于稀疏混合專家模型以及視覺轉(zhuǎn)換器的應(yīng)用有很大的推動(dòng)作用。

• 推薦度：4.0 分。這篇論文對(duì)于視覺轉(zhuǎn)換器模型優(yōu)化有獨(dú)特而深入的洞察，對(duì)從事相關(guān)工作的研究者具有很高的參考價(jià)值。

到 Huggingface 論文主頁查看詳情

Towards Practical Capture of High-Fidelity Relightable Avatars

論文主要工作

這篇論文提出了一種新的框架—無追蹤可重照明頭像 (TRAvatar)，用于捕獲和重構(gòu)高保真3D頭像。相比于以前的方法，TRAvatar在更實(shí)用和高效的設(shè)置下工作。TRAvatar的主要亮點(diǎn)是動(dòng)態(tài)圖像序列訓(xùn)練，這種序列在光影下不同照明條件下捕獲，使頭像能在多樣化的場(chǎng)景中做到真實(shí)重照明和實(shí)時(shí)動(dòng)畫。此外，TRAvatar允許做到無追蹤的頭像捕獲，并消除在不同照明條件下對(duì)精確表面追蹤的需求。具體貢獻(xiàn)有兩點(diǎn)：一是提出了一種新的網(wǎng)絡(luò)架構(gòu)，明確建立在照明的線性特性上，并確保其滿足性。二是基于圖像序列，我們從頭開始，聯(lián)合優(yōu)化了面部幾何和可重照明外觀。

論文主要亮點(diǎn)

1. 提出了一種新的有效和實(shí)用的頭像捕獲重建框架；

2. 利用動(dòng)態(tài)圖像序列進(jìn)行訓(xùn)練來實(shí)現(xiàn)真實(shí)的重照明效果和實(shí)時(shí)動(dòng)畫；

3. 既可以無追蹤捕獲頭像，又去除了在變化的光照條件下對(duì)表面追蹤的需求；

4. 提出了一種新的網(wǎng)絡(luò)架構(gòu)，考慮到了光照的線性特性；

5. 從頭開始，聯(lián)合優(yōu)化了面部幾何和可重照明的外觀。

核心關(guān)鍵詞

• TRAvatar (無追蹤可重照明頭像)

• Dynamic Image Sequences (動(dòng)態(tài)圖像序列)

• Relighting (重照明)

• Network Architecture (網(wǎng)絡(luò)架構(gòu))

• Joint Optimization (聯(lián)合優(yōu)化)

評(píng)分

1. 實(shí)用性： 4/5，本文提出的框架可以大大改善3D頭像的捕捉和重建，有很強(qiáng)的實(shí)用性。

2. 創(chuàng)新性： 5/5，本文在多個(gè)方面提供了新的方法和思路，具有很高的創(chuàng)新性。

3. 推薦度： 4.5/5，對(duì)于從事相關(guān)領(lǐng)域的研究者來說，這篇文章極具參考價(jià)值，強(qiáng)烈推薦。

到 Huggingface 論文主頁查看詳情

DrugChat: Towards Enabling ChatGPT-Like Capabilities on Drug Molecule Graphs

1.本文主要工作

本文主要工作是開發(fā)了一個(gè)名為DrugChat的原型系統(tǒng)，其能力類似于ChatGPT，但是應(yīng)用在藥物分子圖譜上。用戶可以上傳一個(gè)化合物分子圖并詢問關(guān)于此化合物的各種問題，DrugChat會(huì)以交互式的方式回答這些問題。此系統(tǒng)由圖神經(jīng)網(wǎng)絡(luò)（GNN）、大型語言模型（LLM）和適配器組成。制定了新的系統(tǒng)，使其可以理解和處理藥物分子圖形，并回答關(guān)于藥物的問題。

2.本文工作的主要亮點(diǎn)

本文的主要亮點(diǎn)在于構(gòu)建了一個(gè)具備ChatGPT-like能力的模型，用于解讀藥物分子圖結(jié)構(gòu)。這個(gè)系統(tǒng)具有前沿的藥物分子圖譜理解和藥物問題回答功能，可以促進(jìn)藥物發(fā)現(xiàn)，增強(qiáng)結(jié)構(gòu)-活性關(guān)系的理解，指導(dǎo)優(yōu)質(zhì)化合物的選擇，推動(dòng)藥物再利用，降低失敗率，以及優(yōu)化臨床試驗(yàn)的進(jìn)行。依賴于GNN和LLM的系統(tǒng)設(shè)計(jì)，與用戶實(shí)現(xiàn)交互式對(duì)話，表現(xiàn)出強(qiáng)大的潛力。

3.核心關(guān)鍵詞

• DrugChat (DrugChat)

• Graph Neural Network (圖神經(jīng)網(wǎng)絡(luò))

• Large Language Model (大型語言模型)

• Pharmaceutical Research (藥物研究)

• Drug Discovery (藥物發(fā)現(xiàn))

4.評(píng)分

• 實(shí)用性：4/5

  DrugChat可以加速藥物發(fā)現(xiàn)，有利于藥物研究工作，實(shí)用性較高。但作為初步研究，可能還需要進(jìn)一步在各種實(shí)際場(chǎng)景中驗(yàn)證效果。

• 創(chuàng)新性：5/5

  該研究首次嘗試將GPT-like的技術(shù)應(yīng)用在藥物分子圖譜，構(gòu)建全新的解讀系統(tǒng)，創(chuàng)新性極高。

• 推薦度：4/5

  對(duì)于藥物研究及相關(guān)領(lǐng)域的科研工作者和學(xué)者，本研究具有很高的參考及學(xué)習(xí)價(jià)值。

到 Huggingface 論文主頁查看詳情