トランスモデル タイトルと抄録からペーパーインパクトメトリック予測、100万件の記事間で評価
トランスモデルがタイトルや抽象だけで紙の影響メトリックを予測できるかどうかを科学レポートで11月14日に公開された研究。 著者、カメロンC.ヤングとマークD.スッチは、年1回の引用、アルトメトリクススコア、米国国立衛生研究所の相対引用比(RCR)を3つのメトリックを対象としています。
バイオベルトを代表的なベースラインモデルとして使用し、最終評価は1,000,000の一般科学および医学の記事をカバーしました。 医学データセットでは、BioBERT は 0.494 の F1、0.504 の正確さおよび 1 年あたりの引用のための 0.382 の MCC に達しました; 0.468 の F1 および Altmetric の 0.354 の MCC; iCite RCR のための 0.405 の F1。
最悪の衝撃のキニの著名な紙で最高のモデルを実行し、中間のキニに弱い。
写真: 图：Transformer 模型的整体架构示意图，左侧为编码器、右侧为解码器。来源：Daniel Voigt Godoy (dvgodoy)，Wikimedia Commons，CC BY 4.0。 / Photo: Diagram of the overall Transformer model architecture, encoder on the left and decoder on the right. Source: Daniel Voigt Godoy (dvgodoy), Wikimedia Commons, CC BY 4.0.
