Inihula ng Transformer Models ang Papel na Nakaiimpluwensiya sa Metrics Mula sa mga Titulo at mga Ebwasyon, Inilakip sa Isang Milyong Artikulo
Sinuri ng isang pag - aaral na inilathala noong Nobyembre 14 sa Scientific Reports kung kayang hulaan ng mga modelong transformer ang epekto ng papel mula sa mga titulo at abstrakto lamang. Ang mga may akda, sina Cameron C. Young at Marc D. Succi, ang nagpuntirya ng tatlong metriko: ang mga transaksyon bawat taon, Altmetric Score, at ang relatibong ratio (RCR) mula sa sistemang National Institutes of Health iCite ng Estados Unidos.
Gamit ang BioBERT bilang representative baseline model, ang huling pagtatasa ay sumaklaw sa isang milyong pangkalahatang agham at medikal na mga artikulo. Sa medikal na dataset, ang BioBERT ay umabot sa F1 ng 0.494, katumpakan ng 0.504, at MCC ng 0.382 para sa mga transaksyon bawat taon; isang F1 ng 0.468 at MC ng 0.354 para sa Altmetric Score; at isang F1 ng 0.516 at MCC ng 0.405 para sa iCite RCR.
Ang mga modelo ay pinakamahusay na nagsagawa sa pagkilala ng mga papel sa pinakamataas at pinakamababang pagbangga quintiles, at mas mahina sa gitnang mga quintile.
Source: GSM · United States (Edisyong Ingles · Orihinal na edisyong Tsino)
Larawan: 图：Transformer 模型的整体架构示意图，左侧为编码器、右侧为解码器。来源：Daniel Voigt Godoy (dvgodoy)，Wikimedia Commons，CC BY 4.0。 / Photo: Diagram of the overall Transformer model architecture, encoder on the left and decoder on the right. Source: Daniel Voigt Godoy (dvgodoy), Wikimedia Commons, CC BY 4.0.
