مدل های ترانسفورماتور پیش بینی اندازه گیری اثرات کاغذ از عنوان ها و Abstract ها، در سراسر یک میلیون مقاله ارزیابی شده است
یک مطالعه منتشر شده در تاریخ 14 نوامبر در گزارش های علمی آزمایش کرد که آیا مدل های تبدیل شده می توانند معیارهای تاثیر کاغذ را تنها از عناوین و انتزاع ها پیش بینی کنند. نویسندگان، کامرون C. Young و Marc D. Succi، سه معیار را هدف قرار دادند: استنادات در سال، امتیاز Altmetric و نسبت انتقال نسبی (RCR) از موسسه ملی بهداشت iCite سیستم.
با استفاده از BioBERT به عنوان مدل پایه نماینده، ارزیابی نهایی شامل یک میلیون علم عمومی و مقالات پزشکی است. در مجموعه داده های پزشکی، BioBERT به F1 از 0.494 رسید، دقت 0.504، و MCC از 0.382 برای نقل قول در سال؛ F1 از 0.468 و MCC از 0.354 برای امتیاز Altmetric؛ و F1 از 0.516 و MCC 0.405 برای iCite RCR.
مدل ها بهترین عملکرد را در تشخیص مقالات در بالاترین و پایین ترین ستون های تاثیر انجام دادند و در ستون های میانی ضعیف تر بودند.
منبع: GSM · ایالات متحده (نسخه انگلیسی · نسخه اصلی چینی)
عکس: 图：Transformer 模型的整体架构示意图，左侧为编码器、右侧为解码器。来源：Daniel Voigt Godoy (dvgodoy)，Wikimedia Commons，CC BY 4.0。 / Photo: Diagram of the overall Transformer model architecture, encoder on the left and decoder on the right. Source: Daniel Voigt Godoy (dvgodoy), Wikimedia Commons, CC BY 4.0.
