Modelos de transformador predecir la medición del impacto del papel de títulos y abstractos, valorados a través de un millón de artículos

Un estudio publicado el 14 de noviembre en Scientific Reports probó si los modelos Transformer pueden predecir las métricas de impacto en papel únicamente desde títulos y resúmenes. Los autores, Cameron C. Young y Marc D. Succi, apuntaron a tres métricas: citas por año, puntuación altmétrica y la relación relativa de citación (RCR) del sistema U.S. National Institutes of Health iCite.
Utilizando BioBERT como modelo de referencia representativo, la evaluación final abarcaba un millón de artículos científicos y médicos generales. En el conjunto de datos médicos, BioBERT alcanzó un F1 de 0.494, precisión de 0.504, y MCC de 0.382 para citas por año; un F1 de 0.468 y MCC de 0.354 para puntuación altmétrica; y un F1 de 0.516 y MCC de 0.405 para ICite RCR.
Los modelos se realizaron mejor al distinguir los papeles en los quintiles de mayor y menor impacto, y fueron más débiles en los quintiles medios.
Fuente: GSM · EE. UU. (edición en inglés · edición original en chino)
Foto: 图:Transformer 模型的整体架构示意图,左侧为编码器、右侧为解码器。来源:Daniel Voigt Godoy (dvgodoy),Wikimedia Commons,CC BY 4.0。 / Photo: Diagram of the overall Transformer model architecture, encoder on the left and decoder on the right. Source: Daniel Voigt Godoy (dvgodoy), Wikimedia Commons, CC BY 4.0.

