论文发表仅3天就被撤稿 “滑稽”AI画作为何现身学术期刊?丨科技观察

封面区块链 该文章已上链 >

封面新闻 2024-03-01 17:42 115255

封面新闻记者 车家竹 马晓玉

细胞信号传导图像更像是电路板,实验培养皿中出现汤勺......看似天马行空的想象竟然变为学术期刊的插图。

2024年2月13日,来自西安市红会医院的郭昕宇、董亮,以及作为通讯作者的西安市红会医院脊柱病医院院长郝定均,在开放获取期刊《细胞与发育生物学前沿》(Front. Cell Dev. Biol)在线发表题为《精原干细胞的细胞功能与JAK/STAT信号通路的关系》的综述文章。

发表后3天,这篇题为《精原干细胞的细胞功能与JAK/STAT信号通路的关系》的综述即于官宣撤稿。在撤稿声明中,编辑部表示,文章发表后,有关其人工智能生成图表性质的担忧被提出,“该文章未达到本刊编辑和科学严谨标准,因此文章已被撤回”。

论文中细胞信号传导图像电路板 图源:Frontiers in Cell and Developmental Biology

荒谬

滑稽的配图与难以理解的文本

作者在文中坦承,这些图片由人工智能绘图工具Midjourney生成,该报告发表后,人们对其人工智能生成的图片的性质提出了担忧........

在这篇综述中,一共配有3组插图。其中插图1显示从大鼠睾丸中分离、纯化和培养的精原干细胞。然而这只大鼠保持着像松鼠一样的坐姿,解剖图显示,它有4个巨大的睾丸(一般情况下大鼠只有2个睾丸)。不仅如此,右下方的图中,干细胞在培养皿中宛若可以用勺子进食的食物。

图中给出的标签如“testtomcels”、“senctolic”、“dissilced”、“iollotte sserotgomar”和“diƨlocttal Stells”都是莫须有的新词,右下方标签把“干细胞”(stem cells)的拼写也书写错误。对此,科研打假名人、荷兰微生物学家和科学诚信顾问伊丽莎白·比克称,论文中“由Midjourney生成的插图虽然漂亮但毫无意义,在解剖学和科学上都是不正确的,同时作者附上的文本标签更是让人难以理解。”

细胞信号传导图上方出现奇怪图样,图源:伊丽莎白·比克

插图2则是文中所构建JAK-STAT信号通路示意图。在这幅酷似电路板的示意图中,下方的线状缠绕貌似筷子捞面条,也有网友打趣说:“我喜欢图中间撒着糖屑的甜甜圈。”该图上方更是赫然出现了粪便一般的图像。插图3则是JAK/STAT信号通路对精原干细胞生物学特性的调控,比克则将其看成了一堆带有粉色萨拉米香肠和蓝色西红柿的披萨。

所有这些插图中都包含着让人看不懂的新词标签。显然与这份“世界上被引用最多的发育生物学期刊”定位不符。

细胞信号传导图中,有的图案像是甜甜圈  图源:伊丽莎白·比克

蹊跷

作者、编辑与审稿人

记者查阅资料发现,该文收稿日期是2023年11月17日,接收日期是2023年12月28日,在这40天内编辑部是否采取严格的同行评议?这些显而易见的硬伤是如何逃过编辑和审稿人“火眼金睛”?

3月1日,记者采访到某科技期刊编辑部负责人,她向记者表示:“SCI的审稿流程大致可分为4个阶段,分别是:编辑初审—同行评审—形成意见—再审,一般情况下,初审阶段的主要审查要点为审定稿件是否属于本刊报道范围,审定稿件本身形式是否合乎本刊出版形式,是否有按稿约要求处理格式等,初步断定稿件是否属于科技论文的范畴;同时初步确定稿件是否有一定的创新性。

“论文通过编辑初审后,会进入到同行评审阶段,责任编辑会将稿件分配给至少2名审稿人进行审阅,一般是需要3名审稿人,被邀请的审稿人会收到邀请邮件。邀请审稿人可以选择接受或拒绝审稿。审稿人一旦接受审稿邀请,责任编辑会要求其在3~4周内完成审稿。在收集到足够数量的审稿人意见后,责任编辑会综合各审稿人的意见和建议,最终对稿件给出意见。在审稿人意见出现严重分歧的情况下,责任编辑可能会直接拒稿,或者寻求额外的审稿人再次进行审稿。责任编辑会根据审稿人的意见给出:拒稿、大修、小修和录用的决定。”

“其实现阶段在我们编辑初审的环节,这个问题很难避免,因为目前连查重系统都没有检测AI制图的这个鉴别功能,目前还是只能依靠专业的审稿人在审稿的时候进行甄别,普通编辑如果不是深耕这个领域的一线科学工作者其实很难发现”编辑部负责人补充道。

这篇争议综述的编辑是印度国家乳品研究所Arumugam Kumaresan博士,审稿人是印度国家动物营养和生理学研究所Binsila B. Krishnan博士和美国西北大学医学院Jingbo Dai博士。出版方Frontiers在2月16日的一份声明中称,其调查显示,其中一位审稿人提出了对插图的合理担忧并要求作者进行修订,作者未能对这些要求做出回应,出版方表示:“我们正在调查未能对作者未遵循审稿人要求而采取行动的原因”。

截至发稿前,记者观察发现,论文作者董亮所在的西安红会医院,原定于3月5日的门诊排班已停诊,院方表示,不清楚其中原因,而通讯作者郝定未对记者的采访作出回应。

边界

观望AI潘多拉魔盒的研究者们

无论是最近大火的AI视频工具Sora,还是老生常谈的AI绘图工具Midjourney,无不预示着AI生成的潘多拉魔盒里藏着无限可能,而站着科学前沿的研究者们也纷纷投来目光。

正在写毕业论文的小杨说,自己学习的社科学科大多为表格与原型图,基本上不会用AI完成,但是有机会也会尝试使用。据他了解到,不同地区不同学校对AI生图的要求都不一致,很多地方还存在争议,有的严有的宽,但不能造假是底线。但他个人认为,目前绝大多数论文作者都不会使用AI生图来完成论文,一是这方面目前还没定论,确实存在风险,有后续追责的可能性;另一方面AI生图的特征十分明显,很容易看出来,现在AI生成技术本身也不成熟,图像效果也很难保证。

对于发表论文时会不会使用生成式人工智能辅助论文插图这一问题,脑科学研究人员王先生表示,“无论现在还是未来都绝对不会考虑使用。因为这不仅是出于准确性和真实性的考量,还有科研诚信的问题。”另一位物理研究员则表示,虽然他们还没有使用过AI生成的图片,“但我觉得这不是坏事。AI是工具,提供了新的可能,好坏与否取决于大家怎么用,怎么理解。”

研究人员的观点一方面反映了对AI生图真实性的隐忧,另一方面似乎也表现出一些宽容。《自然》杂志曾表态称,并不完全排斥人工智能,杂志允许在文章中使用生成式人工智能辅助产生的文本,只要在方法或致谢部分明确说明。此外,所有数据的来源,甚至是由人工智能协助产生的数据,都必须由作者提供。

论文使用AI生成插图是否会涉及到侵权、欺诈或其他违法行为?应当如何去设定当中的界限和原则,让AI生成插图为科研服务?记者采访到泰和泰律师事务所数字经济法律师陈福中。

陈律师表示:“从我国近期的司法实践来看,一方面,AI生成的图片可能具有著作权,如果论文作者未经授权使用了其他创作者通过AI生成的图片,有可能侵犯创作者对图片的著作权;另一方面,AI生成图片,通常是基于海量数据的训练而来,据此生成的图片并不一定都是完全原创的,AI生成的图片有可能本身也是侵权作品,在这种情况下,哪怕是论文作者自己使用AI创作的图片,也有可能构成侵权。”

“关于是否涉及欺诈或者其他违法行为,则要看使用此图片所表达的内容,AI只是作者绘图的一个工具而已,如果图片表达的内容本身是准确的,那么图片是使用AI创作的、还是作者自己使用其他工具画的,并没有本质区别。我初步认为一方面必须要遵守既定的科研原则(比如不得造假、抄袭、夸张),另一方面可以考虑对AI生成图片进行一定标记,提醒读者注意分辨。我认为AI始终是人类的一个工具,在科研领域,可以帮助人们提高效率,但不能替代使用者对相关科研原则和规则的判断,以及对相关责任的承担。”

这场“插图门”事件引发的闹剧不禁让我们思考,未来,对于AI生成文本和图片更多地介入科研,可用和不可用的原则和界线在何处........

(本文图片源自于网络)

评论 16

  • 芮雯雯雯 2024-03-10 发表于四川

    查处

  • 平行者 2024-03-08 发表于四川

    现在这是怎么了

  • 理县米亚罗二古溪村第一书记 2024-03-07 发表于四川

    科技革命

查看更多

去APP中参与热议吧