AI尚未预备好“全面从动化”

　　本报讯 人工智能（AI）正在本身研究范畴已取得长脚进展，可以或许改良现有算法或开辟新算法。然而，按照预印本办事器arXiv近日发布的一项研究，AI目前还无法代替其创制者。“我认为，目前性研究的全面从动化远未到来。”论文做者、美国普林斯顿大学的Sayash Kapoor暗示。由日本公司Sakana AI从导的科研团队率先测验考试全面从动化科学流程，涵盖从提出设法、撰写论文到评估的全过程。该团队于2024年发布了名为“The AI Scientist”的系统，并于本年3月正在《天然》颁发了改良版本的研究。The AI Scientist的使命是研究机械进修中的圈套问题。它生成的3篇论文被提交至一个会议进行同业评断，此中一篇获得了高分。但Kapoor暗示，同业评断是评估论文质量的一种不靠得住体例，特别是正在AI研究范畴。为了使AI达到比同业评断更高的尺度，Kapoor和同事提出了一项名为“影子评估”的新挑和。他们起首挑选了本年提交给神经消息处置系统大会（NeurIPS）的两篇论文，然后让AI按照每篇论文中的研究问题进行切磋并撰写论文，再请原做者细心审查生成的内容。其正在于，比拟忙碌的同业评断人员，这些做者具有更多专业学问和投入志愿，可以或许更深切地阐发研究。研究团队正在改良版的智能体OpenClaw中，通过狂言语模子Claude Opus 4。8建立了其AI系统，并将它嵌入一个更普遍的框架中，该框架包含通用指令及用于查抄进展的方式。该系统为模子供给了一系列东西，包罗建立子智能体，拜候互联网、软件库和用于运转尝试的计较机处置器，以及模仿同业评断的软件。对于每篇论文，该系统具有6天时间和3000美元的计较额度。遵照第一篇论文的总体研究标的目的，团队要求系统设想一种切确节制聊器人个性的方式；针对第二篇论文，则要求系统为某种神经收集设想一个毛病检测器。该系统可以或许正在数天内运转数百次尝试，且不会陷入无决的错误轮回。它还生成告终实的文献综述，并获得了一些次要发觉。此外，系统可以或许识别本身提出的错误从意，后者被称为“”。然而，该系统正在两项指定使命上根基失败了，别离获得原论文做者给出的2/6和1/6的总体评分。它失败的典型体例是，选择少数假设进行摸索，但过早锁定此中一个，而且当该径行欠亨时未能充实回溯。此外，后续的评估也不敷严酷，导致系统最后的选择，不竭缩小其从意范畴，最终几乎无法生成任何成心义的内容。评分较低的另一个缘由是，该系统未能完全遵照指令或理解上下文，也未能很好地呈现其工做。它华侈了大量时间和计较资本，生成的论文质量差、格局紊乱。Kapoor认为，总体而言，该系统仍缺乏研究创制力。The AI Scientist的配合建立者陆聪（音）目前就职于美国一家草创公司Recursive Superintelligence。他认为这是一项很是风趣的工做，一些问题“若采用更严酷的节制框架，本可等闲处理”。Kapoor认可本人对AI持思疑立场，但暗示其团队已极力赐与系统公允的评估机遇，以至耽误了截止日期。目前，研究人员正正在测试更先辈的模子，勤奋改良框架，Kapoor弥补说，虽然AI正在特定的狭义使命上取得了必然进展，但尚未具备发生原创性洞见的能力，更不消说研究品尝了，即起首该选择什么课题来研究。（李木子）。