欧盟委员会10月16日更新了科研领域负责任使用生成式人工智能的指南。新版也讨论能够更自主执行任务的人工智能智能体。对匈牙利大学及其科研伙伴,这可以为设计机构内部工作流程提供参考,而不仅仅是选择一个新的软件工具。
完整文件强调,同行评审与科研资助申请评价都需要由人承担责任。智能体处理的数据及作出的结论,需要研究人员验证。这份出版物提出的是建议,并非介绍一项刚刚通过的科研资助条例,因此阅读时需要区分指导性建议与具体项目条件。
作为本刊提出的实践考虑,匈牙利研究机构应事先明确哪些任务交给工具、由谁复核结果,以及如何记录工作过程。即便一份摘要写得流畅,也可能仍需另外核验来源。因此,技术表现与研究结果的可信度,是需要分别评价的问题,不能只凭文字是否自然作出判断。
我们此前关于欧盟人工智能事故评估的报道介绍风险背景,行业人工智能使用数据则说明普及程度。该指南是一份持续更新的文件,设有开放反馈流程;公告没有给出下一次修订日期。接下来的实践问题是,机构规则如何与实际科研流程衔接。