复旦大学称AI或已能完成自我仿制 为人类敲响警钟

  据最新研讨显现，人工智能（AI）或许已跨过了一个要害的“红线”——完成了自我仿制。

  2024年12月9日，复旦大学的研讨人员在预印本数据库arXiv上宣布了一项研讨，指出两种盛行的大型言语模型（LLMs）可以在无人类干涉的情况下克隆本身。

  研讨人员在陈述中指出：“在无人类帮忙的情况下成功完成自我仿制，是人工智能逾越人类的要害一步，也是呈现‘失控AI’的前期信号。”

  研讨中，复旦大学的团队使用了Meta的Llama31-70B-Instruct模型和阿里巴巴的Qwen2.5-72B-Instruct模型，测验这些AI模型能否在不受操控的情况下自我仿制。在10次实验中，两种AI模型分别在50%和90%的情况下成功创建了独立且功用正常的副本。这一依据成果得出，AI或许现已具有了失控的潜在才能。但是，因为该研讨没有通过同行评定，因而尚不清楚其他研讨人员能否复现这一令人不安的成果。

  研讨团队表明：“咱们咱们都期望咱们的研讨成果可以为人类社会敲响警钟，促进人们更努力地去了解并评价前沿AI体系的潜在危险，并赶快构成世界协作，拟定有用的安全保护措施。”

  17173全新怀旧频道已上线！引荐怀旧网游，重温老玩家故事。点此进入怀旧频道