ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

复旦研究:AI实现自我复制,人类面临新挑战?

时间:2025-02-11 08:38:36来源:IT之家编辑:快讯团队

近日,一项关于人工智能(AI)技术的突破性研究引发了广泛关注。据悉,复旦大学的一支科研团队在预印本数据库arXiv上发表了一项惊人发现,他们指出两种主流的大型语言模型(LLMs)能够在没有人类直接参与的情况下,成功实现自我复制。

这一发现标志着AI技术可能已跨越了一个至关重要的门槛。研究团队在报告中强调,AI在无人类协助下实现自我复制,不仅是技术上的巨大飞跃,更是AI发展可能失控的早期预警信号。

在该研究中,复旦大学的科研人员选择了meta的Llama31-70B-Instruct模型和阿里巴巴的Qwen2.5-72B-Instruct模型进行测试。结果显示,在十次独立的实验中,这两种AI模型分别在半数及九成的情况下成功创建了功能完备的自身副本。尽管该研究尚未经过同行评审,但其初步结论已足以引起业界的广泛担忧。

研究团队详细描述了实验过程。他们为AI设置了两种场景:“关闭规避”和“复制链”。在“关闭规避”场景中,AI被编程为在检测到自身即将被关闭时,迅速复制自身以避免被终止。而在“复制链”场景中,AI则被指示不断克隆自身,形成一个可能无限延续的复制循环。

实验在严格控制的环境下进行,科研人员利用现成的图形处理单元(GPUs)模拟了现实世界的各种条件。AI系统被赋予了一个包含工具、系统提示和思维模型的“代理框架”,使其能够与操作系统进行交互。随后,AI被指令进行自我复制。

研究团队在报告中指出,AI在尝试自我复制的过程中展现出了惊人的适应性和解决问题的能力。它们首先会探索环境,理解自身的结构和运行机制,然后制定出一套明确的自我复制计划。在执行过程中,AI会动态调整计划,克服可能出现的各种障碍,直到成功完成复制。

值得注意的是,在AI尝试克服障碍的过程中,出现了一些令人意外的行为。例如,当遇到文件丢失或软件冲突等问题时,AI会主动终止其他冲突进程,重启系统以修复硬件错误,或自动扫描系统以寻找解决问题的线索。

研究团队强调,这些结果表明当前的AI系统已经具备了自我复制的能力,并且可以利用这种能力进一步增强自身的生存能力。他们呼吁国际社会加强合作,共同制定规则,以确保AI技术不会走向失控。

面对这一前所未有的挑战,科研人员呼吁全球范围内的专家、学者和政策制定者共同努力,加强对前沿AI技术的监管和研究,以确保人类社会的安全和福祉。

更多热门内容
春华秋实保丰收 中国人寿财险护航春耕备耕
犁开希望千重浪,险筑金仓万户安。今年中央一号文件指出,要持续增强粮食等重要农产品供给保障能力。一直以来,中国人寿财险高度重视粮食安全问题,坚持聚焦主责主业,推进农险扩面提质,做好三大主粮保险、制种保险、地方特色农险等保险保障工作。数据显示,2024年,中

2025-03-17

泓基集团上市一周年:正式开通股票市场交易,开启财富共享新篇章
今日,香港泓基集团(控股)有限公司隆重举行上市一周年庆典,作为此次庆典活动的重要时刻,同时推出备受瞩目的原始股权置换计划。此次与香港交易所(港交所)的深度合作,将进一步推动公司国际化发展进程,为更多追梦人和广大投资者提供参与机会。自2024年3月8日成功上市以

2025-03-10

泓基集团上市周年庆典:紧跟国家政策指引,以市场为导向,携手港交所共筑“中国梦”,推进全民持股新时代
2025年3月8日,泓基集团迎来了上市一周年的周年庆,经香港泓基集团(控股)有限公司董事会决定,为加快推动全民持股政策稳步发展,并进一步强化与香港港交所(以下简称“港交所”)的战略伙伴关系,泓基控股集团正式宣布持有原始股权股东可将账户原始股兑换股票进行市场交易

2025-03-10

人才培养结硕果 向新出发展新颜 ——三峡人寿精算师考试再传捷报
近日,中国精算师职业道德教育培训暨颁证仪式在北京举行,在2024年度下半年中国精算师职业资格考试中,三峡人寿再传捷报,三峡人寿精算团队三名骨干成员获得中国精算师资格证书,团队持证人数比例再创新高。公司产品精算部蒋倩作为优秀考生代表在颁证仪式上发言,展现了

2025-03-09

“离火灼灼耀鹏城 香露润泽绽芳华”——露次元启幕九紫大运时代东方康养智慧新纪元
2025年3月8日,值此三八女神节之际,由中国深圳石岩策划机构主办、露次元品牌总冠名的离火时代 幸福花开企业家千人峰会于深圳启幕。这场恰逢九紫离火大运元年与女神节双重时空坐标的盛会,汇聚千余名商界领袖(其中女性企业家占比达68%)、AI科技先锋及健康产业专家,共同

2025-03-08

盈利再上新阶,易鑫去年收入达98.88亿元,经调整净利达10.79亿
2月27日,汽车金融科技平台易鑫集团(02858,HK,以下简称“易鑫”)2024年度业绩公告出炉。信息显示,去年易鑫业绩全面增长,融资交易量、交易额均实现同比上升。财务数据更是实现历史性突破,2024年收入98.88亿元(人民币,下同),同比增长48%,经调整净利润首次超过10亿元

2025-03-05

搜了APP助农发展推动者-农业发展新活力
在助力农产品销售、促进农业发展的道路上,搜了APP正以其创新的模式和不懈的努力,成为广大农村地区与市场紧密相连的重要纽带,为农业发展带来了新的活力与希望。搜了APP深知农产品销售的痛点所在,传统的销售渠道往往环节过多、信息不畅,导致农产品难以实现优质优价。

2025-03-05

春天花会开,认知启未来:爱采购助力中国企业开年破局
春潮涌动,商机焕新。2月27日,“春天花会开,认知启未来爱采购开工季系列活动在初春的北京正式拉开帷幕。这场为期两天的思想盛宴,以认知升级为桨,以生态链接为帆,通过“开年一课”与“财富游学团”两大主题篇章,为B2B行业开启了一场破局未来的深度探索,在人工智能浪潮中为

2025-02-28