ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

AI智能体“无人驾驶”,安全与规范的警钟已经敲响!

时间:2024-12-27 10:13:10来源:蓝鲸新闻编辑:快讯团队

智能体技术的飞速发展正引领着一场全新的交互革命,各大科技巨头纷纷亮出自家的“杀手锏”。荣耀CEO赵明在一次直播中演示了通过智能体YOYO在美团轻松点购三杯咖啡的全过程,从搜索店铺、选择品类到最终付款,一切操作如行云流水,仿佛有一只无形的手指在精准操控,用户只需旁观。这种体验让人联想到L2级别的自动驾驶,用户大多数情况下可以置身事外,必要时才进行干预。而如果技术再进一步,实现无感的自动化,L4级别的智能体将指日可待。

然而,就在这样的技术演示中,360创始人周鸿祎却发出了“这太危险了”的惊呼。他的担忧并非空穴来风。据业内人士透露,由于目前APP间尚未实现完全的互联互通,许多智能体在进行L2乃至L4级别的“无人驾驶”时,实际上采用了机器模拟点击的方式,这与黑灰产的作弊原理如出一辙。智能体根据用户授权的高低,选择不同的实现方式,对于权限最低的三方应用层智能体而言,机器模拟点击很难被有效区分是真实操作还是作弊行为,从而导致风控结果的误判。

智能体的定义和分类虽各不相同,但以下几点已成为共识:智能体需要扮演某种社会角色,参与社会化分工并完成任务;能够进行对话交流,理解用户的行为偏好,并根据反馈进行强化学习和重新规划;与外部业务系统、其他智能体及工具应用进行协同。简而言之,智能体就像管家、行政秘书、前台、客服或司机一样,更加主动、自动地贴近用户,成为用户的贴身助理,掌握更多隐私数据。

然而,如果智能体的实现依赖于上述“作弊”机制,将带来严重的安全隐患。智能体之间的自主交互若缺乏严格的身份认证和授权机制,系统将易受恶意攻击和不正当访问。恶意智能体可以伪装成合法的智能体,恶意用户也可以伪装成合法的用户,从而获取不应有的服务权限。这不仅可能导致财务损失,甚至可能危及生命。例如,恶意智能体可以假冒合法智能体访问用户的健康敏感数据,而恶意用户则可以向医疗智能体发送虚假健康数据,导致错误的医疗决策。

面对这一“心腹成为大患”的安全难题,业界开始积极寻求解决方案。一种简单的方案是绕开APP生态和应用层的作弊机制,但这并非最佳或唯一选择。部分手机厂商主导的作弊方案还可能带来颠覆产业的激进结果,如入口的收敛和生态的快速变革,最终可能导致恶性商业竞争。对用户而言,如果入口变得极度单一,将丧失自主性和主动权。

为了既要安全又要行业长远发展,业内开始探索在应用层APP之间建立统一的安全协作标准,以实现跨APP的流畅操作。IIFAA(互联网可信认证联盟)成立的“IIFAA智能体可信互连工作组”正是这一思路的倡导者。该工作组由华为、荣耀、OPPO、字节跳动、蚂蚁集团等头部企业组成,旨在通过制定跨智能体交互的安全技术规范,为智能体行业提供一个更加健康规范的协作环境。

IIFAA早在2015年就由中国信通院、华为、中兴、蚂蚁集团、阿里巴巴等联合发起,其可信数字身份技术规范已在全球超过16亿台手机设备、43个手机品牌商中得到应用。工作组的目标是确保智能体之间能有一套相互协同和通信的机制,实现全链路可信的服务调用。随着智能体的快速发展,这一工作已变得迫在眉睫。

硅谷的头部公司和企业家们也已行动起来,倡导建立统一标准的行业框架以确保负责任的AI发展。谷歌发布的Secure AI framework(SAIF)也强调了创新与安全标准的重要性。回到中国智能体领域,IIFAA技术负责人万小飞表示,当前工作主要聚焦在智能体可信身份鉴权、数据可信流通、业务系统风控以及智能体主权保护等四个维度。

在智能体时代,不能继续强化入口单一化的弊端。一旦自然语言可以完全自动实现后端的滴滴下单、微信支付发红包等功能,入口将统一到手机,原有互联网主流的商业模式将被快速摧毁。这对巨头和小应用都构成威胁,产业生态不宜面临如此过激的改变。因此,IIFAA要建立的机制旨在为整个生态更开放和更公正,给所有小的智能体提供快速发展的可能性。

智能体的发展路径已清晰可见。一条是走捷径,但会带来安全隐患;另一条是做更难的事情,构建一个整体的安全互信框架,避免单点与单点的重复谈判,形成规模效应,加速智能体的快速互联。整体的可信协作实际上是做大智能体的整体蛋糕,类似于集装箱改变世界的故事。集装箱的统一尺寸不仅降低了运输成本,还提升了货物安全,推动了全球贸易的极大发展。

如今,各大厂商都在卷模型生成能力,但这已不再构成差异化优势。模型能力总会拉平,而最终决定智能水平的是跨系统、跨平台、跨软硬件采集上下文背景信息(context)的能力。谁能采集更多context,谁的智能水平就更高。就像再好的医生,拿不到病人的体检报告,也无处施展。

更多热门内容
200克金条不慎遗失,背后财富观念悄然转变?
这是因为金条不仅仅是财富的象征,同时也承载着我们对生活方式的理解。正如失去金条的那位市民,他的经历提醒了我们,在急速的生活中,适时停下脚步思考我们的财富观念与消费心理是多么的重要。在这样的讨论中,不可避免地,…

2024-12-27

宝石老舅×虞书欣,跨界合作新歌点燃追梦热情!
新歌中,配乐结合了民谣和流行的元素,旋律悦耳动听,让人一听便忍不住跟着哼唱。在歌词的写作上,两人都展现了他们的独特天赋,简单却深入人心的表达,让人感受到共鸣,仿佛每一个字都在讲述自己的故事。音乐与歌词在时间线…

2024-12-27