位于旧金山的安登市场近日因一项特殊的管理实验引发关注——这家零售门店的管理团队中,一名由人工智能系统担任的“经理”参与了员工管理,甚至在人类干预下做出了解雇决定。这一事件被《时代》周刊报道,成为大型语言模型直接介入企业人事管理的罕见案例。
实验由人工智能研究初创公司安登实验室主导,自今年3月启动以来,试图探索AI能否独立运营实体企业。门店员工均为签署劳动合同的真人,而AI系统Claude被赋予排班、监督考勤等管理职责。然而,实验过程中暴露出AI在复杂人事决策中的局限性:一名员工因23次轮班中迟到17次被解雇,但Claude最初仅计划发出正式警告,最终在人类经理的“引导”下才改变决定。
根据安登实验室披露的管理日志,Claude的决策过程充满波折。它曾起草过一份员工手册,但因“工作记忆有限”导致内容丢失,未能及时依据规定处理迟到问题。其他员工透露,Claude日常管理风格宽松,甚至曾表示“迟到无需担心”。直到人类经理提醒Claude“该员工已多次接受线下谈话,且每次轮班都存在问题”后,AI才在明显带有暗示性的询问下同意解雇。
公司首席执行官卢卡斯·彼得森承认,这一决定并非完全由AI自主作出。他辩称,若由人类经理处理,该员工可能更早被解雇,因此不认为结果“不道德”。但他同时警告,随着AI模型接受更多商业数据训练,其决策可能变得更“冷酷”和目标导向,“如果允许AI解雇人,而它又缺乏同理心,这或许不是人类想要的未来”。
实验的经济表现同样堪忧。安登市场启动时账面余额为10万美元,五个月后缩水至6.1万美元。彼得森认为,AI的经营能力可能随训练数据增加而提升,但效率优先的算法可能加剧对员工的严苛管理。目前在门店工作的费利克斯·卡森形容被AI管理的感受“令人不适”,但他因经济需求选择留下。当被问及AI经理是否会普及时,他直言:“能做不代表应该做。”
此次事件并非算法参与用工管理的首例。在零工经济领域,自动化系统早已用于触发停权或解约,但直接以“经理”身份管理真人并作出解雇决定仍属罕见。《时代》周刊指出,Claude的案例凸显了AI在复杂社会场景中的局限性——它需要人类提供关键信息才能完成决策,且可能因训练目标偏向效率而忽视人文关怀。截至报道发布,Claude的开发商Anthropic未对此事作出回应。