人工智能风险引发关注 前员工现员工联名发声

【ITBEAR科技资讯】6月5日消息，近日，一封由OpenAI和谷歌DeepMind的前员工及现员工联署的公开信在科技界引起了广泛关注。这封公开信主要表达了对当前人工智能公司监管不足的担忧，并警告了先进人工智能技术的潜在风险。此举再次将人工智能的安全性和监管问题推至风口浪尖。

据ITBEAR科技资讯了解，此次联名发表公开信的共有13人，其中包括5名OpenAI前员工，6名选择匿名的OpenAI现员工，以及1名谷歌DeepMind的现员工和前员工。这些员工在信中明确表示，虽然人工智能技术为人类带来了前所未有的福祉潜力，但同时也伴随着严峻的风险。这些风险包括加剧社会不平等、助长操控和虚假信息传播，甚至可能导致自主人工智能系统失控，进而引发人类灭绝的危机。

公开信中强调，尽管人工智能公司、全球监管机构和专家都已意识到这些风险，但掌握大量关键信息的公司却仅有微弱的义务与政府部门分享部分信息，而无需向社会公众披露。这使得公众对人工智能技术的了解和监督受到了严重限制。

为了化解这些风险，公开信中的员工们呼吁在科学界、决策者和公众的充分指导和监督下进行操作。然而，他们也指出，人工智能公司往往出于强大的经济利益动机而避免接受有效监管，同时，公司内部的治理结构也不足以改变这一现状。

在缺乏有效政府机构监管的情况下，这些员工认为自己成为了少数对公众负责的人。然而，广泛的保密协议却限制了他们为公众发声的权利。为此，他们在公开信中提出了四项措施，以保护那些为人工智能风险发声的员工。这些措施包括禁止签订或执行任何阻止员工对风险相关问题进行批评的协议、推动可验证的匿名举报流程、支持公开批评的文化，以及在必要情况下不对公开风险相关机密信息的员工进行报复。

这封公开信的发表无疑为人工智能行业的监管问题敲响了警钟。随着技术的不断发展，如何确保人工智能的安全性和可控性已成为亟待解决的问题。希望此次事件能引发更多关于人工智能监管的讨论和行动，共同推动行业的健康发展。