近期，人工智能大模型在各行各业的应用日益广泛，尤其在金融领域，为股民提供了获取上市公司信息的便捷途径。然而，在这股技术浪潮之下，股市中的不法分子却找到了新的作恶手段，他们利用AI技术散布虚假信息，诱导散户投资者做出错误判断。
据观察，本月以来，各大股民交流平台上充斥着大量以AI问答截图形式传播的虚假“利好信息”。这些信息的发布者，即所谓的“股市黑嘴”，通过操控多个账号，在各大论坛、贴吧等平台疯狂散布诸如某公司入股某科技公司等谣言，以此误导AI大模型生成错误回答。随后，这些被“调教”过的AI答案被进一步传播，成为坑骗散户的“信息陷阱”。
值得注意的是，这些虚假信息已经从最初的易于辨识逐渐升级为真假难辨，尤其是当谣言涉及的上市公司未主动澄清时，普通投资者往往难以分辨信息的真伪。一旦AI大模型被这些虚假语料误导，当投资者提出类似问题时，所得到的答案很可能就是黑嘴们之前炮制的虚假内容。
以几家上市公司为例，近期包括慈星股份、华胜天成、并行科技、诚迈科技以及三六零在内的多家公司被“黑嘴”盯上，成为AI谣言的主角。其中，慈星股份、华胜天成和三六零均被造谣称“投资了某科技公司”，而实际上，这些所谓的“投资”纯属子虚乌有。尽管多数上市公司及时进行了辟谣澄清，但慈星股份对于涉及该谣言的提问却选择了沉默，这一反常行为引发了市场的广泛猜测。
除了直接造谣“投资”外，“黑嘴”们还炮制了一些更具迷惑性的假消息，如声称某IT服务商为某科技公司提供了底层算力支持，或某公司的关联公司与某科技公司有合作等。这些谣言往往通过混淆概念，使得投资者难以分辨真伪。幸运的是，相关公司均及时进行了辟谣澄清。
在深入调查后，记者发现这类虚假信息的炮制过程相当复杂。“黑嘴”们通过多个账号有组织地在各大平台散布不实内容，并通过高频率、大规模的传播，使这些不实内容被AI大模型纳入语料库。随后，他们再利用AI生成的虚假回答进行二次传播，从而大幅提升了普通投资者对假消息的辨识难度。
最后，市场监管者也应积极应对这一新情况，运用AI等技术手段严查严管，对以虚假信息操纵市场的行为予以严厉打击，确保市场的公平、公正和透明。
