在2024年乌镇世界互联网大会的“人工智能技术创新与治理”论坛上，小红书副总裁许磊带来了关于AIGC技术对内容平台影响的深度剖析。他指出，AIGC在降低内容创作门槛的同时，也为平台治理带来了新的考验。小红书，这个被誉为“3亿人的生活百科全书”的平台，正积极应对这一挑战。
小红书以个性化推荐算法为核心，将过半流量倾斜给千粉以下的用户，实现了流量的普惠。然而，随着生成式AI技术的兴起，算法不仅影响着内容的分发，更渗透到了内容的生产环节。这既为平台带来了机遇，也带来了诸如恶意仿冒、虚构新闻、假冒真人引流和虚假营销等新问题。
为了守护平台的真实性，小红书在2023年便启动了针对AIGC的治理体系建设，并成立了专项组。他们加大了AI识别模型的研发投入，利用“分类器”技术对疑似AI生成的内容进行识别并显著标识，同时设置了机器识别与人工识别的双重保障，确保低质内容得到及时清理。
对于创作者，小红书要求其对AI生成的内容进行显著标识，并简化了打标流程，鼓励创作者在利用新技术创新的同时，也参与到平台生态的建设中。
许磊强调，小红书将坚持创新与治理并重，以应对人工智能技术浪潮带来的机遇与挑战。
