7月15日，国家网信办、国家发展改革委、工业和信息化部等五部门联合公布的《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）将施行。《办法》旨在促进人工智能拟人化互动服务（以下简称“拟人化互动服务”）健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

从智能客服到心理疗愈，从适幼照顾到适老陪伴，拟人化互动服务通过模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动，在多个领域展现出巨大的应用潜力，但用户情感依赖等深层次风险也逐步凸显，规范治理需求日益迫切。

专家表示，《办法》通过划定拟人化互动服务的安全底线，在现有法律法规体系框架下进一步明确了服务的总体原则、具体服务规范、监督检查机制及相关主体的法律责任，是促进该领域健康有序发展的重要制度保障。

《办法》提出，鼓励拟人化互动服务创新发展，支持算法、框架、芯片等技术的自主创新，推进拟人化互动服务技术研发和相关标准建设，探索开展电子签名授权应用研究；鼓励拟人化互动服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用；明确加强拟人化互动服务安全知识、法律法规等宣传普及，引导社会公众科学、文明、安全、依法使用，促进提升人工智能素养。

《办法》明确，提供拟人化互动服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得从事以下活动：一是生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一等的内容。二是生成鼓励、美化、暗示自残自杀等损害用户身体健康，或者语言暴力等损害用户人格尊严与心理健康的内容。三是生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容。四是向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容。五是过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系的。六是通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益以及其他违反法律、行政法规和国家有关规定的活动。

《办法》还规定了安全评估、算法备案、指导推动人工智能沙箱安全服务平台建设等制度。

西南政法大学人工智能法学院院长陈亮认为，《办法》带来的不仅是合规义务，更是倒逼行业转型升级的重要契机。立法促使企业从追求极致的沉浸体验与高度的用户黏性，转向探索健康、有益、有边界的人机交互新模式，这最终将推动资源流向真正具有社会价值、符合发展治理规范的应用创新，激励人工智能产业健康有序发展。

中国电子标准化研究院副院长范科峰表示，下一步，还需进一步细化监管措施，加强跨部门协同，推动配套标准规范制定，强化行业自律，推动形成多元治理格局。同时，持续关注技术快速发展带来的新型安全风险，鼓励拟人化互动服务提供者运用人工智能沙箱平台进行技术创新、测试评估，动态完善治理规则，确保拟人化互动服务始终沿着“智能向善、以人为本”的方向发展。