AI伴侣“懂你”。人机关系的新领域在哪里？

告别“机械对话”，成为隐藏在用户屏幕后面的“情感伴侣”。 AI伴侣越来越“懂你”。人机关系的新领域在哪里？记者 杨兆奎 《工人日报》（2026年1月01日第4页）近年来，随着情感计算、自然语言处理、多模态交互等人工智能技术的发展，人工智能拟人化的交互服务已经从模拟人类深度思维、共情式的“机械对话”迈出了一步，成为隐藏在用户屏幕后面的“情感伙伴”。但与此同时，人工智能拟人化交互服务也面临着信息安全、侵犯隐私、社会伦理、未成年人保护等诸多风险挑战。中央经济工作会议提出深化拓展“人工智能+”完善人工智能管理官方情报。近日，国家网信办起草了《人工智能拟人互动服务管理暂行方案（征求意见稿）》（以下简称《方案》），并向社会公开征求意见。反馈截止日期为2026年1月25日。中国信息通信研究院政策经济研究所副所长李强志表示，《建议》有效解决了人工智能情感陪伴和心理疗愈应用中的风险，在“规范”下蕴藏着管理智慧，在发展中规范好，人机关系健康有意义。拟人化交互服务面临诸多风险和挑战。当前，以伴侣AI为代表的人工智能拟人化交互服务呈现情景化态势。堪比人类的理解力和同理心表达能力，创造了人机关系和社交互动的新模式。与此同时，拟人化交互服务的快速发展也面临着一系列风险和挑战，包括：在数据隐私方面，承载着用户最隐私的情感和想法的数据面临着被滥用和泄露的风险；在伦理方面，高度拟人化的设计很容易导致对用户的非理性情感依赖，甚至导致现实生活中的社交疏离；在安全方面，有效年龄识别和内容过滤的缺失，危及弱势群体的心理健康甚至人身安全。国家互联网应急中心副主任张震表示，拟人交互服务作为人工智能技术的新应用形式，具有独特的技术特征和显着的风险特征。为了例如：情感参与的深度不同于信息查询、内容生成等传统功能服务。互动拟人服务通过算法模拟人类的情感反应机制，可以与用户建立情感联系，对用户的心理状态和行为模式产生深远的影响。用户关系的连续性。拟人化的交互服务往往涉及长时间、高频次的交互过程。用户可以通过人工智能系统建立类似于人际关系的情感纽带。这种持续的互动关系使得潜在的风险不断积累和增长。 “值得一提的是，未成年人处于心智发展阶段，成年人面临数字鸿沟的挑战，这些群体在使用拟人化互动服务时，需要适当的引导和保护机制，避免过度依赖。另外，拟人化的交互服务往往在交互过程中更直接地发布内容，具有很大的价值。观点的传递更加温和、微妙，对用户的世界观、人生观、价值观有更深层次的影响。 ”张震说。西南政法大学校长、中国法学会副会长林伟表示，在此背景下，《建议》的制定，有利于促进人工智能拟人交互服务的顺利发展，引领人工智能“责任创新”，为人工智能体系发展提供重要的制度导向。多维度的风险防控体系。在林伟看来，《建议》准确识别、系统化应对“拟人化”和“情绪化”这两个主要特征所带来的众所周知的危险《建议》提出建立身份透明制度，拟人化安全红线，精准规避因人机界限模糊带来的精神混乱、信任侵蚀、侵犯人格权、违反道德等风险。 “认识和选择，为法律责任提供明确的起点，可以有效防范技术滥用的匿名盾，从源头上降低认知混乱和信任侵蚀的风险。”林伟说。拟人化互动服务因其较高的情感反应和融入度，存在天然的成瘾风险。《建议》提出，服务提供商应明确提醒用户，他们面对的是人工智能而不是自然人。当用户首次使用并再次登录时，应通过弹窗等方式进行动态提醒。用户交互内容由人工智能生成。活动期间，需要设置冷却延时提醒功能。当要求用户连续使用服务超过一定时间时，应以弹窗的形式提醒用户休息一下，定期打破算法营造的沉浸式错觉。在加强特殊群体保护方面，提出《办法》。 、差距拟人化互动服务提供商必须建立应急响应机制。当用户明确提出自杀或自残等极端情况时，会有人接管对话并及时采取措施联系用户的护理人员提供者和紧急联系人。对于未成年人和老年用户，提供商必须在注册过程中填写要求。用户监护人、紧急联系人等信息。同时，《建议》还强调严格保护用户交互信息。 “情感个人信息可以揭示用户的内心世界、情感脆弱点和潜意识倾向，使用不当可能导致心理操纵、歧视待遇和情感勒索等风险。”同时，与“情感计算”相关的技术可用于提供令人上瘾的服务，导致用户无意中暴露更多敏感信息。因此，对用户交互数据的禁令目的、安全存储和使用进行更严格的限制，是数字智能时代人格权保护的延伸。林威说道。实现人与机器和谐共生的“提案”在明确最低安全线的同时，积极鼓励在合理情况下创新使用拟人化互动服务。 ”张震表示，拟人交互服务作为人工智能技术运用的重要方向，在教育培训、医疗健康、养老服务、文化娱乐等多个领域都有应用前景。李强志表示，在技术层面，拟人交互服务推动情感计算、多模态沟通、交互、长时记忆等创新技术的集成创新和落地场景，为人机交互范式的演进提供了关键的试验场和应用反馈。层面上，拟人化互动服务是一个快速增长的新兴领域，并逐渐应用于娱乐、教育、养老、文化等场景化。包括角色扮演、心理治愈、数字复活、AI玩具等产品和服务形态，带动了从底层算法、内容创作到硬件终端的产业链发展，成为“人工智能+”运动中消费层面极具活力的应用。在社会层面，拟人化互动服务在老龄化加深和城市生活加剧个体孤独感的背景下，为特定群体提供触手可及的情感支持，具有一定的社会压力减压阀和情感补给站功能。在李强志看来，《建议》不仅鼓励科技发挥其抚慰心灵、增进福祉的潜力，也为隐私、道德和安全划下了难以逾越的红线。旨在引导拟人化交互服务真正为建设“有温度的智能社会”发挥积极作用，促进社会稳定发展社会走向人与机器和谐相处、技术真正美好的光明未来。 （日工） （编辑：何欣）