国家互联网信息办公室近日就《人工智能拟人化互动服务管理暂行办法》面向社会公开征求意见，旨在规范人工智能拟人化互动服务的发展，保障用户权益，推动行业健康有序进步。
征求意见稿明确要求，服务提供者需在显著位置提示用户，当前交互对象为人工智能而非自然人。当识别到用户出现过度依赖或沉迷倾向，或在用户首次使用、重新登录时，提供者应以弹窗等动态方式提醒用户，其交互内容由人工智能生成。若用户连续使用拟人化互动服务超过2小时，提供者也需通过弹窗等方式动态提醒用户暂停使用。
在安全能力方面，提供者需具备心理健康保护、情感边界引导、依赖风险预警等能力。设计目标不得包含替代社会交往、控制用户心理、诱导沉迷依赖等内容，以确保服务不会对用户造成负面影响。
针对未成年人保护，征求意见稿要求提供者建立未成年人模式，提供模式切换、定期现实提醒、使用时长限制等个性化安全设置选项。向未成年人提供情感陪伴服务时，需取得监护人明确同意，并提供监护人控制功能，如实时接收安全风险提醒、查阅使用概要信息、设置屏蔽特定角色、限制使用时长、防止充值消费等。提供者还需具备识别未成年人身份的能力，在保护用户隐私的前提下，对疑似未成年人切换至未成年人模式，并提供申诉渠道。
对于老年人群体，征求意见稿也提出了相应要求。提供者应引导老年人设置服务紧急联系人，发现老年人使用期间出现危害生命健康和财产安全的情况时，及时通知紧急联系人，并提供社会心理援助或紧急救助渠道。同时，明确禁止提供模拟老年人用户亲属、特定关系人的服务，以保护老年人的合法权益。
