日常答疑、情绪倾诉、智能辅助……各种拟人化的AI服务让智能手机变得更贴心、更智能，也让终端AI产业迎来了快速爆发的新风口。但技术飞速迭代的背后，一系列隐秘风险也在悄悄潜伏：私密对话被悄然收录、手机权限被随意调用、温柔陪伴暗藏情感诱导，各类数据滥用与隐私乱象层出不穷。《人工智能拟人化互动服务管理暂行办法》（以下简称《暂行办法》）的正式落地施行，能否消除本报在2月份关于AI智能体未来讨论中的一些担忧？

堵住隐形风险漏洞 应对安全挑战

“从政策层面看，《暂行办法》补上了最直接的一块短板。”国务院发展研究中心企业研究所综合研究室主任、研究员高太山对中国经济时报记者表示，针对隐私问题，《暂行办法》明确，用户交互数据原则上不得向第三方提供，必须向用户提供聊天记录等交互数据的复制、删除选项；特别是属于敏感个人信息的交互数据，未经用户单独同意不得用于模型训练。这意味着企业必须对交互数据开展敏感信息识别分类，并设置独立的训练授权选项，不得默认勾选，也不能将相关授权打包纳入用户协议。

高太山进一步指出，AI手机的风险有相当一部分产生于“终端层”。端侧大模型的数据流转涉及手机厂商、应用开发者和第三方服务商，各方责任边界模糊，权限获取的“必要性界限”也尚不清晰，高敏感权限（如剪贴板、通知栏监听）、非主动弹窗以及权限撤销功能，将成为合规重点。此外，AI手机更大的风险来自系统底层权限的放开，这会大幅放大权限滥用风险；云、端之间数据流转带来的安全风险同样存在责任界定难题，仍需出台面向终端侧的专项制度。

合规是产业升级的关键推力

合规体系建设势必带来企业新增投入。随着算法审核、伦理审查、数据合规改造、备案管理等成本上升，市场关心相关支出是否会传导至终端售价，将影响AI手机产业发展节奏。

“要客观看待合规成本问题。终端手机厂商开展算法审核、伦理审查、数据合规审查以及备案等合规工作，有助于降低产品安全风险、维护消费者权益、推动市场有序规范发展。”高太山表示，合规建设能够加速清退不合规企业。对于合规经营的企业来说，相关成本向终端定价传导的空间有限，前期新增成本完全可以依靠销量进行摊薄，最终关键仍取决于市场需求与消费者选择。

陆峰则表示，《暂行办法》带来的合规成本，将对AI手机行业形成短期阵痛与长期洗牌并存的双重影响，并推动终端定价从“功能溢价”转向“合规溢价”。

他表示，在短期内，合规成本将直接推高企业支出与产品售价。为满足《暂行办法》在风险预警、心理健康保护等方面的“能力规制”，企业需重建风控系统、增设专业团队，成本远超利润预期，这已导致部分大厂紧急下架相关功能以作风险隔离。受存储器涨价及合规成本叠加影响，新一代AI手机售价已出现明显上浮。

“从长期看，合规门槛将加速行业分化与价值重构。”陆峰指出，高昂的合规要求构成了中小企业难以跨越的壁垒，而头部厂商凭借先发备案优势将巩固市场地位。同时，商业逻辑将从依赖“情绪刺激”转向出售“可验证的服务价值”，推动市场走向更加健康、可持续的竞争。

细化规则闭环 让AI陪伴更安心

《暂行办法》为AI拟人互动产业搭建起了制度框架，但原则性的规则想要落地见效，还需要细化的标准、完善的监督体系作为支撑，彻底打消用户疑虑、提振消费信心。

高太山表示，从技术逻辑来看，云边协同是发展趋势，端侧智能体的治理同样不容忽视。在制度层面，需要进一步明确AI智能体调用系统底层权限的合法性基础与边界，针对支付、隐私、系统配置等关键操作，设置必要的用户确认环节。从责任链条来看，还要进一步厘清云端责任边界，围绕模型提供者、应用提供者、终端厂商、用户等主体划分各方责任，并尽快开展相关法律适用性研究。在配套措施方面，要加快推动相关标准、认证体系落地，重点完善面向AI终端的数据安全与隐私保护技术标准。与此同时，加快出台端侧AI数据安全、隐私保护专项技术标准与认证体系，做好各类法律法规协同衔接，防止出现监管真空，同时避免企业承受重复合规负担，构建全链条治理闭环。