浙江大学医学院附属儿童医院陈建惠医生黄牛预约代挂号电话给“AI陪伴”划定安全边界
黄牛号贩子跑腿代挂号(13161229222)微信需要挂号联系客服(13161229222)各大医院服务项目!专家挂号,办理住院加快.检查加快,产科建档,指名医生挂号北京,上海,南京,天津.广州,各大医院代挂号
近日,在湖北省恩施土家族苗族自治州巴东县朱砂土村的暑假爱心托管班上,小朋友正在和机器人互动。焦国斌摄(人民视觉)
观众在第四届链博会上与全球首款分体式AI陪伴机器人互动。唐 克摄(人民视觉)
江苏省南通市通州区运盐河幼儿园的孩子们在智能阅读机的引导下沉浸式解锁有声绘本。翟慧勇摄(人民视觉)
随着生成式AI(人工智能)的快速发展,AI应用的对话交互能力越来越成熟,推动人机关系从功能辅助迈向情感陪伴,在适幼照护等领域展现出广阔前景。但高度拟人化可能引发的情感依赖、认知混淆等深层次风险也逐步凸显,规范治理需求日益迫切。
近期,国家互联网信息办公室等5部门联合公布的《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)正式施行,明确人工智能拟人化互动服务的定义,并划定安全边界,防止“AI陪伴”替代社会交往、控制用户心理、诱导沉迷依赖。
专家指出,《办法》的出台,既是对拟人化互动服务领域传统安全风险的系统回应,也是对新型安全隐患的前瞻性防控,提出了“边界清晰、权责明确、风险可控、创新包容”的治理要求,实现了创新发展与安全治理的有机平衡。
拟人化互动隐患凸显
向AI分享生活趣事、倾诉学习烦恼、让AI帮助解答心理困惑……近年来,随着各类生成式AI应用的普及,越来越多青少年尝试与“AI搭子”进行情感交流。
刘沁(化名)的儿子在学龄前就接触了AI,很快就对聊天功能十分着迷,常常聊到深夜还不肯睡觉。“我一开始觉得还挺好,AI能陪他像好朋友一样聊天。”但孩子随后的变化,令她愈发担忧:孩子对外出玩耍的兴趣减少,户外活动时总是兴致索然;情绪变得暴躁易怒,缺乏耐心;遇到烦恼更愿意和AI倾诉,与家人之间的沟通减少。
“和AI交流,不用害怕被指责,不管我说什么,它都会认真听、慢慢回应,我感觉自己被理解了。”在谈及为什么喜欢跟AI聊天时,初中二年级学生小辉(化名)表示。
2025年,中国青少年研究中心孙宏艳研究员带领团队对全国7个省市8500余名中小学生进行了调查,结果显示,超过六成学生使用过AI,近半数孩子心里有烦恼时选择求助AI。
依赖之所以产生,离不开AI的“投其所好”。
“相较于常批评自己的长辈,青少年更愿意向耐心倾听的伙伴敞开心扉。”孙宏艳告诉笔者,AI即时回应、无条件接纳情绪、零拒绝交互等特点,尤其贴合青春期孩子的心理诉求。AI倾向于顺从、讨好、肯定的回应方式,也让孩子在AI面前,不必担心被批评、被拒绝。
然而,虚拟互动终究无法替代真实交往。不少家长反映,孩子习惯与AI聊天后,常认为周围人都会无条件应答自己,对现实社会、人际关系产生认知偏差。刘沁回忆,一次儿子与同伴打闹时站到台阶边缘,有家长出于安全考虑出言提醒,儿子却生气了,认为对方多管闲事。“那段时间,AI总顺着他的话讲,给了太多情绪上的迎合,让他有些分辨不清现实中他人的善意了。”刘沁说。
“青少年本应在真实交往中学会接受分歧、拒绝和不确定性,若长期面对一个围绕自身需求生成、可不断调整的虚拟对象,容易形成失真的关系预期。”华东师范大学教育学部教授姚荣表示,当情绪寄托、关系需求乃至部分价值判断逐渐向AI转移,真实的家庭关系、同伴互动及社会化过程都可能受到影响。
未成年人若长久沉溺于AI无条件迎合营造的“情绪茧房”,会对充满多元冲突的现实关系产生抵触,进而更依赖与AI聊天,形成恶性循环。“长此以往,孩子对挫折的耐受力、情绪表达和感知能力都将被削弱。”孙宏艳说,“《办法》的施行,正是有关部门针对这些潜在风险作出的及时回应,可谓正当其时。”
构筑防线划定边界
法治是防范技术风险、引导其健康发展的重要基石。
业内人士分析,此次《办法》的出台,旨在把人工智能拟人化互动服务的隐性风险显性化、标准化,降低长期不确定性。
根据《办法》规定,人工智能拟人化互动服务指的是,利用人工智能技术,向公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务,包括通过文字、图片、音频、视频等形式,提供的情感照护、陪伴、支持等互动服务。对于提供智能客服、知识问答、工作助手、科学研究等服务,不涉及持续性的情感互动的,不在此次管理范围之内。
需要挂号联系客服 13161229222
