aifollow.news
Back IT之家 科技新闻
IT之家 科技新闻· · Original publication time AI score59

China’s cyberspace regulator launches two-month campaign against AI-generated health misinformationMachine translation

中央网信办部署两个月专项行动,整治 AI 生成的健康谣言

AI-assisted summary

China’s cyberspace regulator has launched a two-month nationwide campaign against online health misinformation. Targets include AI-generated false health content, face and voice cloning that impersonates experts, and forged official health advice. Authorities will press platforms to improve detection and enforcement and strengthen credential checks for medical education accounts.

Article · Original

The article text is unavailable in this language; an existing version is shown.

IT之家 11 月 6 日消息,为进一步加强科普健康领域网络谣言突出问题整治,营造风清气正网络空间,近日,中央网信办印发通知,在全国范围内部署开展为期 2 个月的“清朗 · 整治科普健康类网络谣言”专项行动。

中央网信办有关负责同志表示,本次专项行动重点整治以下 4 方面突出问题:

(一)编造民生健康网络谣言,借机误导网民。

一是以关注公众健康等为名义,将普通食品、保健品包装成“神药”,推广所谓“包治百病”偏方,发布伪科普信息,借审美焦虑制造“黄连素是减肥神药”等运动、减重类谣言。

二是刻意夸大食品、药品、生活用品副作用,配以夸张骇人标题,编造所谓“长期服用降压药会使血管变脆”“献血会伤害身体”“味精加热有毒”“蜂蜜结晶不能吃”等缺乏科学依据、断章取义的谣言信息,制造焦虑恐慌情绪。

三是以“科学辟谣”“现代医学真相”等名义,发表“某类食物全是智商税”“某项常规检查完全没必要”“肯定致癌”等极端化、绝对化论断,使用“揭露被掩盖的真相”“医生不会告诉你的秘方”等语言否定权威机构,甚至鼓动自我诊断、拒绝就医,误导公众。

四是打着“古法养生”“古法育儿”“国粹养生”等旗号,鼓吹“胎里吃素”“中国人不需要蛋白质”,对传统文化进行片面解读甚至恶意歪曲,通过“能量玄学”“命理疗疾”等方式传播封建迷信思想。

(二)冒用专业身份等,传播伪科学观点。

一是冒充医疗卫生健康等领域专业人士或正规机构人员,离职人员沿用原单位和职务信息认证,违规开展网络健康科普。

二是打造所谓“国家一级保健师”“国家一级营养师”等,或者身着专业服装在医院、诊室等场景进行摆拍,散播没有科学依据的“食疗”“偏方”。

三是包装虚假专家、“先知”等,编造所谓“量子赋能”“宇宙能量”等伪科学概念,兜售假冒伪劣产品。

四是打着“网红大师”“得道高人”等名义,宣称掌握“能量玄学密码”可治病消灾,利用部分群体焦虑心理非法牟利。

(三)滥用人工智能技术,生成健康科普谣言。

一是利用 AI 技术批量生成同质化涉健康科普类文案、图片、音视频,制造虚假舆论热点,推销相关产品。

二是利用 AI 换脸、换声技术盗用知名专家形象、声音,进行虚假科普、带货。

三是诱导 AI 大模型生成并传播虚假“死亡率”“存活率”、不实科学数据等谣言,借机售卖保健品。

四是利用 AI 生成伪造权威通报、官方健康提示、夸大疗效等图片、视频信息,借机误导网民。

(四)虚构康复案例夸大疗效,通过私域等环节诱骗消费。

一是以“亲身经历”“患者康复故事”“祖传秘方”“专家私授”等为幌子,编造虚假故事、康复案例,声称“100% 有效”“永不复发”,并提供所谓前后对比图、聊天截图夸大功效,引至私信、群聊等私域环节进行诈骗。

二是过度渲染食品、保健养生品等的营养成分,夸大医疗设备的功能作用,进行营销带货。

三是以“专家私域讲课”“会员专享”等为包装,在社群等私域场景内开展虚假宣传,通过送礼品领红包、情感诱导等方式欺骗老年消费者。

IT之家获悉,网信部门将采取以下治理措施:

一是加大违规账号和机构查处力度。从严处置生成传播健康科普网络谣言、扰乱网络生态秩序的违法违规账号。强化医疗科普等账号身份资质核验认证,要求清晰展示账号资质信息,不得以账号简介处标注“某医院医师”“某领域专家”等形式进行模糊暗示,严格标注医疗科普信息来源。

二是加强重点环节管理。严禁在榜单、推荐等位置推送科普健康类谣言信息。建立科普谣言信息关键词库和典型案例库,扩大权威科普内容池,及时标记辟谣标签,并通过弹窗、私信提醒等方式强化辟谣信息触达。

三是提升平台 AI 防治能力。督促平台提升对 AI 生成合成涉科普健康谣言信息的发现、识别和处置能力,强化 AI 换脸、换声、虚拟人形象检测和深度合成鉴伪,对假冒专业领域人员内容实现自动化识别。

中央网信办有关负责同志强调,各地网信部门要充分认识到开展专项行动的重要意义,切实履行属地管理责任,强化部门协同联动,形成整治工作合力,督导网站平台对照整治重点,聚焦重点环节、版块深入自查自纠,全面排查问题漏洞,定期对外发布典型案例,强化警示震慑效应,帮助广大网民更好辨别科普健康领域网络谣言,不造谣、不信谣、不传谣,确保专项行动取得实效。

Found an error? Send a correction