如影随形

整治AI技巧滥用乱象：让本相“跑赢”谣言

发布时间：2025-02-25 09:06编辑：[db:作者]浏览（181）

中青报·中青网见习记者 刘胤衡 记者 陈晓 2月21日，中心网信办宣布2025年“明朗”系列专项举动整治重点。明白提出整治AI技巧滥用乱象，凸起AI技巧治理跟信息内容治理，强化天生分解内容标识，袭击借AI技巧天生宣布虚伪信息、实行收集水军行动等成绩，标准AI类利用收集生态。 1月7日，西藏日喀则市定日县突发6.8级地动。很快，一张令人揪心的照片在交际媒体上传布：头戴黑色毛线帽的孩童被压在废墟下，稚嫩的脸庞全是灰尘，一双黑亮的眼睛望向远方。 这张照片被一些自媒体账号配上“日喀则地动”相干标签敏捷传布。有网友在批评区留言，讯问孩子保险。但是多少天后，“地动废墟中小孩图片是AI天生”的话题登上彀络热搜。本来，这张照片2024年11月已呈现在收集上，事先创作者明白标注该图系AI天生作品。局部自媒体账号却偷梁换柱，用来博取眼球、收割流量。 “应用灾害加儿童的‘感情组合’，这条谎言在收集上成为‘病毒式传布’。”清华年夜学消息与传布学院副教学陆洪磊在接收中青报·中青网记者采访时表现，在AI技巧的加持下，收集谎言已浮现出一些新特点，谎言制作者已构成“产业化辟谣”形式，需经由过程平台、有关部分与大众协同构建防备系统。 陆洪磊指出，传统谎言传布存在含混性跟费解性，但随同技巧开展，“AI 使得谎言越来越清楚、真切，一些专业人士须要停止专门的现实核对来确当真伪，一般大众更是难辨虚实，须要惹起警觉。” 北京师范年夜学法学院院长、教学梁迎修报告了身边的一同实在案例。2024年岁尾，一逻辑学生与前女友分别后，遭受对方的收集毁谤，因此堕入重度烦闷，不得已报警。 2月24日，本日头条“平台管理开放日”上宣布的《2024年度管理讲演》表现，平台整年累计拦阻不实信息超500万条，拦阻跟处理涉嫌欺骗内容超200万条。跟着人工智能的开展，本日头条面对诸多挑衅。客岁，平台拦阻低质 AI 内容超 93万条，处分同质化发文超781万篇。 那么，怎样将谎言抹杀于抽芽阶段，避免其进一步分散传布？ 梁迎修指出，执法是管理收集谎言的无效手腕，我王法律为收集谎言管理供给了充足根据。刑法中有假造传布虚伪可怕信息罪、凌辱罪、毁谤罪等罪名；平易近法典对谎言侵权义务有具体划定；治安治理处分法例定对收集谎言传布的行政制裁办法；收集保险法等互联网专门执法条目，明白了国民跟平台在保护收集保险、袭击收集谎言方面的义务。 “现在，天生式AI 技巧加剧了谎言的诈骗性，权力受损的集体维权需投入大批时光与经济资本，维权本钱很高，管理谎言还须要执法与技巧的双重干涉。”梁迎修表现，当局应树立信息宣布造谣平台，平台要采用须要办法防备谎言传布，实在实行保护收集生态的社会义务。媒体要实时转发威望造谣跟实在信息，联袂推进谎言管理。大众要晋升收集素养，踊跃参加相干培训。 本日头条生态管理经营担任人韩雨桐先容，对虚伪谎言，本日头条树立起三年夜中心管理才能，包含谎言库、威望信源库以及专业考核团队，并于2024年在发文下方增添威望媒体报道起源标签，在保证资讯实在性的基本上，为用户供给更多客不雅视角。针对比年来疾速开展的AI技巧跟出现的低质内容，平台在激励用户应用AI提效的基本上，维护原创空间，敏捷进级、迭代AI模子的辨认才能，加年夜AI内容的考核力度。 陆洪磊表现，假如不AI 技巧助力谎言辨认，仅靠传统手腕，此类虚伪账号及谎言的管理难度将明显增年夜。 陆洪磊倡议平台树立谎言常识库，对虚伪内容实行前置拦阻，以AI 技巧辨认AI 谎言，侧重强化呆板辨认模子练习，对屡次违规账号予以重办，并对AI 天生内容停止明白标注；树立跨平台线索互通机制，推进相干执法细则落地实行。 同时，他倡议平台发展造谣教导，努力于晋升大众数字免疫力，提倡网平易近践行“三秒准则”，即在转发信息前，花三秒时光细心思考其起源与逻辑公道性。 “一方面要毁灭假的信息，另一方面要自动传布实在信息。”本日头条内容谋划担任人刘姗姗表现，2023年以来平台推出《头条讲真的》名目，结合医学、财经、执法等范畴专业创作者，为平台管理任务拓展新的思绪。停止2024年，《头条讲真的》宣布科普、造谣等主题视频，全网话题探讨量超36亿，成为本日头条安康跟优质内容生态的主要一环。 “针对谎言须要停止协同管理，盼望各人可能联袂偕行，助力收集空间明朗安康开展。”陆洪磊说。 （中国青年报客户端北京2月24日电）