识别AI造假,只靠网友眼尖?
但是,类似使用AI技术“傍名人”的帖子在社交平台还有很多。演员靳东、医生张文宏、企业家雷军等,都曾被“AI造假”。造假者手段百出,或觊觎名人光环吸引流量增加粉丝,或假借名人形象、语音带货牟利,更有不法分子用AI数字人炮制诈骗陷阱,利用公众对名人的信任骗取钱财。
值得注意的是,社交平台的AIGC(人工智能生成内容)不止于“傍名人”。很多服务行业、自媒体越发频繁使用AIGC为自己“添光”,有些场景的AIGC更是让观看者真假难辨。比如,在餐饮、设计、摄影等行业,用AI照片取代实景照片的现象越来越普遍。商家用这些技术生成的美图、美景招揽顾客。商家造假成本越来越低,效果却很好,普通人几乎难辨真伪。
再比如,社交平台的分享等板块,美轮美奂的城市风光、鬼斧神工的自然景致让网友心潮澎湃。可当满心期待的网友向发布者追问具体地点时,得到的往往是沉默。直至有眼尖的网友一语道破天机:这些“照片”大概率是AI虚构的,发布者自然无法给出真实地址。
面对AIGC渗透到生活的方方面面,如果只是提醒观看者提高警惕、加以辨别,不足以从根本上解决问题。对很多并不了解AI等新技术的网友来说,更是不可能完成的任务。
所以,要解决AIGC充斥网络的问题,必须从源头上采取举措。
一方面,相关平台必须正视目前AIGC充斥网络的现状,直面平台自己的问题,而不是一味将责任推卸给发布者。不难发现,一些商家、自媒体之所以热衷于AIGC,是因为这些内容能够躲过平台的审核机制,以“真实”的形象出现在社交平台上,甚至利用平台现有算法,为它们的扩散获得机会。
以“傍名人”类AIGC为例,不法分子利用名人效应吸引眼球,与此同时,平台也成为名人效应的受益者。所以,“傍名人”的现象层出不穷,平台做的却只是“账号被举报甚至被官方查处后才封号”的事后管理,而没有从发布伊始就拒绝相关虚假信息。
再比如,AIGC之所以出现在“分享”板块中,与传统算法不辨真伪有关。传统算法过度聚焦用户即时反响,单纯依据互动量等指标推荐内容,却忽视了AIGC带来的虚假性问题,反而为虚假内容扩散大开绿灯。
要解决以上问题,必须有的放矢,精准施策。
首当其冲的是名人账号监管亟待强化。名人作为公众焦点,一旦账号被盗用、造假,危害深远。所以,平台应该构建更加严格的名人账号认证体系,确保账号创建与运营的真实性。
其实,现有的很多技术已经可以帮上忙,比如通过面部动态识别、声纹加密比对等生物技术手段,判断是“真人”还是“数字人”;或者用最简单的方式——人工审核,加大对各种冠以名人名号的账号审查,发现“傍名人”“假名人”后立刻下架,将负面影响扼杀在萌芽状态。
其次,给AIGC打上技术“烙印”势在必行。AI生成的文字、图片、视频混杂在信息流中,普通用户很难凭肉眼甄别。指望造假者主动标注,也无异于与虎谋皮。所以,大模型开发者等提供AIGC服务的企业有必要与信息发布平台联手,用技术手段为AIGC生成人眼不可识别但技术能够鉴定的“隐形标签”、特殊标志。这样一来,只要用户在平台上发布AIGC,平台就能自动识别,并添加水印、标签,注明“AI制造”身份,既让用户在浏览时心中有数,避免被虚假信息误导,也便于后续的内容追溯与管理。对于故意隐匿AIGC标志、企图鱼目混珠的发布者,则可以施以惩罚,如限流、封禁账号等,以儆效尤。
最后,针对那些缺乏关键要素却博人眼球的信息,平台可以要求发布者补充关键信息;若发布者无法按照要求完成,则可以采取公开提示、流量限制、封号清退等方式,督促发布者上传真实信息。
更进一步,法律法规也要快步跟上AIGC的“狂飙”速度。相关部门应加快制定针对AI造假、虚假信息传播的法律法规,明确造假者、平台方、传播者等各方的责任边界。对利用AI实施诈骗等违法犯罪行为严惩不贷,震慑不法之徒;对平台疏于管理导致虚假信息泛滥的情况,以巨额罚款倒逼平台守土有责。
标签:
精彩推送
- 识别AI造假,只靠网友眼尖?
- 当AI“牵手”政务之后
- 骨科机器人手术“精准到毫米”
- 国产手术机器人:从“跟跑”到“并跑”
- 从蓝图到实景,低空经济蓬勃发展
- 智领潮头兴未来
- 全球首次!人形机器人将与人类一起跑“半马”
- 港澳金融机构 入股境内保险公司“门槛”降低
- 从DeepSeek“国运级”火爆到场景落地,看数势科技智能分析Agent如何助力释放数据价值
- ABeam中国 | 中国科技趋势2025系列篇之3——生成式AI:重塑生产力的未来
- 环球金融特别推荐中国艺坛名家——杜秉才作品展示
- 密尔克卫荣获南大光电2024年最佳物流奖
- 颈部肌肤粗糙如树皮,润致格格针打响颈部保卫战
- 新基金开年现“申报潮” 2025投资风向浮现
- 平安人寿:防范不法中介“代理退保”风险 保障消费者合法金融权益
- 国有大行优化金融供给 助推外贸稳健增长
- 民生银联京东好礼联名无界信用卡正式发布 打造全场景金融服务新体验
- 重组步入“深水区” “消失”的村镇银行去哪了
- 河南农商银行:选举郝惊涛为董事长 聘任王炯为行长
- 威海市商业银行更名为威海银行
- 北京金融监管局:坚定不移推进金融高水平开放
- 2月央行开展1.4万亿元买断式逆回购操作 未开展国债买卖操作
- 美联储官员继续吹风:利率或在未来一段时间内保持限制性
- 多家银行信用卡业务“瘦身” 或转而深耕存量客户
- 香港金融十大贵金属交易平台排名,热门指数平台名单!
- 棉里层口罩销售火爆的背后:44.76%医护人员皮肤损伤率的破局
- 资本市场高水平开放再提速
- 服务实体经济 坚持金融为民 金融监管总局推动落实代表委员建议提案
- 央行二月缩量续做MLF 适度宽松货币政策基调不变
- 让“中国处方”造福柬埔寨人民 同仁堂集团拜访柬埔寨王国卫生部
- “智变”提速 DeepSeek金融“朋友圈”持续扩容
- 两部门:推动金融资产投资公司股权投资试点有序扩围
- 银政携手赋能生物医药产业 江苏银行探索产融对接新路径
- 朝阳区农批市场深入顺鑫石门:共探食品安全新高度
- 秘鲁出口和旅游促进委员会(PROMPERÚ)首次在中国开展投资推广之旅
- 看贵金属行情下载什么软件?国际五大专业行情软件汇总!
- Milkyway has passed AEO(authorized economic operator)
- 新春特辑丨春节我在岗 奋斗不打烊
- 直播预约已开启,危险品公路运输难题如何破局?2月26日在线“会诊”!
- 数势科技携手华为 推出基于DeepSeek智能金融数据分析解决方案
- 环球金融特别推荐中国艺坛名家——李增荣作品展示
- DeepSeek将为智驾带来什么?
- 2025年春节车企出行报告:智能驾驶受青睐 补能效率再提升
- 透过新能源汽车,怎么看“成长的烦恼”?
- 最新汽车召回公告!涉及这些品牌
- 新能源车在蛇年如何挖深护城河
- 北汽极狐官方降价32000元 迎战新能源决赛圈
- 银行的“DeepSeek时刻”:信贷审核等场景已搭上AI快车
- 十余家上市银行业绩快报出炉 资产质量向好经营指标改善
- 金价大涨 多家银行调整积存金业务
- 中小金融机构改革稳步推进 多家新银行加速筹建
- 金融活水润百业 浦发银行擘画文旅融合新图景
- 135家险企最新偿付能力扫描:超六成险企综合偿付能力充足率环比上升
- 中国人寿临沂分公司获中华全国总工会“全国模范职工之家”称号
- 资本市场持续发力 更好满足多元化养老金融需求
- A股银行业绩快报接连发布 整体表现亮眼
- 135家险企最新偿付能力扫描:超六成险企综合偿付能力充足率环比上升
- DeepSeek“出圈”有望加速AI普及
- 找准高水平科技自立自强关键抓手
- 跨越速运西部枢纽空侧启用!竞品还在凑资源,跨越已全域无死角!
- AI大模型真的能让基金业绩更好?
- 面对A I主播应“乐见其成,善用其能”
- 中国登月服和载人月球车名称确定
- 我学者找到合成“超级钻石”新途径
- 全国日均网上零售额同比增长6.2% 2025年网络消费实现“开门红”
- 企业新动作频频 加速竞跑AI大模型赛道
- 你的声音被谁“偷”走了——AI声音滥用现象调查
- 补短板释放“人工智能+”效应
- 平台提供算法推荐应明示规则
- 以系统观念培养人工智能人才
- “科技过年”给春节带来新内容
- 低空经济步入关键增长期 振翅高飞正当其时
- “惊喜、惊诧、惊叹”的DeepSeek:掀翻“刻板印象”的中国初创力量
- 敲除这两个基因 作物将更好抵御寄生植物
- 新华全媒+|我国科学家创制“精准治疗”技术助锂电池“起死回生”
- 新华全媒+|我国科学家创制“精准治疗”技术助锂电池“起死回生”
- AI变革让股票市场发生剧变,DeepSeek为TV注入更多发展动能!
- 首批券商财报浮出水面 自营业务扛起业绩“大旗”
- 信托行业迎新规 强监管、防风险成发展主题
- 基金业绩“暖融融” 成长方向“熙熙攘攘”
- 逾2万亿元逆回购到期 央行多举措调节流动性
- 交易热情不减 多家券商披露股份回购最新进展
- 多因素支撑 信贷投放有望开门红
- 券商多条业务线发力 提升金融“五篇大文章”服务能力
- 从哈尔滨冰雪大世界看珠宝行业场景化营销
- 新研究说生成式人工智能可快速分析染色质三维结构
- AI大模型竞争或激发创新浪潮
- 新春走基层|北京科技庙会点燃春节“机器人热”
- 新研究:生成式人工智能可快速 分析染色质三维结构
- 智能设备成“热宠” 新春游园“智”趣多
- 以政策优化与生态体系建设共促未来产业发展
- 筑牢人工智能安全防火墙
- 行业首家!数势科技SwfitAgent全面接入DeepSeek-R1
- 恒指龙年累计上涨逾4400点
- 浙江台州大麦屿港——台湾基隆海上货运航线正式恢复
- 政策礼包加码 春节市场火热
- 黄金价格刷新历史高位 国内足金首饰1克突破846元
- 谁为钢铁转型“买单”?
- 浏阳烟花“重生记”
- “毛孩子经济”春节火了 你家萌宠这个节怎么过?