设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

识别AI造假,只靠网友眼尖?

2025-03-14 17:11:23 来源: 新华网

3月3日,著名演员刘晓庆通过微博澄清,微信视频号“晓庆人生”并非她的账号,直言相关账号“画面是我,声音很像我”。上海辟谣平台初步调查发现,相关账号使用AI技术,生成刘晓庆的声音、视频等。截至发稿,该账号已经不可见。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

但是,类似使用AI技术“傍名人”的帖子在社交平台还有很多。演员靳东、医生张文宏、企业家雷军等,都曾被“AI造假”。造假者手段百出,或觊觎名人光环吸引流量增加粉丝,或假借名人形象、语音带货牟利,更有不法分子用AI数字人炮制诈骗陷阱,利用公众对名人的信任骗取钱财。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

值得注意的是,社交平台的AIGC(人工智能生成内容)不止于“傍名人”。很多服务行业、自媒体越发频繁使用AIGC为自己“添光”,有些场景的AIGC更是让观看者真假难辨。比如,在餐饮、设计、摄影等行业,用AI照片取代实景照片的现象越来越普遍。商家用这些技术生成的美图、美景招揽顾客。商家造假成本越来越低,效果却很好,普通人几乎难辨真伪。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

再比如,社交平台的分享等板块,美轮美奂的城市风光、鬼斧神工的自然景致让网友心潮澎湃。可当满心期待的网友向发布者追问具体地点时,得到的往往是沉默。直至有眼尖的网友一语道破天机:这些“照片”大概率是AI虚构的,发布者自然无法给出真实地址。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

面对AIGC渗透到生活的方方面面,如果只是提醒观看者提高警惕、加以辨别,不足以从根本上解决问题。对很多并不了解AI等新技术的网友来说,更是不可能完成的任务。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

所以,要解决AIGC充斥网络的问题,必须从源头上采取举措。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

一方面,相关平台必须正视目前AIGC充斥网络的现状,直面平台自己的问题,而不是一味将责任推卸给发布者。不难发现,一些商家、自媒体之所以热衷于AIGC,是因为这些内容能够躲过平台的审核机制,以“真实”的形象出现在社交平台上,甚至利用平台现有算法,为它们的扩散获得机会。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

以“傍名人”类AIGC为例,不法分子利用名人效应吸引眼球,与此同时,平台也成为名人效应的受益者。所以,“傍名人”的现象层出不穷,平台做的却只是“账号被举报甚至被官方查处后才封号”的事后管理,而没有从发布伊始就拒绝相关虚假信息。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

再比如,AIGC之所以出现在“分享”板块中,与传统算法不辨真伪有关。传统算法过度聚焦用户即时反响,单纯依据互动量等指标推荐内容,却忽视了AIGC带来的虚假性问题,反而为虚假内容扩散大开绿灯。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

要解决以上问题,必须有的放矢,精准施策。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

首当其冲的是名人账号监管亟待强化。名人作为公众焦点,一旦账号被盗用、造假,危害深远。所以,平台应该构建更加严格的名人账号认证体系,确保账号创建与运营的真实性。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

其实,现有的很多技术已经可以帮上忙,比如通过面部动态识别、声纹加密比对等生物技术手段,判断是“真人”还是“数字人”;或者用最简单的方式——人工审核,加大对各种冠以名人名号的账号审查,发现“傍名人”“假名人”后立刻下架,将负面影响扼杀在萌芽状态。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

其次,给AIGC打上技术“烙印”势在必行。AI生成的文字、图片、视频混杂在信息流中,普通用户很难凭肉眼甄别。指望造假者主动标注,也无异于与虎谋皮。所以,大模型开发者等提供AIGC服务的企业有必要与信息发布平台联手,用技术手段为AIGC生成人眼不可识别但技术能够鉴定的“隐形标签”、特殊标志。这样一来,只要用户在平台上发布AIGC,平台就能自动识别,并添加水印、标签,注明“AI制造”身份,既让用户在浏览时心中有数,避免被虚假信息误导,也便于后续的内容追溯与管理。对于故意隐匿AIGC标志、企图鱼目混珠的发布者,则可以施以惩罚,如限流、封禁账号等,以儆效尤。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

最后,针对那些缺乏关键要素却博人眼球的信息,平台可以要求发布者补充关键信息;若发布者无法按照要求完成,则可以采取公开提示、流量限制、封号清退等方式,督促发布者上传真实信息。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

更进一步,法律法规也要快步跟上AIGC的“狂飙”速度。相关部门应加快制定针对AI造假、虚假信息传播的法律法规,明确造假者、平台方、传播者等各方的责任边界。对利用AI实施诈骗等违法犯罪行为严惩不贷,震慑不法之徒;对平台疏于管理导致虚假信息泛滥的情况,以巨额罚款倒逼平台守土有责。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

3月3日,著名演员刘晓庆通过微博澄清,微信视频号“晓庆人生”并非她的账号,直言相关账号“画面是我,声音很像我”。上海辟谣平台初步调查发现,相关账号使用AI技术,生成刘晓庆的声音、视频等。截至发稿,该账号已经不可见。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

但是,类似使用AI技术“傍名人”的帖子在社交平台还有很多。演员靳东、医生张文宏、企业家雷军等,都曾被“AI造假”。造假者手段百出,或觊觎名人光环吸引流量增加粉丝,或假借名人形象、语音带货牟利,更有不法分子用AI数字人炮制诈骗陷阱,利用公众对名人的信任骗取钱财。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

值得注意的是,社交平台的AIGC(人工智能生成内容)不止于“傍名人”。很多服务行业、自媒体越发频繁使用AIGC为自己“添光”,有些场景的AIGC更是让观看者真假难辨。比如,在餐饮、设计、摄影等行业,用AI照片取代实景照片的现象越来越普遍。商家用这些技术生成的美图、美景招揽顾客。商家造假成本越来越低,效果却很好,普通人几乎难辨真伪。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

再比如,社交平台的分享等板块,美轮美奂的城市风光、鬼斧神工的自然景致让网友心潮澎湃。可当满心期待的网友向发布者追问具体地点时,得到的往往是沉默。直至有眼尖的网友一语道破天机:这些“照片”大概率是AI虚构的,发布者自然无法给出真实地址。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

面对AIGC渗透到生活的方方面面,如果只是提醒观看者提高警惕、加以辨别,不足以从根本上解决问题。对很多并不了解AI等新技术的网友来说,更是不可能完成的任务。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

所以,要解决AIGC充斥网络的问题,必须从源头上采取举措。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

一方面,相关平台必须正视目前AIGC充斥网络的现状,直面平台自己的问题,而不是一味将责任推卸给发布者。不难发现,一些商家、自媒体之所以热衷于AIGC,是因为这些内容能够躲过平台的审核机制,以“真实”的形象出现在社交平台上,甚至利用平台现有算法,为它们的扩散获得机会。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

以“傍名人”类AIGC为例,不法分子利用名人效应吸引眼球,与此同时,平台也成为名人效应的受益者。所以,“傍名人”的现象层出不穷,平台做的却只是“账号被举报甚至被官方查处后才封号”的事后管理,而没有从发布伊始就拒绝相关虚假信息。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

再比如,AIGC之所以出现在“分享”板块中,与传统算法不辨真伪有关。传统算法过度聚焦用户即时反响,单纯依据互动量等指标推荐内容,却忽视了AIGC带来的虚假性问题,反而为虚假内容扩散大开绿灯。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

要解决以上问题,必须有的放矢,精准施策。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

首当其冲的是名人账号监管亟待强化。名人作为公众焦点,一旦账号被盗用、造假,危害深远。所以,平台应该构建更加严格的名人账号认证体系,确保账号创建与运营的真实性。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

其实,现有的很多技术已经可以帮上忙,比如通过面部动态识别、声纹加密比对等生物技术手段,判断是“真人”还是“数字人”;或者用最简单的方式——人工审核,加大对各种冠以名人名号的账号审查,发现“傍名人”“假名人”后立刻下架,将负面影响扼杀在萌芽状态。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

其次,给AIGC打上技术“烙印”势在必行。AI生成的文字、图片、视频混杂在信息流中,普通用户很难凭肉眼甄别。指望造假者主动标注,也无异于与虎谋皮。所以,大模型开发者等提供AIGC服务的企业有必要与信息发布平台联手,用技术手段为AIGC生成人眼不可识别但技术能够鉴定的“隐形标签”、特殊标志。这样一来,只要用户在平台上发布AIGC,平台就能自动识别,并添加水印、标签,注明“AI制造”身份,既让用户在浏览时心中有数,避免被虚假信息误导,也便于后续的内容追溯与管理。对于故意隐匿AIGC标志、企图鱼目混珠的发布者,则可以施以惩罚,如限流、封禁账号等,以儆效尤。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

最后,针对那些缺乏关键要素却博人眼球的信息,平台可以要求发布者补充关键信息;若发布者无法按照要求完成,则可以采取公开提示、流量限制、封号清退等方式,督促发布者上传真实信息。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

更进一步,法律法规也要快步跟上AIGC的“狂飙”速度。相关部门应加快制定针对AI造假、虚假信息传播的法律法规,明确造假者、平台方、传播者等各方的责任边界。对利用AI实施诈骗等违法犯罪行为严惩不贷,震慑不法之徒;对平台疏于管理导致虚假信息泛滥的情况,以巨额罚款倒逼平台守土有责。5DF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

本文链接:识别AI造假,只靠网友眼尖?http://www.llsum.com/show-2-11183-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 我国科研团队提出人工合成细菌治疗肿瘤新方法

下一篇: 当AI“牵手”政务之后

热门资讯

推荐资讯

  • 日榜
  • 周榜
  • 月榜