设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

用AI犯罪的五种方式亟待防范

2024-06-20 17:16:42 来源: 中国科技网

人工智能(AI)浪潮正以前所未有的速度推进。这是一个AI新纪元,在AI的帮助下,科研的边界被不断拓宽,解决复杂问题的速度越来越快,但必须警惕:AI也能极大提高犯罪分子的“生产力”。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

安全公司“趋势科技”研究员文森佐·钱卡利尼表示,生成式AI提供了一个新的、强大的工具包,使恶意行为者能够比以往更高效、更国际化地开展活动。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

钱卡利尼说,大多数犯罪分子“并不是生活在黑暗巢穴里密谋行事”,他们中“大多数都是普通人,从事着日常工作”。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

去年的“WormGPT衰落”是一个标志性事件。WormGPT是一种基于开源模型构建的AI语言模型,但它使用恶意软件相关数据进行训练,会协助黑客工作且没有任何道德规则或限制。2023年夏天,在引起媒体高度关注后,该模型的创建者宣布关闭模型。自那以后,网络犯罪分子大多停止开发自己的AI模型,转而借助更可靠的现有工具来“耍花招”。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

这可能是因为,犯罪分子也想更快获得收益且不想承担新技术带来的未知风险。人们对此必须多加注意,以下5种就是目前他们最常用的方式。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

网络钓鱼:诱骗你的私人信息EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

瑞士苏黎世联邦理工学院的AI安全研究员米斯拉夫·巴卢诺维奇表示,目前生成式AI最大的滥用就是网络钓鱼,其试图诱骗人们泄露敏感信息,再用于恶意目的。研究发现,在ChatGPT兴起的同时,也伴随着网络钓鱼电子邮件数量大幅增加。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

钱卡利尼表示,GoMail Pro等垃圾邮件生成服务已集成ChatGPT,这使得犯罪用户能翻译或改进发送给受害者的消息。OpenAI的政策限制人们用其产品进行非法活动,但在实践中其实很难监管。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

OpenAI方面表示,他们将人工审核和自动化系统相结合,以识别和防止其模型被滥用,如果用户违反公司政策,则会实施警告、暂停、永久关闭等措施。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

还有一点值得注意,由于AI翻译工具的进步,世界各地犯罪集团的沟通变得更容易,他们可能开展大规模跨国行动,或在本国对其他国家用户采取恶意行动。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

深度伪造:进入地下市场EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

生成式AI使深度伪造(Deepfake)的开发发生质变。当前,技术合成的图像或音视频,看起来或听起来比以往任何时候都更加真实,这一点犯罪分子也意识到了。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

钱卡利尼团队发现,已经有用户在电报(Telegram)等平台上展示他们的“深度伪造组合”,并以每张图片10美元或每分钟500美元的价格出售服务。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

相较图片,深度伪造视频制作起来更复杂,而且更容易露出破绽。深度伪造音频的制作成本低廉,只需几秒钟的某人的声音(例如从社交媒体获取),即可生成令人信服的内容。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

这样的诈骗案例并不鲜见,人们接到亲人打来的求救电话,称自己被绑架并要求交付赎金,结果却发现,打电话的人是个使用深度伪造语音的骗子。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

钱卡利尼建议,亲人之间应商定一些秘密安全词并定期更换,这有助于紧急情况下确认电话另一端的人的身份。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

绕过身份检查:一个伪造的“你”EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

犯罪分子滥用AI技术的另一种方式是绕过验证系统。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

一些银行和加密货币交易需验证其客户是否本人。他们会要求新用户在手机相机前持身份证拍摄一张自己的照片,但犯罪分子已经开始在电报等平台上销售能绕过这一要求的应用程序。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

他们提供的是伪造或被盗的身份证件,再将深度伪造的图像强加在真人脸上,以欺骗手机相机验证程序。据钱卡利尼发现的一些例子,该服务的价格甚至低至70美元。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

“越狱”式服务:带来危险输出EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

如果有人向AI询问如何制造炸弹,那他不会得到任何有用的答复。这是因为大多数AI公司已采取各种保护措施来防止模型泄露有害或危险信息。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

现在,网络犯罪分子不再构建自己的AI模型,这种方式既昂贵、耗时又困难。一种新犯罪趋势开始出现——“越狱”式服务。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

比如上面得不到答案的问题,这显示了模型都有关于如何使用它们的规则。但“越狱”允许用户操纵AI来生成违反这些政策的输出。例如,为勒索软件编写代码,或生成可在诈骗电子邮件中使用的文本。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

为了对抗这些不断增长的风险,OpenAI和谷歌等公司需时时堵塞可能导致紧急危害的安全漏洞。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

人肉搜索和监视:暴露用户隐私EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

巴卢诺维奇表示,AI语言模型不仅是网络钓鱼的“完美工具”,对人肉搜索(在线泄露某人的私人身份信息)也是如此。这是因为AI语言模型经过大量互联网数据(包括个人数据)的训练, 可推断出某人位于何处。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

犯罪分子可能会让聊天机器人假装是具有侧写经验的私家侦探,然后让它分析受害者所写的文本,并从文本中的小线索推断出个人信息。例如,根据他们上高中的时间推断他们的年龄,或者根据他们在通勤时提到的地标推断他们的居住地点。互联网上该人的相关信息越多,就越容易被识别。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

巴卢诺维奇团队2023年底发现,大型语言模型,如GPT-4、Llama 2和Claude,已能够仅从与聊天机器人的日常对话中推断出人们的种族、位置和职业等敏感信息。理论上,任何能访问这些模型的人,都能以这种方式使用它们。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

这些服务的存在,并不直接表明犯罪活动的存在,但我们必须看到可供恶意行为者利用的新功能。而防止这些事情发生的唯一方法就是加强防御。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

巴卢诺维奇称,对AI公司来说,应完善数据保护;对个人来说,提高防范意识是关键——人们应三思而后行,考虑他们在网上分享的内容,并谨慎决定,自己是否愿意在语言模型中使用他们的个人信息。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

人工智能(AI)浪潮正以前所未有的速度推进。这是一个AI新纪元,在AI的帮助下,科研的边界被不断拓宽,解决复杂问题的速度越来越快,但必须警惕:AI也能极大提高犯罪分子的“生产力”。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

安全公司“趋势科技”研究员文森佐·钱卡利尼表示,生成式AI提供了一个新的、强大的工具包,使恶意行为者能够比以往更高效、更国际化地开展活动。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

钱卡利尼说,大多数犯罪分子“并不是生活在黑暗巢穴里密谋行事”,他们中“大多数都是普通人,从事着日常工作”。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

去年的“WormGPT衰落”是一个标志性事件。WormGPT是一种基于开源模型构建的AI语言模型,但它使用恶意软件相关数据进行训练,会协助黑客工作且没有任何道德规则或限制。2023年夏天,在引起媒体高度关注后,该模型的创建者宣布关闭模型。自那以后,网络犯罪分子大多停止开发自己的AI模型,转而借助更可靠的现有工具来“耍花招”。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

这可能是因为,犯罪分子也想更快获得收益且不想承担新技术带来的未知风险。人们对此必须多加注意,以下5种就是目前他们最常用的方式。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

网络钓鱼:诱骗你的私人信息EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

瑞士苏黎世联邦理工学院的AI安全研究员米斯拉夫·巴卢诺维奇表示,目前生成式AI最大的滥用就是网络钓鱼,其试图诱骗人们泄露敏感信息,再用于恶意目的。研究发现,在ChatGPT兴起的同时,也伴随着网络钓鱼电子邮件数量大幅增加。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

钱卡利尼表示,GoMail Pro等垃圾邮件生成服务已集成ChatGPT,这使得犯罪用户能翻译或改进发送给受害者的消息。OpenAI的政策限制人们用其产品进行非法活动,但在实践中其实很难监管。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

OpenAI方面表示,他们将人工审核和自动化系统相结合,以识别和防止其模型被滥用,如果用户违反公司政策,则会实施警告、暂停、永久关闭等措施。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

还有一点值得注意,由于AI翻译工具的进步,世界各地犯罪集团的沟通变得更容易,他们可能开展大规模跨国行动,或在本国对其他国家用户采取恶意行动。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

深度伪造:进入地下市场EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

生成式AI使深度伪造(Deepfake)的开发发生质变。当前,技术合成的图像或音视频,看起来或听起来比以往任何时候都更加真实,这一点犯罪分子也意识到了。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

钱卡利尼团队发现,已经有用户在电报(Telegram)等平台上展示他们的“深度伪造组合”,并以每张图片10美元或每分钟500美元的价格出售服务。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

相较图片,深度伪造视频制作起来更复杂,而且更容易露出破绽。深度伪造音频的制作成本低廉,只需几秒钟的某人的声音(例如从社交媒体获取),即可生成令人信服的内容。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

这样的诈骗案例并不鲜见,人们接到亲人打来的求救电话,称自己被绑架并要求交付赎金,结果却发现,打电话的人是个使用深度伪造语音的骗子。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

钱卡利尼建议,亲人之间应商定一些秘密安全词并定期更换,这有助于紧急情况下确认电话另一端的人的身份。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

绕过身份检查:一个伪造的“你”EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

犯罪分子滥用AI技术的另一种方式是绕过验证系统。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

一些银行和加密货币交易需验证其客户是否本人。他们会要求新用户在手机相机前持身份证拍摄一张自己的照片,但犯罪分子已经开始在电报等平台上销售能绕过这一要求的应用程序。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

他们提供的是伪造或被盗的身份证件,再将深度伪造的图像强加在真人脸上,以欺骗手机相机验证程序。据钱卡利尼发现的一些例子,该服务的价格甚至低至70美元。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

“越狱”式服务:带来危险输出EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

如果有人向AI询问如何制造炸弹,那他不会得到任何有用的答复。这是因为大多数AI公司已采取各种保护措施来防止模型泄露有害或危险信息。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

现在,网络犯罪分子不再构建自己的AI模型,这种方式既昂贵、耗时又困难。一种新犯罪趋势开始出现——“越狱”式服务。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

比如上面得不到答案的问题,这显示了模型都有关于如何使用它们的规则。但“越狱”允许用户操纵AI来生成违反这些政策的输出。例如,为勒索软件编写代码,或生成可在诈骗电子邮件中使用的文本。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

为了对抗这些不断增长的风险,OpenAI和谷歌等公司需时时堵塞可能导致紧急危害的安全漏洞。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

人肉搜索和监视:暴露用户隐私EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

巴卢诺维奇表示,AI语言模型不仅是网络钓鱼的“完美工具”,对人肉搜索(在线泄露某人的私人身份信息)也是如此。这是因为AI语言模型经过大量互联网数据(包括个人数据)的训练, 可推断出某人位于何处。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

犯罪分子可能会让聊天机器人假装是具有侧写经验的私家侦探,然后让它分析受害者所写的文本,并从文本中的小线索推断出个人信息。例如,根据他们上高中的时间推断他们的年龄,或者根据他们在通勤时提到的地标推断他们的居住地点。互联网上该人的相关信息越多,就越容易被识别。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

巴卢诺维奇团队2023年底发现,大型语言模型,如GPT-4、Llama 2和Claude,已能够仅从与聊天机器人的日常对话中推断出人们的种族、位置和职业等敏感信息。理论上,任何能访问这些模型的人,都能以这种方式使用它们。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

这些服务的存在,并不直接表明犯罪活动的存在,但我们必须看到可供恶意行为者利用的新功能。而防止这些事情发生的唯一方法就是加强防御。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

巴卢诺维奇称,对AI公司来说,应完善数据保护;对个人来说,提高防范意识是关键——人们应三思而后行,考虑他们在网上分享的内容,并谨慎决定,自己是否愿意在语言模型中使用他们的个人信息。EJR流量资讯——探索最新科技、每天知道多一点LLSUM.COM

本文链接:用AI犯罪的五种方式亟待防范http://www.llsum.com/show-2-7085-0.html

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 3D打印真空系统或能“捕捉”暗物质

下一篇: 灵长类动物研究显示:Y染色体进化速度快于X染色体

热门资讯

  • 站在“人工智能+”探索前列

    今年全国两会期间,人工智能成为热点话题,“人工智能+”首次被写入政府工作报告。一头连着数字经济发展大局,一头连着行业变革与创新,“人工智能+”既是

  • 创新中药八子补肾胶囊抗衰老研究取得重大突破

    3月20日对于我国抗衰老研究是个特殊的日子,经过近3年的不懈努力,八子补肾胶囊抗衰老取得又一重大突破。挑战人类生命极限是摆在全球科学家面前的重大

  • 马斯克开源3140亿参数的Grok,大模型争相开源所为何求?

      马斯克开源3140亿参数的Grok,大模型争相开源所为何求?  作者:刘晓洁  特斯拉CEO埃隆・马斯克(Elon Musk)给大模型领域投下一枚重磅炸弹。  北京时间3月18日凌晨,马斯

  • 马斯克用行动反击 开源自家顶级大模型 压力给到OpenAI

      马斯克用行动反击 开源自家顶级大模型 压力给到OpenAI  《科创板日报》3月18日讯(编辑 宋子乔) 似乎是为了表明自己始终坚持对AI模型开源,马斯克做出了与阿尔特曼全然

  • Sora将如何影响科学与社会

    英国《自然》周刊网站3月12日刊登题为《OpenAI的文生视频工具Sora会如何改变科学——以及社会》的文章,作者为乔纳森·奥卡拉汉,内

  • 人类祖先200万年前开始捕鱼

    美国《发现》杂志网站2月7日刊登题为《200万年前,我们的人类祖先开始从水里捞鱼》的文章,作者是科迪·科蒂尔,内容编译如下:捕鱼可能是一种占许

  • 云海二号02组卫星发射成功

    记者从中国航天科技集团获悉,3月21日13时27分,长征二号丁运载火箭/远征三号上面级在酒泉卫星发射中心起飞,随后将云海二号02组卫星送入预定轨道,发射任

  • 饭后想吃零食或因神经元过度活跃

    那些在吃完一顿饱饭后不久就在冰箱里翻找零食的人,可能不是胃口好,而是因为寻找食物的神经元过度活跃的缘故。美国加州大学洛杉矶分校心理学家在老鼠

  • Sora带来的深层次影响值得关注

    2024年2月,OpenAI公司推出了文生视频人工智能(AI)模型Sora。OpenAI展示了Sora利用少量简短文字提示即可创建逼真视频的能力,并提供了包括一位女士在闪

  • 男孩捡17岁女生iPhone电话归还反被讹200元引热议:最终获道歉

    3月24日消息,今日一则#男孩捡17岁女生电话归还反被讹200#的话题登上微博热搜,引发网民热议。据报道,3月23日,山西长治。郭女士父亲捡到一台iPhone电话,归还

  • 我国网民规模达10.92亿人 互联网普及率达77.5%

    3月22日,中国互联网络信息中心(CNNIC)发布第53次《中国互联网络发展状况统计报告》(以下简称《报告》)。《报告》显示,截至2023年12月,我国网民规模达10.9

  • 聚焦AI框架技术创新 加速大模型规模化落地

    “人工智能作为数字新基建重点建设方向,前景广阔,大有作为。今年的政府工作报告更首次提出开展‘人工智能+’行动,无疑将为人工智能技术在

推荐资讯

  • 日榜
  • 周榜
  • 月榜