Wap 公众号 评论
设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

OpenAI报复“吹哨人”?前员工联名警告缺乏监管

2024-06-07 17:12:45 来源:

  OpenAI报复“吹哨人”?前员工联名警告缺乏监管6zS流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  由安全问题引发的OpenAI“职场宫斗戏”还没有结束。当地时间周二,数十位OpenAI前员工通过一封公开信再次警告,像OpenAI这样的人工智能公司缺乏法律监管和内部批评机制,尤其是对“吹哨人”的保护远远不够。该公开信由十三名 OpenAI 前员工签名,并得到了包括“人工智能教父”Geoffrey Hinton 在内的三名外部人员署名支持。6zS流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  与此前音乐行业、电影演员行业的公开警告类似,公开信强调了AI双刃剑的属性:他们相信人工智能技术可以造福人类,但也看到了风险,比如加剧社会不平等,操纵和捏造信息。在生成式AI风靡的这两年,人们已经见到了侵犯版权、深度造假影响政治选举、AI生成色情图片等冲突势不可挡地蔓延至现实生活。6zS流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  去年7月,OpenAI、谷歌、微软、meta、亚马逊、Anthropic、Inflection曾向拜登政府承诺,愿意接受外部第三方的安全测试,并向外界公开测试结果。但这一承诺主要是自愿性质,硬性约束仍为空白。6zS流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  公开信由此指出一个关键问题:在缺乏硬性监管的情况下,不能指望公司自愿披露AI系统的真实性能、局限和风险。员工有责任要求公司对AI安全风险负责,但员工正受制于公司的保密协议。6zS流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  “整个行业发生过类似事件,我们中的一些人有理由担心各种形式的报复。我们并不是第一个遇到或谈论这些问题的人。”公开信暗指的是Ilya Sutskever离职引发的种种风波。半个月前,OpenAI解散了负责安全问题的“超级对齐”团队,团队负责人和成员――联合创始人兼首席科学家Ilya Sutskever、Jan Leike、Gretchen Krueger 纷纷离职。6zS流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  据媒体报道,离职的原因是OpenAI在优先保证安全还是优先推出产品上有分歧。Jan Leike在社交平台上的发言直接证明了一点,他披露OpenAI曾直接砍掉“超级对齐”部门的算力资源,部门被边缘化。随后外媒曝光了OpenAI 的离职协议,指出公司禁止离职员工公开批评公司,甚至禁止承认保密协议的存在。6zS流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  根据美国的《吹哨人保护法》(Whistleblower Protection Act),举报工资违规、歧视、安全和欺诈等问题的员工受到保护,这意味着公司不能用解雇、降职等方式报复举报人。但签署公开信的前员工们称,AI安全风险问题往往不是非法活动,普通的法律保护措施是不够的。他们因此呼吁人工智能公司取消禁止批评的保密协议、建立匿名举报流程,并建设支持公开批评的公司文化。6zS流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  公开资料显示,谷歌、Meta、亚马逊、微软等公司均有成立专门的内部安全团队,确保公司负责地开发AI系统。目前,OpenAI也已新建了由Sam Altman领导的安全团队,其首要任务是评估OpenAI 的安全流程和政策,由董事会拍板最终方案。不过,安全团队的三位负责人均在董事会任职,因此外界也质疑其能否真正解决安全隐患。OpenAI员工的举报信无疑加深了这一担忧和反思,在没有硬性监管的约束下,仅靠公司的自我约束能不能给予安全问题足够重视?需要打上一个问号。6zS流量资讯——探索最新科技、每天知道多一点LLSUM.COM

本文链接:OpenAI报复“吹哨人”?前员工联名警告缺乏监管http://www.llsum.com/show-2-6702-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 专家解读嫦娥六号月背采样科学目标和地面应用系统任务

下一篇: AI带来网络安全风险 专家建言“用魔法打败魔法”

热门资讯

  • 我国科学家在铁电隧道结存储器研究中取得新进展

    记者从中国科学院金属研究所获悉,该所沈阳材料科学国家研究中心胡卫进研究员与合作者,提出利用缓冲层定量调控薄膜应变,延迟铁电薄膜晶格弛豫从而增强

  • 淋巴结冻干“锁鲜”技术或可用于肿瘤治疗

    人体免疫系统中的小过滤器淋巴结有了新妙用。近日,浙江大学药学院、金华研究院教授顾臻团队联合多位科研人员,在国际上首次提出利用冷冻干燥的淋巴结

  • 阿尔茨海默病早期症状可能表现在视力上

    据阿根廷布宜诺斯艾利斯经济新闻网报道,一项国际研究发现,阿尔茨海默病的早期症状可能表现在视力上。研究显示,即便眼科检查结果正常,但阅读、估计距离

  • CRISPR能消除培养细胞中艾滋病病毒

    荷兰阿姆斯特丹大学医学院科学家开展的一项新研究证明,利用最新CRISPR-Cas基因编辑技术,能消除实验室中受感染细胞内所有艾滋病病毒(HIV)的痕迹,为治愈

  • 来看金星土星“亲密一刻”

    3月22日黎明,太阳系中最明亮的行星金星与太阳系中拥有最多卫星的行星土星将在东南方低空近距离相伴,上演“结伴游”。北京星空摄影爱好者王俊峰2023

  • “婴儿香”原来是真的香

    所谓香喷喷的婴儿,到底是源于人们的爱意,还是说确有其香?《通讯·化学》21日一项小型研究首次分析了婴儿和青少年体味化学组成的差异。研究显示

  • 探索土卫二的蛇形机器人问世

    美国加州理工学院喷气推进实验室的一个机器人专家团队,与卡内基梅隆大学机器人研究所科学家合作,开发出一种蛇形机器人,用于调查土星第六大卫星土卫二

  • AI芯片巨头低调赚钱

      AI芯片巨头低调赚钱  骆轶琪  在过去一年半导体行业下行周期中,除了英伟达以GPU霸主身份实现业绩快速成长之外,另一些主营虽非GPU,但是立足于AI定制芯片市场的半导体巨

  • 2999元!xiaomiCivi 4 Pro供不应求:春野绿配色好多门店缺货

    3月22日消息,xiaomi集团的许斐在微博上表示,xiaomiCivi 4 Pro的预售业绩远超预期,尤其是春野绿配色,许多门店都出现了缺货情况。据了解,xiaomiCivi 4 Pro的

  • GPU持续升级 如何应对算力“贫富差距”

    英伟达的GPU又升级了。3月19日,英伟达CEO黄仁勋发布了最新的B200算力芯片GPU,FP8精度下的训练性能是上一代的2.5倍,FP4精度下的推理性能更是达到了上

  • 苹果 16首发预装!iOS 18将支持桌面自定义、引入大模型

    3月25日消息,按照惯例,iPhone会在6月份的WWDC上发布iOS 18、watchOS 11、visionOS 2等全新系统。其中iOS 18比较受关注,被许多爆料者称为iOS史上最大升级

  • 新疆:南山26米射电望远镜4Gbps宽带VLBI联测首获成功

    记者从中国科学院新疆天文台获悉,近期南山26米射电望远镜在参与欧洲VLBI网组织的联测中,首次成功运用4Gbps宽带、高码率VLBI技术获得干涉条纹。相较

推荐资讯

  • 日榜
  • 周榜
  • 月榜