【宅男财经｜律师面对面】加速发展的人工智能技术在改变人类社会、改变世界的同时，带来的负面影响和潜在风险逐渐显现：用AI工具生成文本、合成假视频，编造不实信息以引流；利用AI技术“换脸”“变声”，实施电信诈骗……AI技术应用有哪些监管风险？
北京中银律师事务所高级合伙人杨保全表示，随着人工智能、AI技术的快速发展和应用，其所引发的法律风险也逐渐凸显。第一是用户信息和隐私的安全问题，AI技术的发展与应用必然会收集大量个人信息、个人数据，并用于AI模型的训练，这些信息既包括个人的身份信息、位置信息、消费习惯等，甚至还包括一些个人隐私。一旦这些信息处理不当，可能导致信息的系统性泄露，损害公民的利益，甚至危害公民和社会的安全。
第二是数据泄露风险，人工智能大模型依靠大量的样本数据进行训练，数据的规模和质量对于其准确性至关重要。理论上来说，数据越多越丰富，大模型精准刻画用户画像的能力就越强。然而随着越来越多的数据被共享，个人隐私能否被有效保护成为新的挑战，尤其是涉及国民账户信息、企业资金流转信息、借贷风险信息等金融数据，一旦泄露就可能导致更大的风险和隐患。
第三是算法偏见和歧视问题，“生成式+人工智能”的组合为虚假信息泛滥提供了前所未有的技术支撑，生成式人工智能注重知识的重组、创造和输出，如果人为对其进行有偏见性的数据导入和算法重构，那么将极易演变为偏见性的意识形态输出。此外，人工智能的发展还可能带来知识产权、伦理道德等方面的问题。
杨保全认为，AI技术的发展是一柄双刃剑，既有促进科技进步、提升个人效率提升的一面，也面临着保护个人信息的挑战，这对监管提出了更高的要求，不仅需要相关法律法规进一步细化，加大对违法违规行为的处罚力度，也需要每一个公民对于AI这项技术有更深入的了解，能够更慎重地使用。
(记者 董湘依 制作 余坤航 宅男财经出品)
本文链接：宅男财经｜AI技术应用有哪些监管风险？律师：需警惕三方面问题http://www.llsum.com/show-3-12955-0.html
声明：本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 庞大集团被上交所纪律处分
下一篇： 五洲特纸实控人姐姐赵云飞被监管警示