DeepSeek热潮下的冷思考之三：人工智能使用不能一路“狂飙”
近期，全国两会召开，有关“DeepSeek”爆火出圈引发的人工智能风险成为热门话题。全国政协委员、北京市金台律师事务所主任皮剑龙在出发赴两会前表示，他将在今年全国两会期间围绕人工智能时代消费者权益保护议题，针对大数据杀熟、深度伪造滥用、手机厂商技术侵权等突出问题提出系统性建议。在他看来，如今市场上的AI软件背后依靠的是一个糅合了数据、算法和计算能力的复杂系统，在这些由海量数据组成的系统中，可能包括个人敏感信息、商业秘密、公司的战略计划、客户数据甚至是源代码等，而由此产生的隐私侵权等风险，不可无视。海量数据或涉隐私侵权
曾经，三星电子的半导体部门在一个月内发生了三次严重的泄密事件！员工们被允许使用ChatGPT来解决代码问题，但没想到，他们无意中将公司的核心机密上传到了这个AI系统。这些泄密的数据包括新程序的源代码和硬件相关的内部会议记录。想象一下，这些绝密信息现在被存储在OpenAI的系统中，可能被用来训练和改进AI模型。三星不得不紧急采取保护措施，并考虑完全禁止在公司内部使用ChatGPT。不仅是三星，其他许多公司也报告了类似的问题。员工在使用ChatGPT处理日常工作时，无意中泄露了包括财务数据、客户信息和内部决策在内的敏感信息。
2024年12月，对外经贸大学、中国人民大学、蚂蚁集团联合发布的《算法与AI大模型的用户认知调研报告（2024）》显示，52%的用户已在AI大模型中遭遇到了数据安全与隐私问题。另外，有60%的用户认为大模型最大的风险来源于不受控制地搜集用户隐私、个人资料。“在人工智能使用者习以为常的个人信息流动中，混合着公共数据和私人数据的大数据被挖掘、整合、分析、利用，人们难以凭自己的感官察觉到隐私权被侵害，个人信息安全面临着更高的风险。”南京师范大学新闻与传播学院教授顾理平曾指出，如果相关企业在收集、存储和使用这些数据时，未充分告知用户数据的收集目的、范围和使用方式，或者未获得用户的明确同意，就可能违反数据隐私法规。后续当AI系统对个人数据进行分析和处理时，可能会意外泄露用户的个人信息。
可能引发著作权之争
除了使用的数据信息之外，AI系统的开发过程涉及大量软件代码和算法模型，若在开发过程中，开发人员未经许可使用了他人已享有版权的软件代码或算法模型的部分内容，则可能会构成侵权。再例如，某些开源软件虽有许可证，但若未遵循其许可协议使用，也可能引发法律问题。
另外，对于利用AI技术生成的内容，如文学作品、艺术作品、音乐等，其版权归属的界定较为复杂。举个例子，如果AI系统在生成过程中参考了大量受版权保护的数据，且最终生成内容与这些数据高度相似，那么在未经原作者授权的情况下使用该生成内容，可能涉嫌侵犯原作者的版权。“AI 生成的内容可能是有原型的，而这个原型有可能有版权方。”清华大学新闻学院、人工智能学院双聘教授沈阳认为，相较于使用公开资料进行模型训练，使用自有数据所造成的侵权风险相对更低，但仍要留意相关训练语料（构建和训练人工智能模型尤其是自然语言处理模型的基础语言材料）的版权来源。
去年4月15日，四川日报推出《数字记者信息管理办法》，这是国内首个关于数字记者的管理规定。在著作权归属上，《办法》明确使用数字记者生成的内容属于职务作品，由四川日报社享有著作权。此外，还细化了差错管理，因数字记者输出内容侵害他人合法权益的，使用人应按规定承担责任。对于真人记者离职或调离的情况，数字记者授权终止，如需继续使用需双方协商。对此，上海人工智能技术协会培训中心负责人刘阳表示肯定，“在数字人进入职场，承担部分员工职能之前，订立专门的授权协议十分有必要。”上海人工智能技术协会人力资源顾问屈辉也认为，随着AI技术广泛应用，订立专项协议的员工管理模式会普遍化，未来企业与员工订立劳动合同时会有更多专项协议需要补充签订。
竞业限制作用越来越小
数字记者其实是数字人的一种，数字人指的是指运用数字技术创造出来的、与人类形象接近的数字化人物形象，其核心技术就与动作捕捉和人工智能技术密切相关。在不少企业内，任核心职位的员工与企业间会订立一份竞业限制协议，然而，在数字人这个被认为聚集了大量核心技术的行业，却很少使用竞业限制。
这是不是意味着，脚步将近的AI时代下，当前普遍流行的竞业限制作为企业的一种有效管理手段将会受到挑战？
对此，刘阳指出，竞业限制在数字人行业实属没有必要，也根本限不住。因为数字人迭代速度快，一个技术员即便掌握核心技术，脱离团队后两三个月其所掌握的技术对原团队威胁可能性不大。而且数字人行业发展需要更多技术公司参与共同开拓市场，专利开放能驱动行业更快前进，业态发展也能反哺企业。“除了数字人开发企业，对于数字人应用企业来说，有了数字人的加入，竞业限制的作用也会越来越小。”他说。
AI时代，各项人工智能技术的普及和使用给大众的生活带来深刻改变，也带来了新的机遇和挑战。如何妥善应对潜在的法律风险，促进相关法律规范不断走向完善，是摆在每一位从业者甚至是全社会面前的重要课题。 ■朱兰英
页:
[1]