![](UploadFiles/2024724144011272.png)
全球AI监管风暴:美国COPIED法案、欧盟人工智能法案
为积极响应这一时代需求,知产前沿编辑组特别开设“AI立法进行时”专题栏目,跟踪全球人工智能立法及监管最新动态,为广大科技、法律从业者与投资者提供参考。本专栏不定期发布,欢迎关注!
一、美国:国会通过《COPIED法案》开启AIGC监管新篇章
今年7月11日,美国国会通过了一项重要法案《内容来源保护和防止编辑和深度伪造媒体完整性法案》(Countering Online Piracy and Illicit Distribution Act,简称“COPIED法案”),旨在解决人工智能生成内容的“深度伪造”泛滥的问题,保护知识产权人的利益。法案正在等待总统签署成为正式法律,尚未正式生效,但已经得到美国电影电视协会(SAG-AFTRA)、美国唱片业协会(RIAA)和新闻/媒体联盟(News/Media Alliance)在内的许多出版集团和行业协会的支持。
RIAA首席执行官Mitch Glazier对此发表评论称:“人工智能生成的深度伪造作品日益增多,保护艺术家毕生作品与遗产的重要性前所未有,《COPIED法案》将为人工智能的开发活动提供必要的透明度标准,并为数字市场中的道德创新和公平竞争扫清障碍。“
《COPIED法案》对人工智能的定义与《2020年国家人工智能倡议法案》相同,即强调人工智能作为一种能够执行复杂任务、模拟人类智能的技术系统。法案将“合成内容”定义为完全由算法(包括人工智能)生成的信息,包括人类创作的作品,例如图像、视频、音频剪辑和文本。将“深度伪造(Deepfakes)”定义为“合成内容或经合成修改的内容,对合理人造成真实假象或印象”,包括图像、视频、音频剪辑和使用人工智能工具显著修改的文本等。该法案适用于美国境内年收入达5000万美元或注册用户数连续三个月超过2500万的平台。
法案关键内容
- 制定透明度标准:法案要求美国国家标准与技术研究所(NIST)制定新的标准和水印系统,为标记、认证和检测人工智能生成的内容制定新的联邦透明度准则,切实保护创作者权利。法案还指示NIST制定网络安全措施,确保人工智能生成内容的来源与水印信息不被篡改。
- 保护创作者权益:法案明确规定,用于生成新闻或创意内容的AI工具提供商允许内容所有者为其附加出处信息,并严格禁止未经授权删除此类信息。法案禁止未经许可使用带有出处信息的内容来训练AI模型或生成新的AI内容。这些措施赋予内容所有者(记者、报纸、艺术家、词曲作者等)更强的控制权,以设定其作品的使用条款及可能的报酬机制。
- 赋予个人起诉权:除了授予联邦贸易委员会(FTC)和州检察长执行该法案的权力外,个人创作者和内容所有者也可以直接起诉未经许可使用其创作内容的人工智能公司。
- 禁止篡改或禁用AI来源信息:目前,尚无法律禁止删除、禁用或篡改人工智能生成内容来源信息。针对当前法律空白,法案将禁止互联网平台、搜索引擎和社交媒体公司篡改AI生成内容的来源信息。
产业界回应:支持AIGC立法,强调人工智能的透明度和责任
音乐产业,作为AI技术应用的先锋领域,同时也是受AI“冲击”最大的行业,不久前,三大唱片公司环球音乐、索尼音乐、华纳音乐联手起诉了AI音乐技术公司Udio和Suno,称其未经授权擅自使用唱片公司的音乐内容来训练生成音乐的AI系统,并对涉嫌“抄袭”的每首歌索赔最高15万美元的赔偿,这是AIGC领域首个针对AI生成音乐模型诉讼。此前,知产前沿也曾报道,字节跳动等互联网巨头纷纷入局AI音乐赛道,意图在这个充满潜力的新兴市场分一杯羹。
《COPIED》法案一经公布,便获得音乐届人士的广泛欢迎,包括美国演员工会和电视和广播艺人联合会、美国唱片业协会、新闻媒体联盟在内的许多出版和艺术家团体发表声明对该法案的出台表示赞赏。
学界专家对COPIED法案的改进建议主要集中在如何进一步平衡版权保护与自由竞争,避免过度保护对市场竞争的不利影响。该法案未来可能的修订方向可能包括简化合规程序、加强国际合作以及引入更多的技术手段,以提高法案的执行效果和普适性。
同类法案
《COPIED》法案并不是首个针对与版权和创作者权利相关的人工智能监管法案。美国国会近期提出的其他提案包括众议院今年1月公布的《禁止人工智能欺诈法案》(No AI FRAUD Act)和参议院去年10月的《禁止造假法案》(NO FAKES Act),这两份提案都侧重于保护创作者、表演者的声音和肖像,防止这些权益在人工智能训练和内容生成中被擅自盗用和冒用。
此外,今年4月《生成式人工智能版权披露法案》(Generative AI Copyright Disclosure Act)的出台,进一步要求人工智能公司必须公开披露其在训练人工智能模型时使用的数据情况及来源,这为版权所有者提供了有效的监督途径。
《COPIED法案》代表了美国在保护知识产权和防止数字侵权方面的进一步努力。随着AI技术的不断发展,围绕AI创作作品的所有权、归属和利用的监管必将继续进行。如何在保护创新和激励公平竞争之间找到平衡,仍是未来立法需要持续探索的问题。
二、欧盟:全球首部《人工智能法案》生效在即
全球范围内,针对生成式人工智能的监管立法正在稳步推进。7月12日,欧盟理事会通过《欧盟官方公报》公布了《人工智能法案》(EU AI Act)的最终版本,该法案将于2024年8月1日在欧盟范围内生效,并在未来三年内逐步实施。
《人工智能法案》作为有史以来第一部全面规范人工智能的法律,属于欧盟法律体系中最高级别的立法,为全球人工智能监管奠定了基础。如同欧盟的《通用数据保护条例》(GDPR)在数据隐私领域发挥的典范作用一样,该法案极有可能成为其他司法管辖区人工智能法律或法规的蓝本。
这项开创性的人工智能立法定义了AI系统的四个风险级别:
1. “不可接受的风险”,即被禁止(Unacceptable Risk),此类别下的AI系统由于风险极高被完全禁止使用,如操纵行为和社会评分系统,旨在消除社会伦理与安全的重大隐患;
2. “高风险”(High Risk),针对在生物识别、教育、就业、金融服务及关键基础设施等应用领域的可能存在较高风险AI系统,法案规定了严格的监管与合规要求,确保技术发展与人类福祉相适应;
3. “有限风险”(Limited Risk),此类AI系统虽然存在一些风险,但相对较低,只需遵守基本的透明度和告知义务,例如,由AI驱动的聊天机器人;
4. “最小风险”(Minimal Risk),风险最小,对其监管要求也最为宽松,例如大多数AI游戏。
法案实施的重要节点:
2024年8月1日:法案生效。
2025年2月2日(生效之日起6个月):欧盟将禁止一系列被认为具有“不可接受风险”的人工智能实践。
2025年5月2日(生效之日起9个月):欧盟人工智能办公室将发布行为准则,为通用人工智能系统的提供者提供进一步的义务说明。
2025年8月2日(生效之日起12个月):法案有关通用人工智能模型、治理、保密性和大多数处罚条款将生效。对通用人工智能模型(GPAI)提供商的相关规定将生效,包括透明度等义务,这将影响市场上最复杂的大语言模型(LLM)和基础模型。
2026年2月2日(生效之日起18个月):欧盟委员会将在这一天发布实施细则(包括具体指南),明确高风险人工智能系统的合规要求,并提供高风险与非高风险系统的实际示例。
2026年8月2日(生效之日起24个月):除关于特定类型高风险人工智能系统的一项小条款将于一年后的2027年8月1日生效外,法案将全面生效。适用于欧盟产品安全法规所监管产品的安全组件高风险人工智能系统的某些义务将开始适用(例如民航和医疗设备)。
对于大多数未参与GPAI开发的企业而言,最关键的日期是2025年2月2日和2026年8月2日,法案为大多数企业预留了约两年的过渡期,以充分准备并全面实施AI合规计划。而不遵循法案要求的公司将被处以罚款,罚款金额最高将达3500万欧元(约合2.77亿人民币),或其全球年收入的7%。
相关阅读:
张鹏等 | 欧盟《人工智能法案》的立法价值、立法进程与主要内容速评
赵婧 田自飞 | 结合首例AIGC侵权案件及欧盟《人工智能法案》看我国GAI合规——生成式人工智能法律法规梳理与实务指引(二)
三、港台地区:拟修订、出台生成式人工智能相关法律
2024年7月8日,香港政府就完善《版权条例》(第528章)对人工智能技术发展所提供的保障展开为期两个月的公众咨询。
香港商务及经济发展局发言人表示,版权制度是知识产权制度的重要一环,一方面保障创作人享有从其创意成果中获取报酬的经济权利,另一方面适当平衡版权拥有人的合法权益与公众利益。
人工智能技术(尤其是生成式人工智能)的急速发展,在不同领域和行业带来革命性的影响,亦衍生不少版权议题。为进一步完善香港的版权制度,以确保该制度在鼓励创作和投资创意同时,亦支持创新,局方检视本港及其他司法管辖区的相关法律和现时的市场情况,在咨询文件探讨4个议题,包括“人工智能生成作品的版权保护”;“人工智能生成作品侵犯版权的法律责任”;“拟引入的特定版权豁免”;及“与生成式人工智能相关的其他课题”,包括深度伪造(深伪,Deepfake)。
2024年7月15日,台湾地区人工智慧(AI)基本法草案出炉,草案共有18条条文,预告期间至9月13日止。草案将“人工智能(AI)”定义为具有自主运行能力的基于机器的系统。它通过输入或感知、机器学习和算法,实现对影响物理或虚拟环境的显性或隐性目标、内容、建议或决策的预测。草案明确了人工智能的定义源自国际标准化组织(ISO)、美国国家标准与技术研究所(NIST)人工智能风险管理框架和欧盟人工智能法案的定义。
国科会指出,人工智慧基本法草案揭示永续发展、人类自主、隐私保护、资安与安全、透明可解释、公平不歧视及问责等七大基本原则,与创新合作及人才培育、风险管理及应用负责、权益保障及资料利用、法规调适及业务检视的4大推动重点,作为引导台湾各机关发展与促进人工智慧应用的原则。
此外,草案指出,应避免人工智能的应用对公民的生命、身体、自由或财产安全造成损害,或导致利益冲突、偏见、歧视、虚假广告、误导或伪造信息等,并建议有关部门提供评估、验证的工具或方法,以防止上述情况发生。
值得注意的是,草案规定,国家发展委员会作为个人数据保护主管部门,必须协助其他部门避免在人工智能研究、开发和应用中不必要地收集、处理或使用个人数据。这包括推动设计和默认的数据保护。
四、法国:CNIL发布适用人工智能法案的解答及部署生成式人工智能系统的常见问题解答
对于实施在即的欧盟《人工智能法案》,法国数据监管机构法国国家信息与自由委员会(CNIL)于7月12日发布首批关于人工智能系统发展的建议,详细说明《人工智能法案》与《通用数据保护条例》(GDPR)如何相互作用。
《人工智能法案》规定了两级治理结构。
在欧盟层面,《人工智能法案》的治理结构以欧洲人工智能委员会(European AI Board)为核心,该委员会由各成员国的高级代表组成、欧洲数据保护监督员(EDPS)作为观察员参与,欧盟委员会人工智能办公室(AI Office)无投票权。委员会负责确保《人工智能法案》的统一实施和协调。此外,还设立了顾问论坛和科学小组,前者由多方利益相关者组成,在委员会执行任务时提供建议;后者由高水平科学家组成,支持监督通用人工智能模型。
在国家层面,各成员国需指定一个或多个主管部门作为市场监管机构,负责实施《人工智能法案》。如有多个机构,必须指定其中一个作为国家联络点,便于与欧盟委员会和公众交流。高风险人工智能系统将继续由当前的特定领域监管机构管理,例如针对医疗器械的法国国家药品和健康产品安全局(ANSM)。
CNIL指出,《人工智能法案》不会取代《GDPR》的要求,二者规范的对象并不相同,具有很强的互补性。GDPR适用于所有个人数据的处理,包括人工智能系统的开发阶或使用和部署阶段。CNIL明确了《人工智能法案》在特定领域如何取代GDPR的规定,具体包括:
- 执法部门在公共场所使用实时远程生物识别技术;
- 允许处理敏感数据以检测和纠正潜在的有害偏见,前提是严格必要且有适当的保障措施;
- 在AI监管沙盒中允许重新使用个人数据,包括敏感数据。
此外,CNIL指出,GDPR下的透明度措施与《人工智能法案》的透明度要求相辅相成,部署者可以依赖已经完成的数据保护影响评估(DPIA)来进行《人工智能法案》要求的基本权利影响评估。DPIA和基本权利影响评估甚至可以合并为一个文件。
附:《人工智能法案》与《GDPR》对比表
7月18日,CNIL还发布了一系列关于生成人工智能(AI)部署的常见问题(FAQ)。
CNIL将生成式人工智能定义为“能够创建内容(如文本、计算机代码、图像、音乐、音频、视频等)的系统”,当此类系统能够广泛执行各类任务时,可称之为通用人工智能。
在使用生成式人工智能时,CNIL建议:
- 从实际需求出发:避免在无明确目标的情况下部署生成性人工智能,应针对已确定的应用场景进行部署;
- 监督AI使用情况:评估可能存在的各种风险,如避免将个人数据输入系统、或让系统承担决策职能,制定允许和禁止使用的清单;
- 承认生成式人工智能系统的局限性:综合考量生成式人工智能系统对个人利益造成的风险;
- 选择稳健的系统和安全的部署模式:例如,倾向于使用本地化、安全性高且经过专业调优的系统。如需采用第三方服务,应明确其数据使用权限与限制,确保数据不被滥用。
- 培训和提高认识:对终端用户进行针对性培训,增强对生成式人工智能合法合规用途的认识,明确禁止事项及潜在风险,提升整体安全意识。
- 构建完善的数据治理和人工智能治理框架:实施严格的数据保护与AI治理策略,确保系统遵守《通用数据保护条例》(GDPR)、《人工智能法案》等相关法规要求,设立数据保护官(DPO),积极纳入其他利益相关者的意见,并在必要时进行数据保护影响评估(DPIA)。
五、中共中央:建立人工智能安全监管制度
当前,生成式人工智能广泛运用于科技、娱乐、互联网产业,除了对人工智能的直接监管力度不断增加,对于AI+领域的相关立法也逐渐增多。7月21日,新华社受权发布《中共中央关于进一步全面深化改革推进中国式现代化的决定》(下称《决定》)。
《决定》指出,要健全因地制宜发展新质生产力体制机制。推动技术革命性突破、生产要素创新性配置、产业深度转型升级,推动劳动者、劳动资料、劳动对象优化组合和更新跃升,催生新产业、新模式、新动能,发展以高技术、高效能、高质量为特征的生产力。加强关键共性技术、前沿引领技术、现代工程技术、颠覆性技术创新,加强新领域新赛道制度供给,建立未来产业投入增长机制,完善推动新一代信息技术、人工智能、航空航天、新能源、新材料、高端装备、生物医药、量子科技等战略性产业发展政策和治理体系,引导新兴产业健康有序发展。以国家标准提升引领传统产业优化升级,支持企业用数智技术、绿色技术改造提升传统产业。强化环保、安全等制度约束。
深化文化体制机制改革,健全网络综合治理体系。深化网络管理体制改革,整合网络内容建设和管理职能,推进新闻宣传和网络舆论一体化管理。完善生成式人工智能发展和管理机制。加强网络空间法治建设,健全网络生态治理长效机制,健全未成年人网络保护工作体系。
推进国家安全体系和能力现代化,完善公共安全治理机制。健全重大突发公共事件处置保障体系,完善大安全大应急框架下应急指挥机制,强化基层应急基础和力量,提高防灾减灾救灾能力。完善安全生产风险排查整治和责任倒查机制。完善食品药品安全责任体系。健全生物安全监管预警防控体系。加强网络安全体制建设,建立人工智能安全监管制度。
人工智能技术的飞速发展正深刻重塑大众生活的方方面面,智能时代的到来已是不可逆转的时代潮流,在技术革新的浪潮中,大模型的构建与优化、数据权益的严格保护、版权内容的合法利用、算法决策的公正透明以及个人隐私安全在风险与机遇交织中寻求平衡。
知产前沿新媒体作为IP行业观察与探索的先锋,将秉承专业、严谨的态度,持续关注人工智能立法的最新脉动,与读者一起为促进人工智能技术的健康、有序、可持续发展贡献智慧与力量。
来源:thenatlawreview、dataguidance、jdsupra、CNIL官网、新华社
编辑:Sharon
![](/UploadFiles/image/20240724/20240724143934703470.png)