欧盟《人工智能法案》与数据隐私：与GDPR的交叉关系解读

(EU) 2024/1689号条例，即欧盟《人工智能法案》，是全球首部全面性的横向人工智能立法。该法案于2024年8月1日生效，并将分阶段适用至2027年。它并不会取代GDPR：任何处理个人数据的人工智能系统，仍须具备独立的GDPR合法处理依据，企业须同时应对两套相互重叠的合规体系。

如需了解《人工智能法案》出台之前既已存在的数据保护规则，请参阅我们关于欧盟数据隐私法的指南，以及什么是GDPR的说明文章。

什么是欧盟《人工智能法案》？

欧洲议会和欧盟理事会的(EU) 2024/1689号条例是一部横向立法：无论开发者位于何处，只要人工智能系统在欧盟境内投放市场或投入使用，即适用该条例。该条例采用基于风险的分级方法，将人工智能应用场景划分为四个类别：不可接受风险(完全禁止)、高风险(部署前须履行详细义务)、有限风险(仅须履行透明度义务)，以及最小或无风险(无须履行义务)。该条例于2024年7月12日在《欧盟官方公报》上公布，并依据第113条于二十日后即2024年8月1日生效。其适用工作将在此后三年内分四个阶段逐步推进。

分阶段适用时间表

了解哪些义务已经具备约束力、哪些义务尚未生效，对合规规划至关重要。截至2026年6月，具体情况如下：

2025年2月2日(已生效)： 第5条项下的被禁止人工智能行为，以及针对提供者和部署者的人工智能素养义务，开始适用。任何属于被禁止类别的人工智能系统，均须在此日期前退出使用。

2025年8月2日(已生效)： 第51条至第55条项下的通用人工智能(GPAI)义务开始适用。大型基础模型(包括大语言模型和多模态模型)的提供者，现须遵守训练数据透明度和版权政策方面的要求。被评估为具有系统性风险的模型(通常指训练计算量超过10^25次浮点运算的模型)，还须接受额外的安全评估。

2026年8月2日(即将生效)： 附件三所列独立型高风险人工智能系统的主要义务将开始适用，包括第10条数据治理要求、第26条部署者义务、第27条基本权利影响评估，以及技术文档、日志记录、合格评定和注册要求。

2027年8月2日(即将生效)： 已受附件一所列行业专项欧盟立法(如医疗器械、机械设备和民用航空设备)监管的产品中所嵌入的高风险人工智能系统，将获得延长的过渡期，其在《人工智能法案》下的义务自该较晚日期起适用。

对合规团队而言，截至2026年年中的实际工作重点，是已妥善处理第5条的禁止性规定和GPAI义务，并积极为2026年8月的高风险规则切换做好准备。

《人工智能法案》并不会取代GDPR

这是理解《人工智能法案》与数据保护关系时最为关键的一点结构性认识。(EU) 2024/1689号条例序言第10段明确指出，该条例"并不寻求影响适用于个人数据处理的现行欧盟法律"，包括GDPR((EU) 2016/679号条例)、2016/680号《执法指令》，以及适用于欧盟机构的2018/1725号条例。

由此产生的结果是，企业须同时面对两套彼此独立又相互重叠的合规体系。任何处理个人数据的人工智能系统，都必须满足GDPR项下的全部适用要求：对于一般个人数据，须具备GDPR第6条规定的合法处理依据；对于特殊类别数据，还须另行满足第9条规定的条件。系统还必须遵守数据最小化原则(GDPR第5条第1款第3项)、目的限制原则(GDPR第5条第1款第2项)，以及数据主体的各项权利。《人工智能法案》并不能为规避上述任何一项要求提供捷径。

与此同时，满足GDPR的要求也并不意味着自动满足《人工智能法案》的要求。一个系统即便拥有完全合法的GDPR处理依据、对数据主体保持充分透明，仍可能因《人工智能法案》第5条而被彻底禁止。这两套制度分别运行在不同的维度之上：GDPR规范的是个人数据的处理行为，而《人工智能法案》规范的是人工智能系统本身对个人和社会所构成的风险。

各国数据保护机构在GDPR项下的全部现有执法权力保持不变，同时在《人工智能法案》下还将承担新的职责，详见下文执法部分的讨论。企业应当预期，本国数据保护机构在评估某项人工智能部署时，会同时审视这两套监管框架。

与隐私密切相关的被禁止人工智能行为：第5条

《人工智能法案》第5条列出了八类被完全禁止的行为，因为无论潜在收益如何，这些行为所带来的风险均被认定为不可接受。在这八类被禁止行为中，有七类与数据保护和监控问题直接相关。全部八类禁令均已自2025年2月2日起生效。

公共机构的社会评分(第5条第1款第3项)： 基于自然人在多个场景下的社会行为或特征对其进行评价或分类，并将由此产生的社会评分用于在不相关场景中作出不利或有损其权益之待遇的人工智能系统，属被禁止之列。该规定针对的是威权式的政府评分系统，属绝对禁止，不存在出于公共利益目的的例外。

仅基于画像的犯罪风险评估(第5条第1款第4项)： 用于评估或预测自然人实施犯罪行为风险、且该风险评估仅依据对该人的画像或人格特征评估作出的人工智能系统，属被禁止之列。该禁令设有一项范围狭窄的例外：辅助人类基于与犯罪活动直接相关、客观且可核实的事实来评估某人是否涉案的人工智能系统，不在禁止范围之内。该条款针对的是那些将统计画像或推断出的人格特征本身视为足以对个人赋予犯罪风险评分之依据、而不将该评估锚定于具体可观察行为的系统。

无差别抓取面部图像(第5条第1款第5项)： 通过从互联网或闭路电视监控画面中无差别抓取面部图像，来建立或扩充人脸识别数据库的行为，属被禁止之列。该规定与GDPR第9条直接相关，后者将用于身份识别的生物特征数据列为特殊类别数据，须取得明确同意或满足第9条规定的其他条件。在该禁令生效之前，已有若干供应商将此类做法商业化运营。

职场与教育场景中的情绪识别(第5条第1款第6项)： 用于推断自然人在职场或教育机构场景中情绪状态的人工智能系统，属被禁止之列，唯一的例外是出于安全原因(例如监测驾驶员的警觉程度)。值得注意的是，无论企业能否依据合法利益或同意等基础在GDPR项下另行确立合法处理依据，该禁令均一律适用。《人工智能法案》在比GDPR合法依据分析更高的层面，将此类行为定性为不可实施。

基于受保护特征的生物特征分类(第5条第1款第7项)： 依据自然人的生物特征数据对其逐一分类、以推断或推知其种族或民族出身、政治观点、工会成员身份、宗教或哲学信仰、性生活或性取向的人工智能系统，属被禁止之列，即便该分类结果只是概率性推断而非确定性结论，亦不例外。该规定与GDPR第9条特殊类别数据之间存在广泛且刻意设计的重叠。

在公共场所进行实时远程生物特征识别(第5条第1款第8项)： 出于执法目的在公众可进入场所使用实时远程生物特征识别(RBI)系统，属被禁止之列，仅存在三项范围狭窄的例外：针对绑架、贩卖人口或性剥削特定受害人的定向搜寻；预防特定且迫在眉睫的恐怖主义威胁；以及识别第5条第2款所列严重刑事犯罪嫌疑人。每次使用均须事先取得司法机关或独立行政机关的授权。该限制部分建立在《欧盟运行条约》第16条之上，而该条正是GDPR的同一条约法律基础，这印证了生物特征禁令与GDPR拥有共同的宪制根基。

认知行为操纵(第5条第1款第1项及第2项)： 采用超出个人意识范围的潜意识技术，或利用特定群体的脆弱性，从而实质性扭曲行为并造成重大损害的人工智能系统，同样属被禁止之列，儿童和残疾人受到特别关注。

高风险人工智能：第10条项下的数据治理要求(自2026年8月2日起适用)

第10条是《人工智能法案》中针对数据问题规定最为详尽的条款，为高风险人工智能系统的提供者设定了数据治理与管理义务，涵盖用于训练、验证和测试相关系统的数据集。

第10条要求提供者就以下事项建立相应做法：训练、验证和测试数据的选择标准和收集方法；相关数据集的预期用途；审查数据中是否存在可能造成损害或侵犯基本权利的偏差；识别相关数据缺口或不足；以及考量使该数据集适合系统预期用途的特征或特性。训练数据集须尽可能不含错误，并在现有技术水平下尽量做到完整(第10条第2款至第4款)。

该条款与GDPR之间的联系是结构性的，而非重复设定。GDPR第5条第1款第2项要求，个人数据的收集须出于具体、明确和合法的目的，且不得以与该目的不相符的方式作进一步处理。GDPR第5条第1款第3项要求数据最小化：数据须适当、相关，并限于实现相关目的所必要的范围。《人工智能法案》第10条则增加了一层独立且专门针对人工智能的要求：除限制所收集的数据外，提供者还须以积极方式记录证明训练数据符合用途要求，且不存在可能导致歧视性或有害输出结果的偏差。

第10条第5款为高风险人工智能系统提供者设立了一项范围狭窄的例外，这也是《人工智能法案》为数不多明确触及GDPR特殊类别数据框架的条款之一。该款允许在训练数据集中处理特殊类别个人数据(此类数据在GDPR第9条下若无特定条件本属禁止处理)，但仅限于为检测和纠正可能导致歧视的偏差所必需的范围之内。该例外须配合适当的保障措施，且仅限于偏差检测这一目的，并非在人工智能训练中处理敏感数据的一般性许可。

附件三所列、须自2026年8月起遵守第10条的独立型高风险系统类别包括：生物特征识别与分类系统；用于关键基础设施管理的人工智能；用于教育和职业培训准入决策的系统；招聘、绩效评估和任务分配等与就业相关的系统；用于获取基本私人和公共服务(包括信用评分和福利管理)的系统；执法系统；移民、庇护和边境管制系统；以及用于司法行政的系统。凡开发属于上述任一类别系统的提供者，均应立即着手实施数据治理措施，以便在2026年8月规则切换时做好准备。

基本权利影响评估(FRIA)：第27条(自2026年8月2日起适用)

第27条引入了《人工智能法案》所特有的一种全新影响评估：基本权利影响评估(FRIA)。该评估有别于GDPR第35条所要求的数据保护影响评估(DPIA)，部署高风险人工智能的企业可能需要同时开展这两项评估。

FRIA义务由部署者(而非提供者)承担。具体而言，该义务适用于受公法管辖的机构，以及提供性质上足够接近公共服务的私营运营方，例如银行、保险、供水、燃气、电力和互联网接入服务(第27条第1款)。

FRIA须评估该高风险人工智能系统对《欧盟基本权利宪章》所保护的各项基本权利所构成的风险，包括但不限于《宪章》第7条规定的隐私权、第8条规定的个人数据保护权、第21条规定的不受歧视权、第24条规定的儿童权利、第47条规定的获得有效救济权，以及第48条规定的无罪推定权。FRIA须登记至《人工智能法案》第71条项下建立和维护的欧盟高风险人工智能系统数据库(第27条第2款)。

GDPR的DPIA与《人工智能法案》的FRIA承担着不同的功能。GDPR第35条项下的DPIA评估的是个人数据处理行为对数据主体权利与自由所带来的风险，当处理行为很可能造成高风险时(尤其是采用新技术的情形)即会触发该义务。《人工智能法案》第27条项下的FRIA评估的范围更广，涵盖人工智能系统可能影响的各项基本权利，无论这些权利是否直接涉及个人数据。例如，一个就社会福利获取作出自动化决策的系统，会同时触发两项义务：因其处理个人数据而须开展DPIA，也因其影响基本社会权利而须开展FRIA。这两项评估都必须在部署之前完成，且各自形成独立的文档记录。

通用人工智能：自2025年8月起生效的义务

《人工智能法案》创设了一类新的受监管主体：通用人工智能(GPAI)模型的提供者。GPAI模型是指基于大规模广泛数据训练、能够胜任多种不同任务的人工智能模型。大语言模型、能够处理文本、图像和音频的多模态模型，以及其他类似的基础模型，均属该定义范畴。《人工智能法案》第51条至第55条对相关义务作出规定，该等义务已自2025年8月2日起适用。

所有GPAI提供者均须：发布训练数据摘要，其详尽程度须足以使下游用户和部署者能够评估数据质量、版权合规情况及潜在偏差；制定政策以遵守欧盟版权法，包括2019/790号指令项下有关文本与数据挖掘例外的规则；并发布涵盖模型能力、局限性及预期部署场景的技术文档。附件十三对技术文档要求作出了具体规定。

被评估为具有系统性风险的GPAI模型，须承担额外义务。依据第51条第1款第2项，系统性风险的门槛设定为训练计算量超过10^25次浮点运算，不过欧盟委员会可通过授权法案调整该门槛。具有系统性风险的GPAI提供者须开展对抗性测试和红队测试，向欧洲人工智能办公室报告重大事件，实施网络安全保障措施，并就其能耗情况进行报告。这些要求反映出一个事实：规模最大的基础模型因其部署范围广、规模大，可能在社会层面(而不仅是个人层面)造成损害。

就隐私问题而言，GPAI模型的特殊关切在于预训练阶段通常涉及的个人数据规模巨大。从网络抓取的数千亿词元(token)训练集，很可能包含在世个人的个人数据。GPAI提供者并不能仅仅因为如今受《人工智能法案》监管，就规避GDPR的适用。只要训练数据中包含个人数据，该处理行为仍须具备GDPR项下的合法处理依据，最常见的是需经过利益权衡测试的合法利益依据(GDPR第6条第1款第6项)，尽管该依据在若干成员国的执法程序中已受到质疑。

由谁负责执法？数据保护机构、EDPB、EDPS与人工智能办公室的角色

《人工智能法案》构建了一套分层执法架构，在隐私敏感度最高的行业领域，将数据保护机构置于执法体系的核心位置。

《人工智能法案》第74条第8款指定各国数据保护机构，作为执法、移民管控、庇护处理及司法行政领域所使用的高风险人工智能系统的主管市场监督机构。这是一项经过深思熟虑的制度设计：这些领域最有可能涉及大规模的敏感个人数据处理，也最有可能影响基本权利。数据保护机构一直以来都在GDPR和《执法指令》框架下积累了在执法需求与隐私权利之间进行权衡的专业经验，使其成为这些场景下最为适合的专业监管机构。

对于其他高风险人工智能行业领域，各成员国须依据第70条另行指定国家主管机关作为市场监督机构。

在欧盟层面，欧洲数据保护委员会(EDPB)和欧洲数据保护监督官(EDPS)均发挥着咨询职能。EDPB就《人工智能法案》与GDPR的交叉问题(尤其是生物特征识别和分类问题)发布指南和意见。EDPS负责监督欧盟机构对人工智能系统的使用情况，并已发布专门的人工智能监督指南。2026年2月，EDPS加入了由全球隐私大会(Global Privacy Assembly)协调、61家数据保护机构联合签署的一份联合声明，对人工智能系统在未经可识别个人知情或同意的情况下生成描绘其形象的逼真图像和视频表示关切，并特别关注儿童保护问题。

设立于欧盟委员会内部的欧盟人工智能办公室，对GPAI模型的监督和跨境执法承担总体协调职责，是GPAI提供者的主要联系窗口。随着执法体系日趋成熟，各国数据保护机构与人工智能办公室预计将制定协调机制，以防止出现监管空白和"择地诉讼"现象。

罚款：最高可达3500万欧元或全球营业额的7%

《人工智能法案》第99条设定了三档行政罚款，由于处罚条款本身与GPAI义务一同自2025年8月2日起适用，这三档罚款目前均已生效。

最高档罚款适用于违反第5条被禁止行为的情形，罚款最高可达3500万欧元或上一财政年度全球总营业额的7%(以较高者为准)。这是罚款上限，而非标准罚款金额，执法机构在裁量时仍须考虑比例原则(第99条第3款)。

中间档罚款适用于违反《人工智能法案》价值链中提供者、部署者、进口商、分销商或授权代表所须承担的其他任何义务的情形，包括第三章和第四章下的高风险义务以及GPAI义务，罚款最高可达1500万欧元或全球总营业额的3%(第99条第4款)。

最低档罚款适用于向公告机构或国家主管机关提供不正确、不完整或具有误导性信息的情形，罚款最高可达750万欧元或全球总营业额的1%(第99条第5款)。

对于中小企业和初创企业，《人工智能法案》将罚款上限设定为百分比数额与绝对金额中较低者，相较于对大型企业的处理方式，提供了一定程度的比例调节空间。

相比之下，GDPR第83条第5款将最高档罚款上限设定为2000万欧元或全球年营业额的4%。欧盟《人工智能法案》针对被禁止行为设定的罚款上限，在绝对金额和百分比两个维度均更高，反映出立法者的判断：从某些角度看，人工智能领域最严重的风险，其危害程度甚至超过最严重的数据保护违法行为。实践中，违反第5条禁令的企业，几乎必然会同时面临GDPR的执法追责，因为此类违法行为通常涉及大规模的生物特征或行为数据处理。

实务合规步骤

在欧盟境内运营或以欧盟居民为目标受众的企业，现在就应着手推进以下各项工作：

依据风险分级框架，全面梳理正在使用的所有人工智能系统，识别可能落入第5条被禁止类别的任何系统，并评估其是否已依据要求自2025年2月2日起退出使用。

对于GPAI提供者：确认训练数据摘要、版权合规政策及技术文档均已就位，并满足第53条至第55条的要求。若模型的训练计算量超过10^25次浮点运算，须确认第55条项下的系统性风险义务是否适用。

对于高风险系统的提供者和部署者：应立即着手准备第10条项下的数据治理文档，以便在2026年8月2日适用日期前做好准备，内容包括训练数据的选择标准、偏差审查记录，以及使用第10条第5款特殊类别数据例外以纠正偏差的相关记录。

对于公共机构或提供公共等效服务的运营方部署者：应规划第27条项下的FRIA流程，使其与现行的GDPR DPIA流程同步进行。这两项评估针对的是不同的法律框架，但通常可以援引相同的技术文档。

应对所有人工智能系统部署分别对照《人工智能法案》和GDPR进行独立审查。满足其中一部法律的要求，并不能保证满足另一部法律的要求：即便系统已具备GDPR合法处理依据，仍可能落入被禁止类别；即便系统未达到高风险门槛，仍可能涉及触发GDPR DPIA义务的高风险个人数据处理。

应指定专人负责应对《人工智能法案》相关的监管询问，并在第71条项下的欧盟数据库投入运行后，及时将高风险系统在该数据库中完成注册。

相关指南

• GDPR国际数据转移：第五章规则(2026)
• GDPR被遗忘权(第17条)解读
• GDPR是否适用于美国企业？合规指南
• 欧盟数据隐私法：GDPR、《人工智能法案》与2025至2026年数字改革
• 什么是GDPR？欧盟数据保护完整指南(2026)