从今天起，您在欧洲与所有数字工具的互动方式将发生根本性改变。如果您正在与聊天机器人聊天或观看经过修改的视频，平台现在必须明确标明。与此同时，欧盟委员会开始向科技巨头施压，并开始实施《人工智能法案》的首批严格规定。
- 现在，聊天机器人和人工智能生成的内容（深度伪造、音频、图像）必须有清晰的标签，并带有机器可读的水印。
- 欧洲人工智能办公室获得了对通用人工智能模型（GPAI）的控制权，强制执行训练数据的透明度和对版权的尊重。
- 对高风险系统的严厉禁令推迟到 2027 年和 2028 年，而该措施的成功取决于各国当局的准备情况。
新型聊天机器人如何改变你的日常生活
直到昨天，你还可以与在线客服机器人或数字助理聊天，而无需知道对方是真人还是算法。但随着《欧洲人工智能条例》（AI法案）的生效，这种情况将不复存在。所有交互系统都必须从一开始就明确告知你，你正在与软件进行交互。
这项措施不仅限于文本。使用人工智能创建或转换的图像、音频片段和视频（即所谓的深度伪造内容）必须带有可见或可听见的标记，因为它们可能会误导公众，使其对其真实性产生怀疑。
在可见标识背后，隐藏着一项更为重要的技术要求：集成“机器可读元数据”。这意味着文件将带有数字水印，使 YouTube、X 和 Facebook 等平台能够自动检测合成内容。为此，欧盟委员会公布了首批加入《透明度实践准则》的 180 多家机构名单，该准则为企业制定了技术标准。
GPAI：人工智能巨头面临严峻考验
欧盟现在公开针对通用人工智能（GPAI）模型。我们指的是底层技术——例如 OpenAI 的 GPT-4、谷歌的 Gemini 等。 克劳德 由 Anthropic 开发——数百个其他应用程序都是基于该平台构建的。
新成立的欧洲人工智能办公室（欧盟人工智能办公室）扮演着中央监管机构的角色。这些模型的提供者现在必须提交完整的技术文档，遵守欧洲版权法，并公布其用于训练系统的材料的详细摘要。
对于被归类为“系统性风险”的模型——即那些利用强大的计算能力训练且可能影响整个社会的模型——其义务更为严格。这些模型的开发者必须评估并降低以下相关风险：
- 大规模网络攻击和基础设施入侵。
- 大规模地对用户进行心理操纵。
- 参与化学、生物或核（CBRN）事件。
- 系统可能不受人为控制的情况。
日程安排：哪些措施今天生效，哪些措施延期
Αν νομίζεις ότι από σήμερα εφαρμόζεται το σύνολο του AI Act, η πραγματικότητα είναι διαφορετική. Η 欧盟 επέλεξε μια σταδιακή εφαρμογή προκειμένου να μην αποδιοργανωθεί η αγορά.
该设计针对以下要求提供了具体的阶段：
- 8月2日（今天）： 聊天机器人、深度伪造技术和GPAI模型提供商的透明度规则适用。
- 2026年12月2日： 对于未经同意制作色情内容或制作儿童性虐待内容的系统，已实施严格禁令。
- 2027年12月2日： 针对“高风险”系统的规则已激活（例如简历评估算法、司法系统、信用评级）。
- 2028年8月2日： 这些规则适用于集成到已受监管产品（医疗器械、汽车行业、航空航天）中的人工智能系统。
| 人工智能类别 | 基本义务 | 主管当局 | 生效日期 |
|---|---|---|---|
| 聊天机器人和深度伪造 | 对话标记、元数据水印 | 国家当局/ EU 人工智能办公 | 立即（8月2日） |
| GPAI 模型（通用型） | 文档、版权政策、培训数据摘要 | 欧盟人工智能办公室（委员会） | 立即（8月2日） |
| 未经同意的显式人工智能 | 全面禁止创作和传播 | 国家机关/法院 | 2十二月2026 |
| 高风险人工智能系统 | 风险评估、人工监督、审计日志 | 成员国国家主管机关 | 2十二月2027 |
现实情况：应用差距和开源
这里有一个大多数新闻稿都忽略的重要细节：欧洲人工智能办公室由一个60名独立专家组成的科研团队负责。考虑到每天发布的模型数量之庞大，这个数字简直是沧海一粟。
此外，监管权被一分为二：人工智能办公室负责监管《数字服务法》中的巨头企业和大型平台，但对于所有其他系统，则由国家主管部门负责。在希腊——如同其他一些欧盟国家一样——主管机构目前尚缺乏开展有效代码审计所需的人员配备和技术基础设施。
第二个棘手的问题是开源模型。如果你将模型下载到本地计算机，只需几行代码就能移除任何水印机制。法律要求公司添加水印，但却无法阻止恶意用户通过离线运行模型来绕过水印。
TechNoid 的观点
在 TechNoid，我们认为《人工智能法案》在制度层面是一项必要的举措，但在实践中却饱受官僚主义作风的困扰。要求聊天机器人声明其身份对消费者来说无疑是件好事。然而，认为数字水印技术就能解决深度伪造问题的想法过于简单。随着开源软件的发展，水印将在几秒钟内被移除。结果会是什么？合法的欧洲企业将背负高昂的合规成本，而恶意行为者则将继续在欧洲境外畅行无阻。
关于欧洲人工智能法案监管的常见问题
我如何才能知道我是在和聊天机器人还是真人对话？
现在，应用程序或网站必须在对话开始时显示书面通知，明确告知用户该系统基于人工智能。
所有人工智能图像和视频都会有特殊标记吗？
不一定需要可见的水印。系统需要整合主要由机器可读的元数据，以便平台（社交媒体）能够自动识别并标记内容。
什么是通用人工智能（GPAI）模型？
它们是像 GPT-4 或 Gemini 这样的灵活模型，它们并非为单一任务而设计，而是可以执行数十种不同的任务，并集成到其他应用程序中。
创作者的版权如何受到保护？
GPAI 开发公司必须公布训练数据摘要，并制定遵守欧盟知识产权法的政策。
如果我发现违规行为，应该向哪里投诉？
欧盟委员会正在启动一个面向公民和企业的专门投诉门户网站，以及一个面向举报人（科技公司员工）的安全渠道。
为什么高风险系统的规则制定会延迟？
欧盟给予过渡期至 2027 年 12 月，以便企业和国家当局能够在不中断关键服务运行的情况下调整其基础设施。
《人工智能法案》能否彻底阻止深度伪造技术？
不完全如此。尽管有严格的规定，但由于本地层面使用开源模型，因此在技术上很难全面禁止内容篡改。
