你必须告诉客户他们正在与 AI 对话吗？欧盟《AI 法案》第 50 条与东南亚

对于属于欧盟《AI 法案》适用范围的系统，提供者通常必须设计聊天机器人，告知用户他们正在与 AI 互动，除非这一点显而易见。第 50(1) 条自 2026 年 8 月 2 日起适用。所审阅的东南亚文件提供指导，其本身并不在所有情况下确立法律义务。本文不构成法律意见。

本文反映了截至 2026 年 10 月 22 日查阅的资料。请具备你所在司法管辖区执业资格的律师审查你的具体设置。

《AI 法案》第 50 条有什么要求？

《（欧盟）2024/1689 号条例》第 50 条 （在新标签页中打开）^[1]规定了四项透明度义务。第一项涉及与聊天机器人对话。它规定，旨在直接与人互动的 AI 系统必须经过设计，使人们“获知自己正在与 AI 系统互动，除非这一点显而易见”。是否显而易见，应从一名掌握合理充分信息、善于观察且谨慎的人的角度判断。第 2 款的标记义务也可能涵盖生成式系统产生的文本，这也是下列日期很重要的原因。

欧盟委员会于 2026 年 7 月 20 日发布的第 50 条指南 （在新标签页中打开）^[3]指出，应从严解释这一例外。指南将服务台使用的 AI 聊天机器人列为不适用该例外的例子，因为用户可能以为回复来自真人。指南称其本身不具约束力；只有欧洲联盟法院才能作出权威解释。

第 5 款规定了时间要求。信息必须“最迟在首次互动或接触时以清晰、可区分的方式”提供，并符合适用的无障碍要求。指南补充说，仅在条款和条件中披露本身并不足够：它可以补充具体场景中的提示，但不能替代提示。指南认为一条醒目的提示“在大多数情况下可能足够”，而在金融、保险、法律和健康建议等风险较高的场景中，可能需要定期提醒。

你是提供者还是部署者？

根据第 3(3) 条，提供者开发 AI 系统或委托开发系统，并以自己的名称或商标将其投放市场或投入使用。根据第 3(4) 条，部署者在自身权限下使用 AI 系统，个人非职业活动除外。

指南给出了例子。一家公司在内部构建聊天机器人，并以自己的名称在欧盟投入使用，就是提供者。一个组织可以同时承担两种角色。一家公司修改现有系统，例如加入新的训练数据，并以自己的名称将成果投入使用，就成为新系统的提供者。

在他人平台上配置聊天机器人的企业介于这些情况之间，答案取决于系统由谁开发、使用谁的名称等事实。谁属于提供者或部署者是法律问题，本文不为任何供应商（包括 Plandora）作出判断。请书面向供应商提出两个问题：谁负责首次互动时显示的提示（第 50(1) 条），谁负责对生成的输出进行机器可读标记（第 50(2) 条）。

聊天之外的 AI 生成内容需要标识吗？

第 4 款适用于部署者，也就是发布内容的企业。它涵盖两种情况。

第一种是第 3(60) 条所指的深度伪造：由 AI 生成或操纵的图像、音频或视频，看起来或听起来像真实的人、物体、地点、实体或事件，并会使人误认为其真实或可信。指南举例包括模仿播客常驻主持人声音的 AI 生成录音，以及逼真的公司 CEO 合成化身。指南将“人”解释为包括真人的形象和声音，并根据整体语境判断内容是否给人以真实的错误印象。因此，使用专家本人声音训练的声音副本可能属于适用范围，具体取决于它如何呈现给访客。

第二种是为告知公众公共利益事项而发布的 AI 生成文本，例如生活方式网站上关于饮食的文章。如果文本“经过人工审查或编辑控制流程”，且有人承担编辑责任，则可获得豁免。指南指出，只有特定个人才能访问的文本不属于发布，并举出以职业目的进行的私人、人际通信，以及只有提出请求的用户才能看到的聊天机器人新闻摘要。这表明私人一对一聊天回复涉及的是第 50(1) 条问题，而非第 50(4) 条问题。

何时适用？Digital Omnibus 改变了什么？

法案第 113 条规定其自 2026 年 8 月 2 日起适用。《（欧盟）2026/1744 号条例》 （在新标签页中打开）^[2]，即 AI Digital Omnibus，日期为 2026 年 7 月 8 日，于 2026 年 7 月 24 日在官方公报上发布。它在发布后第三天生效，即 2026 年 7 月 27 日。它在第 111 条中增加了第 4 款：2026 年 8 月 2 日前已在市场上的生成式系统提供者“应采取必要措施，在 2026 年 12 月 2 日前遵守第 50(2) 条”。

延期仅涵盖标记。指南指出，兼具交互和生成功能的系统可以在标记方面使用过渡期，但“必须自 2026 年 8 月 2 日起确保遵守直接与自然人互动的 AI 系统的披露义务”。

欧盟委员会的网页对延期的措辞不同。第 50 条常见问题 （在新标签页中打开）^[4]在 2026 年 10 月 22 日查阅时仍显示最后更新于 2026 年 7 月 24 日，称“拟设立”有限的宽限期。最后更新于 2026 年 7 月 29 日的速览页面 （在新标签页中打开）^[5]称第 50(2) 条已“由 AI Omnibus 修订”。官方公报的文本确定了这一点：已发布的条例中写明了 2026 年 12 月 2 日这一日期。

欧盟委员会的《AI 生成内容透明度行为准则》 （在新标签页中打开）^[6]涵盖提供者的标记和部署者的标识，网页注明其最终版本日期为 2026 年 6 月 10 日。签署是自愿的，委员会网页指出，无论是否签署，法律义务均适用。

欧盟以外的企业也适用吗？

可能适用。第 2(1)(c) 条涵盖设立在第三国的提供者和部署者，条件是“AI 系统产生的输出在欧盟内使用”。适用范围取决于角色。根据第 2(1)(a) 条，将系统投放欧盟市场或在欧盟投入使用的提供者，无论设立在哪里都受到约束。指南对第三国运营者补充了两项限制。如果部署者预见到输出将在欧盟分发和使用，例如通过指示或授权，则属于适用范围。对于系统未投放欧盟市场的提供者，偶然、不可预见或未经授权的下游使用本身不应触发义务。

指南没有将这一规则应用于聊天，因此下文是解读，而非指南原文。邀请欧盟客户进入聊天的东南亚专家，其情况更接近可预见的使用。网站仅仅可以从欧洲访问的专家，其情况更接近偶然使用。企业属于哪一类取决于其角色和具体事实。

处罚是什么？

根据条例第 99(4)(g) 条 （在新标签页中打开）^[1]，违反第 50 条义务可能面临最高 1500 万欧元 的行政罚款；对于企业，罚款也可能最高达到上一财政年度全球年营业总额的 3%，以较高者为准。对于包括初创企业在内的中小企业，第 99(6) 条规定每项罚款以上述百分比或金额中较低者为上限，Digital Omnibus 将同一规则扩展至小型中等市值公司。这些都是上限。成员国制定处罚规则，欧盟委员会的常见问题 （在新标签页中打开）^[4]指出，合规执法主要由各国市场监管机构负责。

新加坡、马来西亚和印度尼西亚有什么要求？

在所审阅的文件中，没有一份是普遍要求告知用户他们正在与 AI 对话的成文法。消费者保护和虚假陈述规则等其他法律仍可能相关，但不在本次审阅范围内。

IMDA 的“事先声明”措辞出现在其智能体 AI 框架中，因此第一个问题是 Digital Mind 是否属于智能体。该框架称“对于 AI 智能体的定义尚无共识”，并描述智能体通常具备跨多个步骤进行“一定程度的独立规划、决策和行动”的能力。其用户会与之互动的智能体例子包括客户服务和销售智能体。仅根据已批准的知识回答的 Digital Mind，比配置了多步骤 Flows、专家或 Automations 的 Digital Mind 更不符合这一描述，因此不要假定该措辞与你的配置无关。本文并未确定任何特定 Digital Mind 属于哪一类。

新加坡 PDPC 表示，其指南“具有咨询性质，对委员会或任何其他方均无法律约束力”。指南所解释的《个人数据保护法》具有约束力，其通知义务与任何收集姓名、电子邮箱或电话号码的聊天都有关。东南亚 AI 聊天数据保护的相关文章介绍了这方面的内容。

马来西亚指南将“充分披露 AI 系统正用于决策的事实”列为五项透明度要素中的第一项，并指出该原则主要适用于 AI 参与决策流程的情况。作为伦理守则示例的附录 8 指出：“透明度还应意味着向用户披露他们正在与 AI 互动。”这是一份自称自愿遵循的文件中供组织采纳的示例措辞。

印度尼西亚的通函定位为伦理指导（pedoman etika），其文本没有规定必须告知用户他们正在与 AI 对话。通函是否对任何人具有约束力，应由印度尼西亚律师判断。Komdigi 自己的2026 年 2 月 12 日网页 （在新标签页中打开）^[13]将国家 AI 路线图和 AI 伦理的总统条例描述为草案，且无法从官方来源确认此后任何一项是否已签署。也未发现已生效的马来西亚 AI 成文法。

Digital Mind 聊天中良好的披露是什么样的？

以下是根据欧盟委员会和 IMDA 文件整理的良好做法，并非合规建议。Digital Mind 不是人类专家，也不应被呈现为真人，因此清楚标明身份是合适的。

1. 在访客输入前说明。 开场用一句简单的话说明这是你企业的 AI 助手。欧盟委员会的指南指出，“不清楚或含糊的信号（例如笼统提及‘助手’）”本身并不足够。
2. 保持可见。 同一指南建议将首次对话问候与“持续显示的徽章或标签”结合使用，IMDA 的聊天机器人指南建议通过信息图标等持续显示的入口访问信息卡。Plandora 的文档没有描述徽章或图标的设置，因此请检查访客在聊天位置实际看到的内容，不要假定那里有标识。文档中你可以控制的设置包括 Mind › Profile 下的 Short bio，以及规定 Mind 如何回复的行动手册指令。使用两者说明这是一个 AI 助手。
3. 说明如何联系真人。 在 Plandora 中，行动手册 Boundaries 可以设置问题何时需要真人处理，Flow 步骤可以标记处理转接的人员或团队，收件箱则让他们接手对话，并在之后将对话交还给 Mind。真人接手时，告诉访客，让他们知道是谁在回复。人工转接介绍了触发条件。
4. 标明训练过的声音。 Plandora 的 Voice 让所有者训练自己的声音，以便访客听到朗读的回复。根据文档，访客通过选择文本回复上的“Hear me speak”开始播放，因此音频跟在回复之后，而不是以语音问候开场。欧盟委员会的语音开场示例“这是一个 AI 驱动的助手”针对语音和电话场景，而 Voice 文档没有描述这些场景。如果你使用 Voice，请在 Short bio 和 Mind 的第一条回复中说明，该声音是基于你的声音训练的 AI 声音。
5. 在风险较高时重复提醒。 对于健康、金钱或法律问题，指南称可能需要定期提醒，而 Plandora 自身的建议是让真人参与重大决策。AI 回复为何出错解释了错误的来源。
6. 测试陌生人看到的内容。 每次编辑行动手册后，等待行动手册显示 Live，因为被阻止的更改会保留为草稿。然后在无痕窗口中直接打开聊天链接，例如 Quick Chat 链接，不要先访问个人主页，并检查 AI 提示是否出现在预期位置。分别测试语音播放和收件箱中的人工接手。针对你使用的每个渠道，记录访客实际看到的提示。

本文内容均不构成法律意见。上线前，请具备你所在司法管辖区执业资格的律师审查你的设置。