韩国律师：AI立法应针对欺骗而非技术本身

韩国泰平律师事务所律师尹柱浩在ZDNet Korea撰文，提出一个关于AI立法的结构性批评：当前围绕AI的立法正在把技术本身当作规制对象，而非欺骗和损害。

他以深伪（deepfake）为例说明这一错位。深伪之所以需要规制，不是因为它是AI生成的，而是因为它让不存在的事情看起来像真实发生过，从而欺骗人。受保护的法益是个人的人格权和财产、消费者的合理选择以及公共讨论的可信度。因此，规制对象应当是'欺骗及其造成的损害'，而非'技术的使用'。

但韩国近年的立法却以'是否使用AI'为触发条件。《公职选举法》第82条之8规定，从选举日前90天到选举日当天，禁止为竞选目的制作、编辑、传播、放映或张贴用AI等技术生成的难以与真实区分的虚拟音响、图像或视频。尹柱浩指出，如果一个人用深伪技术展示真实发生过的事件，按这一条款仍然构成违法。选举期外只要标明为虚拟信息即可使用，但选举期内的全面禁止连真实内容也一并排除。他认为这构成过度规制。

《食品标示广告法》的AI专家广告条款呈现同样的结构。该法将AI生成的虚拟医生或药剂师推荐健康功能食品的广告列为刑事处罚对象。尹柱浩分析，这类广告之所以有害，是因为消费者相信穿白大褂的'专家'并据此购买。但这一条款只适用于AI生成的虚拟人物；如果真人医生或药剂师亲自出演说同样的话，该条款不适用。他认为风险大小与惩罚对象之间存在错位：消费者保护的目的若成立，规制焦点应当是'谁以什么依据保证功效'以及'消费者是否可能误信这种保证'，而非'说话的是不是AI'。

尹柱浩将同一分析框架延伸到正在讨论但尚未公开的《AI用户保护法》。他承认'保护用户'的目标无人反对，但认为立法前需要充分回答：用户在使用AI服务过程中具体遭受哪些类型的损害，这些损害为何无法用现有法律解决。他区分了三种性质不同的损害路径——因相信错误回答而遭受损失、因推荐或评估算法而受到不利对待、因输入信息被用于训练而隐私被侵犯——并指出其中相当部分已被《个人信息保护法》《电气通信事业法》《电子商务法》《约款规制法》等覆盖。他主张不应在未区分损害类型的情况下，对'AI服务'这一技术类别施加统一规制。

他提出三项立法原则。第一，先确定受保护法益和损害路径：在立法阶段明确该规制要阻止什么损害、损害通过什么路径发生、为何现有法律无法阻止。第二，制定技术中立且风险比例化的规则：用'可能使人与真实混淆''将虚假事实呈现为真实'等描述损害后果的条款，取代'使用AI'这一手段要件。第三，立法前进行影响评估，立法后持续审查：不以'可能尚未发生的风险'为由全面封锁，而以现实化可能性或损害严重程度为筛选标准，并在实施后检查实际损害案例、规制成本和表达萎缩效应。

尹柱浩最后指出，欧盟《AI法》按风险等级分配义务、韩国《AI基本法》引入'高影响AI'概念，都体现了'风险不同则规制不同'的原则。他认为在单行法中加入AI条款或制定新法时，也应一致地适用这一风险基础方法。

本文仅代表作者个人观点，不代表ZDNet Korea编辑立场。