(2026.02.02 新加坡）2024年12月,韩国通过了《人工智能基本法》,一年后，于上周正式施行。这其中最具争议的条文规定，企业若在其服务或产品中使用 AI 必须告知用户。此外，AI 生成的内容如果难以通过肉眼或任何方式识别出来，则必须在产品上明确标注来源于 AI，或加盖水印。
这套法规在韩国引发两极反应：本土科技初创企业认为监管过严，而公民社会团体则认为力度仍显不足。此时全球正对 AI 生成内容及潜在的AI 决策风险日益感到担忧，各国政府正积极制定政策和法规，以跟上技术快速发展，从而防止出现监管空白、风险失控或社会不公等问题。
如今，韩国率先推出了这部被誉为全球最全面的 AI 规范法律，这可能成为其它国家的参考范本，但也引发争议。这套法律强制要求提供 AI 服务的企业，对明显由 AI 生成的内容，比如卡通或艺术作品，附加不突显的数字水印； 而对高度逼真的深度伪造内容，则须添加一眼可见的标识。
它也对“高影响 AI 系统” （如用于医疗诊断、招聘、贷款审批的系统）设定条件：运营方必须评估AI 决策可能含有的风险，并记录决策依据，以便留档备查。若决策最终是由人类负责，则不包含在监管范围内。
此外，若要在韩国使用功能极其强大的 AI 模型，其必须先通过极为严格的安全标准。韩国政府承认，目前全球尚无任何 AI 模型能够完全符合这一标准。违反规定的企业将面临最高 3,000 万韩元（约 2.65万新元）的罚款，但政府承诺至少提供一年宽限期，让企业有时间适应。
这部法律被视为全球首个由国家全面实施的 AI 法典，是韩国战略的一部分，目的是助其跻身全球三大 AI 强国，与美国、中国并列。政府官员强调，法律 80% 至 90% 的重点在于促进产业发展，而非限制或处罚企业。
韩国科学技术院（KAIST）计算机科学教授吴爱丽丝（Alice Oh）告诉英国的《卫报》，这套法律虽不完美，但其用意是在不扼杀创新的前提下逐步演进。然而，创业联盟（Startup Alliance）去年 12 月调查显示，98% 的 AI 初创企业尚未做好合规准备。联合负责人林正旭（Lim Jung-wook）指出，创业者普遍感到沮丧：“为什么我们必须成为第一个执行这类法律的国家？” 创业联盟是一个非营利组织，宗旨是促进韩国创业生态。
批评者还指出，企业需自行判断其 AI 系统是否“高影响 AI” ，自我评估过程耗时但还是很难保证判断准确。韩国国家人权委员会也批评“高影响 AI”没有明确定义，这使最容易受到侵害的人群处于监管盲区， 比如弱势群体、未成年人、病人等 。 批评者们也警告存在竞争不公：韩国本土所有企业都必须接受监管，而外国企业仅在达到特定规模或门槛时才需遵守，如谷歌和 OpenAI。
另一方面，社会团体认为法律对公民保护不足。美国网络安全公司 Security Hero 2023 报告显示，全球深度伪造色情内容受害者中，韩国人占 53%，问题最为严重。2024年8月，一宗调查发现韩国一个庞大的 Telegram 聊天室网络专门制作和传播 AI 生成的女性及未成年女孩色情图像。近期马斯克的 Grok 聊天机器人丑闻显示，AI 生成色情内容的问题还在加剧。
公民社会团体认为，新法对受害于 AI 的人保护有限。包括人权律师团体在内的四个韩国组织在法律实施次日发表声明称，法律几乎没有保护个人的条款， 保护的“用户”主要指使用 AI 系统的医院、金融机构或公共部门。他们还指出，法律对“有人类参与”的系统提供监管豁免权，企业可能借此规避监管。
《卫报》报道，该法律的最早相关草案可追溯至 2020 年 7 月，当时没有考虑到保护个人，过后立法进程因此多次受阻。科学技术信息通信部表示，将会消除条文的不确定性，建设“健康、安全的国内 AI 生态系统”，并通过修订指南持续澄清相关规则。
专家指出，韩国选择的监管路径与其它国家不同。汉阳大学 AI 治理法学教授尹慧善（Melissa Hyesun Yoon）指出，欧盟强调的是对高风险 AI 系统的严格管控； 美英则是由行业自律和创新来驱动监管； 而中国是一方面指引AI产业发展，另一方面对具体服务进行监管，兼顾发展与风险控制。
这部法典反映韩国政府既鼓励创新，又监督风险的态度，但更多依靠对社会的信任而非严格的惩罚性规定。她预测：“ 韩国制定的 AI 监管框架，可能会成为其它国家或国际组织在讨论如何治理 AI 时，可以借鉴或参考的重要示例。”
欧盟的 AI 法令尚未全面实施；美国也仍缺乏联邦层面的 AI 法律；英国则主要依靠行业专项法规；中国虽已推出多项与 AI 相关的法规和指导文件，但尚未形成可与韩国《人工智能基本法》相媲美的统一法律。因此，这部韩国法律的独特之处在于它已全面施行、覆盖全国，被认为可成为全球治理AI 的“参考范本”。
