韩国今年 1 至 7 月查获 166 件以 AI 制作或疑似由 AI 制作的违规广告，数量已经超过去年全年的 93 件。韩国食品医药品安全处表示，自己目前没有技术手段判断广告中的人物是否由 AI 生成，查获案件里相当一部分仍靠监看人员用肉眼识别。
一般食品案件最多，YouTube 为主要查获渠道之一
据韩国《京乡新闻》10 月 4 日独家披露，这 166 件案件涵盖多个品类，其中一般食品 83 件，占比最高；其后依次为化妆品 30 件、健康功能食品 27 件、医药外品 21 件、医疗器械 5 件。
这些广告常见的做法是宣称疗效，或把产品伪装成另一类别商品。报道举例称，有广告以 AI 生成的江南皮肤科专科医生院长形象，声称能够治疗青春期痘痘。在 30 件化妆品案件中，有 25 件会让消费者误以为产品属于药品；在 21 件医药外品案件中，有 15 件是把一般工业制品伪装成医药外品。
平台分布上，化妆品案件中有 20 件、医药外品案件中有 18 件是在 YouTube 查获。
为何出现 AI 假医生与假药师
韩国现行法规本就禁止医生、药师为食品作保证或推荐。报道指出，一些业者因此直接制作并不是真实医生或药师的虚拟人物，用来规避限制。
韩国食品医药品安全处 6 月公布的一起案例显示，某视频中自称整形外科院长的中年男性实际上由 AI 生成，相关产品则只是一般加工食品。该产品在 9 个月内卖出 65 万件，营收达到 81 亿韩元。涉事业者因涉嫌违反《食品标示广告法》，已被移送检方。
消费者难分辨，监管部门也难分辨
报道提到，一名希望减重的 A 女士曾在社交网站看到一段女性分享减重经验的短视频后购买产品。她原以为出镜者是网红，后来才知道那是 AI 生成的虚拟人物。她表示，对方的表情和语气都很自然，因此自己信以为真。
韩国食品医药品安全处表示，部门没有额外技术可以判别广告是否由 AI 制作。相关人士说：「因为是人在做的事，要完美分辨出制作精密的 AI 广告是不可能的。」
目前实际做法只有两种：一是广告主或网站运营方自愿加上 AI 生成标示，二是由监看人员以肉眼判断。
七成以上一般食品案件靠人工目视归类
在件数最多的一般食品类别中，83 件案件里有 61 件没有 AI 生成标示，而是由监看人员通过肉眼归类为疑似 AI 生成，占比 73.5%；有标示的只有 22 件。按这一组数据计算，主动标示的比例不到三成。
这也意味着，没有标示且肉眼又看不出来的广告，并不会被纳入这项统计。
韩国食品医药品安全处计划自 2025 年 11 月起运行的 AI Cops，也无法解决这一问题。该工具的功能是读取广告图片文字并筛查违规用语，并不具备识别广告人物是否由 AI 制作的能力。报道指出，这套系统虽然名称中带有 AI，但实际工作重点仍是找出文字内容中的违规表述。
韩国已通过禁令，但执行前提仍是先识别出 AI 角色
韩国国会已于 4 月 23 日通过《食品标示广告法》《药事法》《化妆品法》修正案，禁止 AI 生成的假医生、假药师推荐产品广告，相关禁令将在 11 月底生效。
此外，韩国公平交易委员会自 6 月 1 日起要求，由 AI 虚拟人物推荐产品的广告，必须明确标示为虚拟人物。韩国食品医药品安全处则于 8 月 7 日预告施行规则修正草案，拟规定若食品广告使用 AI 生成形象，并让消费者误以为其为医生、药师、大学教授等专家，业者首次违规将停业 15 天，第三次违规最高可停业 2 个月。
报道同时提到，在前述个案中，单一业者 9 个月营收达到 81 亿韩元，而草案对首次违规的处罚为停业 15 天。行政处罚要真正成立，前提仍是监管机构能够先识别出广告画面中的人物并非真人。
《AI 基本法》未直接约束广告主标示义务
韩国《AI 基本法》已于 1 月 22 日施行，要求生成式 AI 产出并对外流通的图片、视频、声音标示为 AI 生成物。不过，报道指出，这项义务针对的是直接向用户提供 AI 产品和服务的业者，而不是使用 AI 工具制作成品的用户。
按照这一逻辑，使用 AI 制作广告的广告主，并不会因为这部法律而自动承担标示义务。
另有法案已提出，拟要求个人上传自制 AI 生成内容时也必须标示，并要求网站运营方承担维护管理责任。但截至 7 月中，由于国会空转，相关审议一再推迟。
YouTube、韩国门户网站 Naver 等平台目前主要通过自身规则建议用户进行标示，尚未全面落实，也难以核查。
专家建议接入平台标示与来源信息筛查高风险广告
报道提到，随着 AI 生成影像和声音越来越精细，仅靠人工逐条核查广告存在明显上限。有专家主张，更有效率的方式是把各网站的 AI 标示与来源信息接入监管流程，优先筛出高风险广告。