抖音重拳治理AI虚构台风灾害画面，已处置1.28万条不实内容

8月17日，抖音发布台风“白海豚”相关不实信息治理公告——自8月9日起，平台已处置12834条不实内容、5个违规账号和128条评论。

治理对象包括五类： 用无关画面冒充当前灾情、把历史内容包装成最新灾情、夸大灾害影响、编造停运或险情信息，以及利用AI生成或加工灾害画面。

平台举例称，“上海地铁3号线因白海豚停运”“台风导致北横通道积水”等说法均与实际情况不符。公告配图中的典型案例采用AI模拟画面呈现，不是原始谣言素材。

这不是抖音第一次治理AI谣言，但这次力度格外大。 1.28万条不实内容——这个数字说明AI生成灾害画面的问题已经到了必须严肃对待的地步。抖音表示，将通过专项巡查、用户举报与内容核验继续处置涉灾不实信息。

与此同时，Google也在调整AI内容标识政策。 近日，Google通过更新允许用户在Gemini以及Google AI视频生成器Flow中关闭“媒体水印”选项。虽然可见水印变成可选项，但AI生成内容底层仍将嵌入隐形的SynthID水印和C2PA元数据。用户依然可以通过向Gemini或Google搜索提问，验证某段内容是否由AI生成。

当AI生成的内容越来越逼真，当台风灾害画面都能被AI虚构——平台的责任比任何时候都更重。 抖音1.28万条处置记录和Google的隐形水印方案，都在回答同一个问题：在AI时代，真相该如何被保护？