OpenAI在ChatGPT中强制政治干扰图像采用卡通风格以防范深度伪造

OpenAI已在其聊天机器人ChatGPT中实施一项新的图像生成安全措施，旨在应对即将到来的美国中期选举中的深度伪造风险。根据OpenAI于2026年10月20日发布的更新，如果用户请求生成“描绘选举干扰或可能抑制投票”的图像，系统虽然不会完全拒绝该请求（只要不违反其他内容准则），但会强制输出插画或卡通风格的图像，并忽略所有要求照片级真实感的指令。

这一机制的核心逻辑在于降低此类图像的“证据价值”。OpenAI选举事务负责人Josh Lawson向CNET表示：“深度伪造的问题不在于社会评论，而在于欺骗。因此，我们的目标是在保留插图和社会评论空间的同时，降低图像的证据价值。”通过增加这种视觉上的摩擦，OpenAI试图使平台对恶意行为者制造逼真政治谣言的工具变得不那么有用。

CNET记者Katelyn Chedraoui测试了这一功能，发现当提示词涉及移民和海关执法局（ICE）官员站在投票站外等敏感场景时，生成的图像均为卡通风格。相比之下，Google Gemini仅笼统地表示正在推出额外保护措施，未披露具体技术细节；Anthropic则声明其Claude模型禁止用于欺骗选民，但未提供类似的自动风格转换机制。

随着AI图像模型如ChatGPT Images 2.5的进步，生成内容的逼真度不断提高，使得肉眼识别AI生成内容变得更加困难。现有的验证或AI标签方法尚未在全行业普及且并非万无一失。OpenAI的这一策略提供了一种实用的替代方案：通过牺牲特定政治语境下的写实性来换取公众信任度的保护。不过，目前尚不清楚该措施是否会在选举周期结束后继续保留。