视频 | Sora2生成视频真假难辨 如何防范AI诈骗与滥用？

北京时间10月1日凌晨，美国人工智能研究公司OpenAI发布了新一代视频生成模型——Sora 2。与第一代相比，Sora 2生成的视频更加逼真，不仅首次支持与画面匹配的AI音频生成，用户还可以利用“Cameo（客串）”功能，将自己和朋友置入AI生成的场景中。虽然OpenAI表示，这项功能必须得到该好友授权才可使用，但人们仍然担忧，深度伪造视频被滥用的风险。

对此，上海市人工智能学会副秘书长江勇表示，随着AI生成技术的进步，越来越多的视频真假难辨，需要从规范和治理的角度，加强风险防范应对措施。比如在应用端，AI公司及平台需要建立用户面部使用确认机制，并对生成视频强制添加数字水印。同时，由于互联网的传播具有跨地域性，全球各国也应共建人工智能治理体系，推动人工智能向善发展。