新德里，5月24日:周五的一份新报告称，OpenAI、Sensity AI等几家初创公司的深度伪造检测工具等创新正在加强对操纵内容的检测，并实现更安全的数字环境。
根据数据和分析公司GlobalData的数据，在动态的网络安全领域，人工智能(AI)驱动的深度假检测、实时监控和高级数据分析等变革性技术正在彻底改变数字安全和真实性。
GlobalData颠覆性技术项目经理Vaibhav Gundre表示:“人工智能生成的深度造假已经变得越来越复杂，对个人、企业和社会构成了重大风险。”“然而，由机器学习(ML)驱动的尖端检测方法正在帮助越来越准确地识别和标记被操纵的内容，”他补充说。
他还提到，从检查生物信号到利用强大的算法，这些工具正在加强防御，防止深度伪造被滥用于“错误信息、欺诈或利用”。山姆·奥特曼(Sam altman)运营的OpenAI最近推出了一款深度伪造探测器，专门用于识别其图像生成器DALL-E生成的内容。Sensity AI使用专有的API(应用程序编程接口)来检测深度伪造的媒体，如图像、视频和合成身份。
DeepMedia。人工智能的deepfake检测工具DeepID使用像素级修改、图像伪影和其他图像操作迹象进行图像完整性分析。根据Gundre的说法，深度伪造检测的这些改进正在将网络安全转变为确保数字内容的真实性。“然而，随着这项技术的发展，我们必须严格审查有关隐私、同意以及广泛采用该技术的意外后果的道德考虑，”他建议道。
