罗马(美联社)——教皇方济各周四呼吁制定一项国际条约，以确保人工智能的开发和使用符合道德规范，他认为，缺乏同情、仁慈、道德和宽恕等人类价值观的技术风险太大。
方济各在天主教会每年1月1日庆祝的世界和平日的年度致辞中，加入了越来越多的呼吁，呼吁对人工智能进行有约束力的全球监管。梵蒂冈周四公布了这一信息的文本。
对弗朗西斯来说，这种吸引力有点私人化:今年早些时候，一张由人工智能生成的他穿着奢华白色羽绒服的照片在网上疯传，显示出逼真的深度假图像在网上传播的速度有多快。
就在教皇发表这一信息的几天前，欧盟谈判代表暂时批准了世界上第一个全面的人工智能规则，预计这些规则将成为各国政府考虑本国监管的黄金标准。
在过去的一年里，人工智能吸引了全世界的关注，这要归功于OpenAI的ChatGPT等尖端系统的惊人进步，这些系统能够生成类似人类的文本、照片和歌曲，令用户眼花缭乱。但这项技术也引发了人们的担忧，人们担心这项快速发展的技术会给就业、隐私和版权保护，甚至人类生命本身带来风险。
方济各承认人工智能带来的希望，并称赞技术进步是人类智慧创造力的体现，这与梵蒂冈在今年的联合国大会上传递的信息相呼应。在联合国大会上，许多世界领导人提出了人工智能的希望和危险。
但他的新和平信息走得更远，强调了伦理学家和人权倡导者对这项技术提出的严重的、存在性的担忧。这项技术有望以某种方式改变日常生活，扰乱从民主选举到艺术的一切。
他坚持认为，人工智能的技术发展和部署必须首先考虑保障基本人权，促进和平，防止虚假信息，歧视和歪曲。
他最大的警告是在军备领域使用人工智能，这一直是耶稣会教皇经常关注的焦点，他甚至称传统武器制造商为“死亡商人”。
他指出，远程武器系统已经使人们“远离了战争的巨大悲剧，减少了对这些武器系统造成的破坏和使用这些武器的责任负担的认识”。
他写道:“道德判断和伦理决策的独特能力不仅仅是一堆复杂的算法，这种能力不能被简化为给机器编程。”
他呼吁对致命自主武器系统(Lethal Autonomous Weapons Systems，简称LAWS)进行“充分、有意义和持续的”人类监督，认为世界不需要只会“最终助长愚蠢战争”的新技术。
在更基本的层面上，他警告说，对公民进行排名或分类的自动化系统会对人类产生深远的影响。他指出，这种技术可以确定抵押贷款申请人的可靠性，移民获得政治庇护的权利，或者以前被判有罪的人重新犯罪的可能性。
他写道:“绝不能让算法决定我们对人权的理解，抛弃同情、怜悯和宽恕等基本的人类价值观，或者消除个人改变和抛弃过去的可能性。”
对于方济各来说，这个问题触及了他作为教皇的一些优先事项，即谴责社会不公，倡导移民，并为囚犯和社会边缘人群提供服务。
教皇的讲话没有深入探讨可能达成的具有约束力的条约的细节，只是说必须在全球层面进行谈判，以促进最佳做法并防止有害做法。他说，人们不能信任科技公司独自监管自己。
他改变了他以前谴责跨国公司的论点，这些跨国公司破坏了地球的国家资源，并使赖以为生的土著人民陷入贫困。
他写道，“每当人类屈服于自私、自私自利、对利润的渴望和对权力的渴望的诱惑时”，自由与和平共处就会受到威胁。
Kelvin Chan在伦敦报道。
