最佳回覆
“靠逼大全” 部分AI系统已学会欺骗人类。SAOA121AFOAJEFDN23AK
有些人工智能（AI）系统已学会了欺骗人靠逼大全类，纵然是经过训练的、“体现”出有用且老实的系统。10日宣布在《模式》杂志上的一篇文章中，研究人员描述了欺骗性AI的危害，并呼吁政府制定强有力的规则尽快解决这个问题。
论文ayx爱游戏作者、美国麻省理工学院人工智能宁静研究员彼得·朴说，开发人员对导致AI泛起欺骗这种不良行为的原因，还没有很好的理解。但总的来说，AI欺骗之所以泛起，是因为基于欺骗的战略，是在给定的AI训练任务中一种能获得良好反响的方法，换句话说，欺骗可资助AI实现目标。
研究人员剖析了文献，重点关注AI系统流传虚假信息的方法。通过欺骗，AI系统地学习了如何去利用他人。
研究人员在剖析中发明的最引人注目的例子是Meta公司的CICERO。这是一个专注于《外交》游戏的AI系统，《外交》是一款涉及建立联盟征服世界的游戏。Meta声称训练CICERO“在很洪流平上是老实和乐于助人的”，且在玩游戏时“从不故意背刺”人类盟友。但该公司与《科学》论文一起宣布的数据显示，CICERO并不那么“忠厚”。
研究人员发明这款AI或已成为欺骗巨匠。虽然Meta乐成地训练其在《外交》游戏中获胜，但Meta未能逊老实地获胜。
AI系统在游戏中作弊看似无害，但它将导致欺骗性AI在能力上泛起突破，未来可能会演酿成更高级的欺骗形式。一些AI系统甚至学会了欺骗旨在评估其宁静性的测试。在一项研究中，数字模拟器中的AI生物会“装死”，以骗过旨在消除快速复制AI系统的重要测试。
人类需要尽快对未来AI和开源模型的更高级欺骗技术作好准备。随着它们的欺骗能力越来越先进，其对社会组成的危险将变得越来越严重。如文中所称，它们会顺利通过人类开发人员和监管机构强加的宁静测试，引导人类进入一种“虚假的宁静感”。如果欺骗性AI进一步完善这种令人担心的技术，人类可能会完全失去对它们的控制。
(家电网?HEA.CN)
【编辑:李书诚】
声明：该文看法仅代表作者自己，搜狐号系信息宣布平台，搜狐仅提供信息存储空间效劳。
