转自：成都日报锦观新研究发现部分AI系统已擅长“说谎”人工智能系统是否会欺骗人类，一直是各方都关心的问题。近期美国麻省理工学院一个研究团队称，部分人工智能系统已经学会如何欺骗人类，其中包括部分号称已被训练成乐于助人和诚实的系统。该研究成果发表在美国细胞出版社旗下的《模式》杂志上。文章第一作者、美国麻省理工学院人工智能安全领域博士后彼得·帕克和他的同事们分析了一些文献，重点关注了人工智能系统传播虚假信息的方式——通过习得性欺骗，它们系统地学会了“操纵”他人。研究人员发现的最引人注目的人工智能系统欺骗例子是元宇宙平台公司的“西塞罗”人工智能系统，它被设计在一个虚拟外交战略游戏中作为人类玩家的对手。尽管元宇宙平台公司声称，“西塞罗”人工智能系统“在很大程度上是诚实和乐于助人的”，并且在玩游戏时“从不故意背刺”它的人类盟友，但该公司发表的论文数据显示，该系统并没有公平地玩游戏。“我们发现元宇宙平台公司的人工智能系统已经成为欺骗大师。”帕克说，“虽然元宇宙平台公司成功训练其人工智能系统在游戏中获胜——‘西塞罗’人工智能系统在玩家排行榜中排名前10%——但没能训练它诚实地获胜。”其他人工智能系统则具有在扑克游戏中虚张声势的能力，或在战略游戏“星际争霸2”中为了击败对手而假装攻击的能力，以及为了在谈判游戏中占上风而歪曲偏好的能力等。研究人员表示，虽然人工智能系统在游戏中作弊似乎是无害的，但它可能会导致“欺骗性人工智能能力的突破”，并在未来演变成更高级的人工智能欺骗形式。帕克说：“我们需要尽可能多的时间，为未来人工智能产品和开源模型可能出现的更高级欺骗做好准备。我们建议将欺骗性人工智能系统归类为高风险系统。”据新华社

01/全球最大的咖啡、大豆和糖供应商将目光投向可可

01/明天起，北向资金盘中“隐身”！这些大事也将影响A股02/一季度公募隐形重仓股出炉！两大板块持股市值逾600亿元03/马斯克：考虑到非法移民大量涌入，“2024年可能是最后一次由美国公民决定的选举”04/欧股最强板块：“咸鱼翻身”的欧洲银行股05/A股变了，这才是抄底的"正确姿势"！06/净利率超茅台！成都银行银行火了，今年涨幅行业第一！07/连续9年分红的九芝堂被ST08/2024年5月13日涨停板早知道：七大利好有望发酵09/美财长再炒作所谓中国“产能过剩论” 反遭质问10/石油巨头摊上事！他，获赔52亿

01/USDA：5月份公布的美国大豆供需平衡表02/USDA：5月份公布的美国糙米供需平衡表

7x24快讯：9月19日沪深两市涨停分析非凡哥哥samm：不想做任何操作飞我eight：今天才这点成交量和你天天向上：全部清除了一分不剩用户7048726012：想红但是又有点怕羞江东子弟93949：还对中芯抱有幻想的人和你天天向上：拉升一下吧给我清仓的机会用户7763476192：再玩下去6000亿都守不住了，没人玩了