阅读:
原标题:新研究发现部分人工智能系统已擅长“说谎”
新华社北京5月12日电 人工智能系统是否会欺骗人类,一直是各方都关心的问题。近期美国麻省理工学院一个研究团队称,部分人工智能系统已经学会如何欺骗人类,其中包括部分号称已被训练成乐于助人和诚实的系统。该研究成果发表在美国细胞出版社旗下的《模式》杂志上。
文章第一作者、美国麻省理工学院人工智能安全领域博士后彼得·帕克和他的同事们分析了一些文献,重点关注了人工智能系统传播虚假信息的方式——通过习得性欺骗,它们系统地学会了“操纵”他人。
研究人员发现的最引人注目的人工智能系统欺骗例子是元宇宙平台公司的“西塞罗”人工智能系统,它被设计在一个虚拟外交战略游戏中作为人类玩家的对手。尽管元宇宙平台公司声称,“西塞罗”人工智能系统“在很大程度上是诚实和乐于助人的”,并且在玩游戏时“从不故意背刺”它的人类盟友,但该公司发表的论文数据显示,该系统并没有公平地玩游戏。
“我们发现元宇宙平台公司的人工智能系统已经成为欺骗大师。”帕克说,“虽然元宇宙平台公司成功训练其人工智能系统在游戏中获胜——‘西塞罗’人工智能系统在玩家排行榜中排名前10%——但没能训练它诚实地获胜。”
其他人工智能系统则具有在扑克游戏中虚张声势的能力,或在战略游戏“星际争霸2”中为了击败对手而假装攻击的能力,以及为了在谈判游戏中占上风而歪曲偏好的能力等。
研究人员表示,虽然人工智能系统在游戏中作弊似乎是无害的,但它可能会导致“欺骗性人工智能能力的突破”,并在未来演变成更高级的人工智能欺骗形式。
帕克说:“我们需要尽可能多的时间,为未来人工智能产品和开源模型可能出现的更高级欺骗做好准备。我们建议将欺骗性人工智能系统归类为高风险系统。”
[来源:新华社 编辑:孙宝震]09/07 14:27 /
这既是青岛进入“双5A”时代后的首个旅游旺季,更是青岛奥帆海洋文化旅游区在成功创建国家5A级旅游景区后迎来的首个旺季大考。
09/06 07:55 / 青岛早报
位于崂山太清游览区的“太清水月”是“崂山十二景”之首,曾被央视评选为全国十大最美赏月地之一,是享誉全国的赏月胜地。
08/22 11:24 / 青岛日报
当下,漫步于这些老街,异域风情的老建筑中分布着各有特色、风格迥异的咖啡馆、民宿、杂货店、冰激凌店等时尚业态,浓郁的人文气息和独特的欧陆风情扑面而来,形成有别于现代都市喧嚣的“慢”与“静”。
08/12 08:33 / 青岛日报
公共文化从阵地到大地。让文化融入城市的风貌,让文化增添幸福的砝码,让文化加持旅游的底蕴。城市的一刻钟公共文化圈,像身边的便利店一样可以随时“邂逅”,庸常的生活便因无数个文艺在场的理由,而变得美好生动。