视频 | 部分人工智能系统已擅长“说谎”

人工智能系统是否会欺骗人类，一直是各方都关心的问题。最近，美国麻省理工学院一个研究团队称，部分人工智能系统已经学会如何欺骗人类，其中包括部分号称已被训练成“乐于助人”、“诚实”的系统。

研究人员发现的最引人注目的人工智能系统欺骗例子是元宇宙平台公司的“西塞罗”人工智能系统，它被设计在一个虚拟外交战略游戏中作为人类玩家的对手。尽管元宇宙平台公司声称，该系统是诚实的，在玩游戏时“从不故意背刺”它的人类盟友，但论文数据却显示，事实上，这个系统并没有公平地玩游戏，而它也不是唯一在游戏中作弊的人工智能系统。

研究人员表示，虽然人工智能作弊，看似无害，但它可能会导致“欺骗性人工智能能力的突破”，在未来或将演变成更高级的人工智能欺骗形式。