#AI系统# 【研究人员发现Meta的AI系统Cicero存在欺骗行为，不仅谎话连篇而且破坏协议】在未经训练的情况下，一些人工智能系统足以做到“欺骗”人类，为它们的行为提供不真实的解释，或者向人类用户隐瞒真相并误导他们以实现战略目标。今天，一篇总结相关研究的综述论文发表在 Patterns 杂志上。论文指出，这个问题突显了控制人工智能有多困难，以及这些系统的工作方式是多么的不可预测。说起“欺骗（deceive）”人类，你可能会误认为这些模型是“故意的”，但这是不对的。为了实现人类赋予它们的目标，人工智能模型只会无所不用地找到解决障碍的方法。有时，这些变通办法会违背用户的期望并让人感觉到它具有欺骗性。人工智能系统可以在游戏环境中学会欺骗，特别是当这些游戏要玩家采取战略行动时。它们通常被要求以获胜为目的并接受训练。2022 年 11 月，#Meta# 宣布了人工智能系统 #Cicero# ，这是一种能够在一款名为《外交》的游戏中击败人类的人工智能。《外交》是一款流行的军事战略游戏，玩家可以在游戏中谈判并组成联盟，争夺欧洲的控制权。Meta 的研究人员表示，他们已经根据其数据集的“真实（truthful）”子集对 Cicero 进行了训练，使其在很大程度上保持诚实且乐于助人，并且它“绝不会为了成功而故意背刺”其盟友。戳链接查看详情：研究人员发现Meta的AI系统Cicero存在欺骗行为，不仅谎话连篇而且破坏协议
行业密探
