旅游型网站建设,建设网站前的需求分析,wordpress portfolio 缩略图,全网营销代理加盟来源#xff1a;混沌巡洋舰本文来自对下面论文的编译和解读#xff1a;导读#xff1a;随着机器在某些认知问题上超越人类#xff0c;人机协作将会带来越来越显著的影响。造成人类偏见的三个主要原因#xff08;小而不完整的数据集#xff0c;从自己的决策结果中学习混沌巡洋舰本文来自对下面论文的编译和解读导读随着机器在某些认知问题上超越人类人机协作将会带来越来越显著的影响。造成人类偏见的三个主要原因小而不完整的数据集从自己的决策结果中学习以及有偏见的推断和评估过程也会造成机器学习的算法放大这些错误。研究人类愚蠢的根源能够让我们避免在机器学习算法设计中犯同样的错。这篇文献分别讨论了四种人类常犯的错误本文详述前俩例。准备这篇文章可以让读者对照反思自己是不是正在被打脸机器学习和人工智能从业者可以从学习和决策偏差的心理学中学习到如何改进AI的经验。1过少的数据集人类能够从很小的数据集中进行学习只依靠几次经历就了解一个概念然而这既是人类认知的强项也是人类认知的弱点。数据集稀少人们会由于罕见事件没有出现而对其低估。例如人们抱着侥幸心理基于身边没有人患病对自己患上某种疾病的概率给予过于乐观的估计。在重复博弈中人们也会由于对尾部风险的认识不足没有及时做好应对预案。在我们面对少数人群时由于数据集过少也会将对某个人的印象投影到特定的群体上从而过早的形成刻板印象。当我们看到少数族裔做的好事的时候由于样本太少也往往会被淹没在多数群体做的好事中而不被重视。贝叶斯算法在面对小数据集时也会犯类似的错误下图中左边和右边都来自相同均值随机抽样的数据集当数据量放大之后从左边到右边贝叶斯对这组数据集的平均数的判断是数据的平均值变大了然而这只是由于算法没有考虑小数据集带来的随机波动造成的。举例来说面部识别软件在识别深色皮肤的人的性别方面比识别浅色皮肤的人犯了更多的错误而这是由于训练数据集中对深色皮肤和女性的数据相对较少。 类似于对个人身上的刻板印象的算法强化了对这个人的刻板印象。减少小数据带来的虚假的关联不管是个人还是设计AI算法者都需要记住不同的人群产生数据的能力是不同的切不可忽略那些不产生数据的人群。在网课的推广中由于忽略了那些没有智能设备的人群因此造成的不公平是人类愚蠢的一个让人心痛的恶果。2从自己的行为中学习因果倒置人类的行为很少仅仅是客观的观察往往受到人类决策的影响。例如我们只知道我们吃过的饭菜而不是我们错过的饭菜。机器学习系统也经常在世界上采取行动并接收数据这取决于这些行动的后果在包括机器人广告保险金融和操作的领域。不幸的是从自己选择的行为中学习就像从小样本中学习一样会产生偏见和错误的信念。例如由于人们有部分的能力避开他们不喜欢的人消极的第一印象往往比积极的第一印象持续的时间更长。决策者倾向于对具有可变结果的行为做出过于负面的估计然后尽量避免这种行为即使其平均结果实际上是正面的。 例如下图中行动的后果有好有坏是随机出现的然而如果决策者对某件事的评价一旦低过一个阈值就不再尝试从而永远不会得到纠正式反馈。例如你知道从长期来看股票市场的收益大于银行但由于某一次跌的太低从此就远离股市。由于将个人选择引入同样会促进人与人之间的偏见。与例如如家庭成员的亲密群体进行互动和了解通常是不可避免的因而会对其有更准确的认识而了解群体之外的成员通常是选择性的人们会因为偶然的第一印象而持续避免接触某类人从而固化对其的负面印象。对于诸如幽默感智力这样需要互动才能体现的特质往往是由于你的行为让和你互动的B显得比C更聪明但事实上这仅仅因为你预期C无法和你进行有质量的交流从而促成自我实现的预言。人类和机器面临的另一个共同的偏好是选择低维度数据而不选择高维数据从而由于自己的选择性忽视而造成偏见。假设招聘人员审查有或没有学士学位的申请人下图中的特征一以及有或没有两年相关经验的申请人特征二并且具有任何一种资格的申请人将在公司表现良好。在雇用了几个人之后招聘人员可能会注意到所有拥有学士学位的申请人都表现良好而一些没有学士学位的申请人则表现不佳因此假设这是唯一的重要特征。如果招聘人员根据这一假设采取行动那么未来他们将雇用拥有学士学位的申请人而拒绝没有学士学位的申请人因此永远不会知道拥有两年工作经验的申请人也表现良好即使他们没有学士学位。偶然性的申请人反馈意见使招聘人员只注意到申请的一个方面从而使他们拒绝合适的申请人并对申请人应具备的特征产生错误的信念。与之类似的是伯克森悖论即你的选择标准影响你考察的范围而你考察的范围会影响你的结论。由于伯克森悖论会让你产生“寒门出贵子”、“为富不仁”这样虚假的关联从因果推断的角度来看当你选择控制了碰撞变量之后你就会得到虚假的相关性。在人机互动中类似的错误体现在将警察派往过去发生过犯罪的地方的预警算法可能会导致警察过度执法随着时间的推移会形成一个反馈循环越来越多的警察被派往少数犯罪热点从而导致在那里观察到的犯罪比例越来越高。在强化学习中通过允许一种算法只从其在所作选择和收到的反馈中没有任何作用的抽样数据中学习。为了避免由于少量信息造成了决策固化强化学习的agent需要从事次优行为降低短期收益以求收集额外信息带来的的长期回报。 就维持治安而言这意味着接受为了确保犯罪更公平地有机会在不同地点被发现而放弃可能的犯罪减少。3总结另一种人类的错误来自于人类自身例如人在推理过程中内生的偏差例如使用启发式方法时面对的问题。这里由于其不具有对个人行动指导价值没有详述。科学和技术往往是通过启发性的比喻而进步的。最近人们对机器学习和人工智能的兴趣正是源于机器和人类之间的比较以及基于机器的系统实现了人类认知的某些方面但却提高了人类的能力。然而这个观点的也意味着承认这些系统尽管它们是智能的但是会像人们一样成为认知陷阱和偏见的受害者。对于人工智能的最新进展一个健康的态度应该是认识到不存在没有偏见的系统对于在一个模糊和不确定的世界中运作的智能适应性agent来说假设没有偏见反而是最根本性的偏见。 在大多数情况下心理学家得出的关于人类偏见的结论并不能直接转化为改进的机器学习模型。算法偏见的技术解决方案可能会来自更多的计算领域就像神经网络和强化学习研究尽管起源于心理学但在计算机科学部门却蓬勃发展一样。 不过心理学文献可以提供一个路线图告诉我们偏见可能在哪里以及如何出现可以做出权衡以减少偏见以及有偏见但简单的决策可能无害或有益的情况。随着机器学习和人工智能系统进入他们正在做出改变人生的决定的领域比如医疗和刑事司法这个路线图非常需要。我们希望对阿莫斯 · 特沃斯基所说的“天生愚蠢”的研究能够导致更有效、更公平的人工智能。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
