数据也有偏见！AI辅助决策有风险吗？

公众号新闻

2023-08-14 04:08

在亚马逊，有句广为流传的名言：“除了上帝外，我们只相信数据。”在人工智能技术飞速发展的时代，越来越多的企业正在基于大数据、算法模型进行智能化决策。对于管理者而言，数据是完全客观的吗？又如何在人类判断与人工智能驱动决策之间达成平衡？

来源 | 中欧商业在线

亚马逊：

用数据驱动决策

从亚马逊创立的第一天起，贝佐斯其实将公司打造成为一家技术公司，其将大数据和人工智能视为公司的核心要务。亚马逊最初的网站于1995年7月上线，用户购书时只要搜索作者、主题、书名或其他关键词信息即可。

在发展过程中，亚马逊就一直运用智能技术的力量优化向消费者进行个性化推荐的方式，以及确保在企业的仓库里，合适的商品永远有货且可以快速配送。亚马逊通过算法搜集了海量的用户数据，帮助自己改善服务，降低价格，提供多种多样的商品选择。

并且，亚马逊还非常擅长通过数据中的洞察进行创新，其中一个非常具有代表性的例子，就是 Amazon Go 这一全新的无人零售模式。Amazon Go 利用了许多前沿的技术，例如计算机视觉、深度学习以及传感器融合等，完全颠覆了传统便利店、超市的运营模式，极大的提高了门店效率, 改善了客户体验。

最近，亚马逊的系统已经可以替代高管做出许多零售决策，而且每做一次决策后，系统都会变得更加智能。每当机器做出决策时，它都会自动触发一个事后检查机制，检验所做出的决策是否正确。事后检查机制的目标就是确保下一次的决策正确无误。

如今，越来越多的企业正在学习亚马逊，通过发展自身的人工智能技术，获取海量数据，掌握用户的行为与想法，从而推荐更加个性化的产品与服务。

字节跳动：

建立在数据之上的公司

2011 年，张一鸣意识到信息传播介质已经发生了革命性的变化，手机很可能取代纸媒成为信息传播的主要载体，个性化的信息推荐需求一定会增加，于是创办了今日头条。今日头条作为一款个性化信息推荐引擎产品，离不开大数据挖掘、神经网络、自然语言理解、机器学习等人工智能技术。

在张一鸣看来，“算法是一个生命体，算法对特征规律的总结与存储是要不断训练的，而且是因人而异的，就像一个自我演化的系统。机器通过大量学习所获得的判断力，可以逼近人在某个领域的判断力。”

今日头条基于大数据，研发了一套强大的推荐算法，通过尽可能地掌握用户行为数据，并推荐极度贴合用户兴趣的个性化信息。在此之外，哪些产品应放弃，哪些产品又应继续投入资源？数据也是字节跳动进行各种决策的重要依据。

在产品打造方面，字节跳动内部用户增长团队构建了一个强大的数据监测系统，他们花费巨资够买市面上的数据，尽可能监控所有产品，用来指导研发。在字节跳动，资源流动的依据就是数据、并利用AB-test尽可能量化一切指标。

在字节跳动内部，建立了一种一切要有数据支撑和内部信息透明化的文化，并通过鼓励试错保证工作的效率，为用户带来更好的体验。

AI 时代的智能化决策

如今，企业已经积累了海量的数据，同时数据分析技术日新月异，企业管理者可以将人工智能技术纳入他们的商业分析与判断。但是如何利用AI 智能，更快、更好地进行决策成为一个重要的挑战。

在美国理海大学艾克卡全球杰出讲席教授方二看来，人的决策和智能化的机器决策之间的关系，可以从三个维度来思考：决策目标、决策的类型、决策风险。

第一个维度是决策目标。西蒙决策理论的核心概念和根本前提是决策者的“有限理性”。决策者由于在主观上受认识能力、知识、价值观等方面的限制，在客观上受时间、信息来源等方面的限制，往往不可能做出“最理想”“最优化”的决策，只能做出在当时条件下“令人满意”的决策。从这个维度来说，决策目标可以分为“最优决策”和“满意决策“。

第二个维度是决策类型。西蒙将决策分为程序化决策和非程序化决策。由于我们只有关于过去的数据，却没有未来的数据，因此机器决策的一个主要困境是易受系统性的、非连续事件的影响。因此，程序化决策时，即面对常规性、反复性的例行决策时，可以通过一套例行程序来进行决策（如对员工年度表现的考评）。

而非程序化决策是指对那些过去尚未发生过、结构很复杂或者作用十分重要，需要用现场决定的方式加以处理的决策（如重要产品项目的立项）。

第三个维度是决策风险。根据不同的风险性质，决策可以分成两类。第一类决策是指结果影响巨大、事关生死且不可逆的重大决策，比如企业的并购。第二类决策是指结果影响不大、过程可逆、可灵活调整的常规决策。比如某件商品可以随时下架。

因此，随着人工智能和大数据技术的不断发展，很多常规性的决策可以通过AI 得到优化，但是AI决策也有明显的缺点，由于过度依赖数据和规则，机器决策对于异常情况的处理十分乏力。对于那些重大决策，则需要人类进行群策群力。

同时，在设计决策机制时，需要对决策的风险类型加以区分，如果所有决策都用第一类重大决策的方法，就会导致公司行动迟缓、不敢冒险、不敢尝试，从而难以创新突破。但是如果所有决策都采用第二类常规决策的方法，那么只要在一个关键决策上犯下致命的失误，公司可能就此不复存在。企业应如何选择决策方法，可以参考下面的选择框架。

1、当决策目标是“最优”，且决策风险相对较低、决策数据丰富时，可以采用机器决策。在采用机器决策时，应由人来制定决策规则，并大胆授权。

2、 当决策目标是“满意”，且决策风险较高、决策数据较少时，则应该由人类主导决策。不过可以运用机器分析数据挖掘真相，然后由人来做最终判断。

智能化决策的另一面

当企业管理者基于大数据、算法模型进行智能化决策时，也需要注意到：经过层层上报的数据在及时性难免有滞后，在完整性、准确性方面也难免有疏漏；同时，由于人类无法做到100%无偏见，在数据的收集和使用可能会带有“偏见”。因此“喂养”给人工智能、算法模型的数据难免也带有“偏见“。

如今，“偏见”一词现已进入数据科学领域，从根本上说，“偏见”是指数据中的错误，但这种错误往往是细微或不易察觉的。“数据偏见”也是一种风险，即会影响一个人基于数据的决策，而这些数据更有利或者更不利于某一特定人群。

比如，如果管理者过度关注一组特定的数据或者问题的某一方面，就会出现”短视管理“，导致做出错误的决策。又比如，如果管理者过度依赖数据驱动的决策会导致低估人类的直觉、经验和判断。虽然数据可以提供有价值的见解，但它可能并不总是捕捉到一个情况的全部背景或复杂性，人类的判断往往是必要的，从而做出全面的、长期决策。

要减少有偏见的结果以及更好地进行决策，拥有公正无偏见的数据是必要条件。企业应当在数据生命周期的早期阶段采集更具多样化和包容性的数据集，并审查数据的质量。同时采取以下措施，提升智能化决策水平。

1、短期和长期考虑：使用数据为短期运营决策和长期战略规划提供信息，确保在当前的优先事项和未来的增长之间保持平衡。

2、考虑定性因素：用定性的见解来充实定量数据，如客户反馈、员工意见或专家意见，以获得对情况更全面的了解。

3、不断地评估和更新数据：定期评估决策中使用的数据的质量和相关性，并根据需要进行更新，以确保数据保持准确和全面。

4、将数据驱动的洞察力与人的判断相结合：将数据作为决策过程中的一种输入，同时仍然重视和吸收决策者的专业知识、直觉和判断。

5、鼓励不同的观点：培养一种开放的沟通和合作的文化，以确保在决策过程中考虑不同的观点和想法。

6、拥有更多样化的员工队伍：多元化的视角能够使管理者能够发现和审查不公平的偏见问题，获得更加全面的视角。