机器学习中的基本方法与伦理考量

8.1 创建人工智能的主要方法

人工智能可以通过多种方法构建。不同方法强调不同的知识表示方式、学习机制和系统行为。现代 AI 往往不是单一技术，而是多种方法的组合。

8.1.1 符号编程与专家系统

符号编程是人工智能最早的重要方法之一。它基于明确的符号、规则和逻辑推理。系统通过预先编码的知识库和推理规则处理任务。如果系统拥有足够完整且正确的规则，就可以对特定问题给出解释性较强的答案。

专家系统是符号 AI 的典型代表。它们把某个领域专家的知识表示为规则，例如“如果条件 A 成立，则采取结论 B”。专家系统曾在医学诊断、工程故障分析和决策支持中发挥作用。其优点是结构清晰、推理过程可解释；缺点是知识获取困难，规则维护成本高，对不确定或快速变化环境的适应性有限。

符号方法适合知识明确、规则稳定、逻辑关系清楚的问题。但在感知任务、自然语言理解以及高维复杂数据场景中，单纯符号方法往往不够灵活。

8.1.2 基于机器学习的方法

机器学习方法不再主要依赖人工写入规则，而是让系统从数据中发现规律。模型使用训练数据调整参数，从而在新数据上进行预测或分类。

监督学习使用带标签的数据训练模型，适用于分类和回归任务。无监督学习处理无标签数据，用于聚类、降维和结构发现。半监督学习结合少量标签数据和大量无标签数据。强化学习则通过智能体与环境交互，在奖励信号指导下学习行动策略。

基于机器学习的方法适合规则难以手工描述但数据可获得的问题。它们能在图像识别、语音处理、推荐系统、金融预测、医学辅助诊断等领域发挥作用。不过，模型性能强烈依赖数据质量、特征表示和训练过程，也可能出现过拟合、偏差和可解释性不足等问题。

8.1.3 基于深度学习的方法

深度学习是机器学习的重要分支，主要使用多层神经网络自动学习数据表示。与传统机器学习相比，深度学习能够从原始数据中逐层提取特征，减少对人工特征工程的依赖。

卷积神经网络在图像和视觉任务中表现突出；循环神经网络及其变体曾广泛用于序列数据；Transformer 等结构推动了自然语言处理和多模态模型的发展。深度学习的优势在于能够处理大规模、高维、复杂数据；局限在于需要大量数据和计算资源，训练过程较复杂，可解释性也较弱。

8.1.4 演化算法与遗传编程

演化算法受生物进化思想启发，通过选择、交叉、变异等机制在候选解空间中搜索较优解。遗传算法、遗传编程和进化策略都属于这一类方法。

在遗传编程中，候选解可以是程序、表达式或规则集合。算法评估每个候选解的适应度，保留表现较好的个体，并生成新一代候选解。经过多代迭代，系统可能找到较优结构。

这类方法适用于目标函数复杂、梯度信息不可用或搜索空间不规则的问题。缺点是计算代价可能较高，收敛速度不稳定，结果也可能难以解释。

8.1.5 强化学习与智能体学习

强化学习研究智能体如何通过与环境交互学习行为策略。智能体在某一状态下采取动作，环境给出新状态和奖励。学习目标是最大化长期累积奖励。

强化学习适合序列决策问题，例如机器人控制、游戏 AI、资源调度和自动驾驶。与监督学习不同，强化学习通常没有每一步的正确答案，而是通过试错逐渐改进行为。

智能体学习强调系统在环境中的自主性、感知能力、行动能力和目标导向行为。实际应用中，强化学习需要处理探索与利用的平衡、奖励设计、样本效率和安全性等问题。

8.1.6 混合系统：不同方法的组合

混合系统把多种 AI 方法结合起来，以发挥各自优势。例如，可以把符号推理的可解释性与机器学习的数据适应性结合；也可以把深度学习的感知能力与强化学习的决策能力结合。

混合方法适合复杂实际任务，因为现实问题往往同时需要感知、推理、规划和学习。通过组合不同技术，可以构建更稳健、更灵活的系统。但混合系统设计也更复杂，需要处理模块之间的数据接口、误差传播和整体可解释性。

8.1.7 新古典方法与人工智能新趋势

随着人工智能发展，研究者开始重新关注符号方法、因果推理、知识图谱、可解释 AI、人机协作和可信 AI 等方向。这些趋势并不是简单回到传统 AI，而是试图把早期方法与现代机器学习能力结合起来。

新趋势还包括面向安全性、可靠性、公平性、隐私保护和伦理责任的 AI 研究。随着 AI 系统越来越多地进入社会基础设施和日常生活，仅追求准确率已经不够，还需要考虑系统是否透明、可控、可审计并符合人类价值。

8.2 为什么我们需要了解人类智能与人工智能的相似性和差异

理解人类智能与人工智能之间的相似性和差异，有助于正确设定 AI 的目标、能力边界和应用方式。人工智能并不一定需要复制人类思维的全部特征。很多情况下，我们需要的是能够高效完成特定任务的系统，而不是完全“像人”的系统。

比较二者还能帮助我们识别人类认知的局限，例如注意力有限、记忆会衰退、判断受认知偏差影响等；同时也能看到机器系统的优势，例如高速计算、可复制性和可扩展性。反过来，人类在常识、价值判断、情境理解、责任承担和创造性综合方面仍具有重要作用。

因此，了解相似性和差异不仅能帮助我们更好地理解世界，也会影响我们在技术创新时代如何构建未来。

8.2.1 我们是否需要类人通用人工智能（AGI）？

随着技术社会的发展，一个不可回避的问题出现了：我们是否需要通用人工智能，或 AGI？要回答这个问题，首先需要理解 AGI 是什么，以及它可能带来哪些优势和风险。

人工通用智能（AGI）指能够像人类心智那样，在广泛环境中自主、有效地实现复杂目标的系统。不过需要立即指出的是，许多现代 AGI 定义都以人为中心，假定人类智能是参照标准，这种前提未必充分。

首先，“类人”AGI 的概念可能存在误导。人类智能只是自然界中多种智能行为形式之一。真正紧迫的问题是：我们是否真的需要一个精确复制人脑的 AI，还是需要一种不论多么“像人”都能高效完成任务的智能？

其次，更高自主性的 AGI 应用要求我们深入理解人与机器的交互。与 AGI 协作的人类专业人员必须清楚 AI 如何“思考”和“行动”，才能实现有效合作。

另一方面，如果 AGI 能在共同目标和相互理解基础上实现真正协作，它可能为许多行业带来显著优势。例如复杂科学研究、大数据分析，或气候变化等全球问题的解决。在这些情境中，AGI 的行动可能比任何个人或专家团队都更快、更高效。

然而，风险同样必须被重视。随着 AGI 发展，这类系统可能变得高度自主，甚至在人类控制之外行动。此外，安全、隐私和伦理问题会随着 AGI 能力增强而更加突出。例如，是否应允许 AGI 做出可能涉及生命与死亡的决策？

当我们追求创造具有人类智能的系统时，往往默认人类智能是真正理性的形式。这种观念甚至体现在“人工智能”这个名称中，仿佛它相对于生物智能更不真实。我们把自己视为宇宙中最聪明的存在，认为自己能利用逻辑、经验、直觉和统计分析解决复杂任务。然而，我们也很难接受自己可能没有想象中那么聪明。随着 AI 发展，我们不断改变对“真正智能”的理解，却又常把它限制在人类能力范围内。

要理解人类智能与人工智能的差异，应考虑三个基本观点。

1. 在认知任务方面，我们可能并不像自己以为的那样聪明。那么，为什么还要如此强烈地追求人类式 AI？ 2. 智能有许多形式，通用智能不一定等同于人类水平智能。 3. 通常并不需要构建通用 AI。许多复杂任务可由多个狭义专门 AI 解决。

因此，回到最初问题：我们真的需要 AGI 吗？答案并不简单。一方面，AGI 可能带来前所未有的创新和进步；另一方面，追求“类人”AGI 不仅技术上困难，也可能引发伦理问题。因此，我们首先需要理解自己的目标。也许，与其创造“人类式”AGI，不如开发能够以人类最佳利益为目标行动、但不必在各方面复制人类的智能系统。

8.2.2 智人的智能

我们的真实智能水平如何？答案在很大程度上取决于观察角度，以及采用哪些智能标准和衡量尺度。若把人类智能与其他动物相比，我们显得非常聪明。凭借强大的学习能力，人类拥有广泛的认知能力，能够独立解决复杂问题并实现复杂目标。因此，我们可以处理算术、概念、空间、经济、社会组织、政治等多种问题。与已知动物相比，人类确实可以被视为高度智能的存在。

但也可以不只从“相对的跨物种”角度看待人类智能，而尝试用更绝对的方式衡量它。例如，把人脑作为物理系统来考察其计算能力。在 AI 研究者中，一个常见观点是：智能最终可归结为信息和计算。理论上，没有物理定律禁止构建计算能力和智能超过人脑的物理系统。这意味着机器有一天可能比我们聪明得多。相对于其他动物，人类智能很高；但在绝对意义上，它可能非常有限，尤其受到人脑大小的限制。

为了更好理解我们的生物智能，需要考察思维能力的进化。人脑作为生物神经网络，经历了超过十亿年的进化优化，成为调节基本生物功能以及执行感知和模式识别任务的高效系统。在整个进化过程中，大脑神经网络主要针对这些基本任务优化。不过，这些过程的计算复杂性很高。例如，当我们系鞋带时，身体多个感觉系统会传递数百万个信号。这些基础能力历经数百万年发展，而人类认知能力是在进化中较晚出现的。人类近期的认知成就建立在用于生存的“古老”神经机制之上。因此，我们执行新型认知功能的能力仍然有限并不令人意外。这些局限表现为：

1. 我们能有意识处理的认知信息量有限。 2. 许多认知任务，如阅读或计算，需要我们投入完整注意力。 3. 虽然我们能并行处理大量信息，但不能同时执行需要深度思考的认知任务。 4. 后天获得的认知知识和技能衰退速度，通常比感知—运动技能更快。

处理认知任务能力有限并不是决定人类认知智能的唯一因素。人类认知信息处理还会表现出系统性偏差，即认知偏差。

认知偏差是扭曲信息处理过程的系统性倾向，使处理结果不准确或错误。许多偏差在不同决策情境中表现相似。目前已有超过 200 种认知偏差被描述。多数偏差是无意识的，并且看起来很自然，因此常被称为“直觉的”或“非理性的”。然而，这类扭曲思维可能导致较差的决策。

这些偏差主要与大脑作为神经网络的性质有关。例如，侧抑制（被激活神经元抑制相邻神经元活动的能力）会增强神经活动差异，这对感知—运动功能有益。但概念思维、概率推理等“高级”认知功能是在进化中较晚出现的，它们建立在古老神经机制之上，因此可能导致认知信息处理中的偏差。

由于许多偏差根植于神经或进化过程，单纯通过训练或正念课程等方法，通常难以彻底消除它们。

8.2.3 人工智能与人类智能的区别

人工智能研究常带有人类中心主义视角，把人类智能视为唯一且显然正确的样板。然而，机器智能与人类智能在许多方面存在差异。

基本结构：基于碳的生物智能依赖神经性“活体硬件”，这与基于硅的人工智能根本不同。在生物系统中，新技能一旦习得，就整合进该系统本身。相反，在硅基或数字系统中，“硬件”和“软件”部分可以相对独立运行。若某个 AI 系统学会一项技能，相应算法可以被复制到所有类似数字系统中。

速度：AI 系统中的信号几乎以光速传播。人类神经冲动传播速度不超过约 120 m/s，远慢于现代计算系统。

连接性与通信机制：智人没有直接交换信息的能力。人类通信通过语言和非语言渠道实现，带宽有限。而在人工智能系统中，信息交换可以通过直接连接高效完成，使算法能够被整合起来协同工作。

可更新性与可扩展性：算法系统在更新、扩展和重新配置方面几乎没有生物系统那样的限制。它们能够保持算法解决方案和数据处理参数的实时更新。快速结构转换和即时适应性改进是人工系统的特征，并非生物对象的典型能力。

能源效率：与此同时，生物系统具有独特的能源效率。人脑神经结构表现出惊人的能效，在某些方面比现代计算设备高出多个数量级。作为说明，人脑能耗接近一只小灯泡的功率，而高性能超级计算机可能需要足以供应小型居民点的电力。

这些在基本结构、速度、连接性和其他方面的差异，导致人类智能与人工智能在性质和限制上存在显著不同。理解这些差异，对于在日常生活中成功应用和整合 AI 十分重要。