AI需要拴上“缰绳”吗？关于机器控制的思考
深入探讨人工智能控制议题：如何确保机器为人类利益服务，保障AI安全与伦理治理，建立可靠的算法责任框架。
人工智能如今已成为我们生活中持续存在的力量，常常悄无声息却日益渗透。从智能手机为我们提供的建议，到由复杂算法辅助的医疗诊断，从自动驾驶汽车到管理关键基础设施的系统，智能机器正在编织一张紧密的网络，包裹着我们的日常生活。这种无处不在的现象引发了一个根本性问题，一个远超单纯技术好奇的疑问：谁真正掌控着这股不可阻挡的力量？谁在驾驭这些塑造我们当下、并极有可能定义我们未来的人工智能？
谁真正掌控着人工智能？
这个问题的答案既不简单也不唯一。起初，我们可能会倾向于指向开发者，那些设计和编程这些复杂系统的工程师。诚然，他们的技术专长对于创造人工智能是不可或缺的。正如我们在关于人工智能究竟是什么的文章中所深入探讨的，是他们编写代码行，用海量数据喂养算法，定义让机器能够学习和进化的神经架构。
然而，一旦一个人工智能系统被发布到世界上，控制的动态就变得微妙和复杂得多。
算法偏见问题：当人工智能继承我们的偏见时
例如，想想那些驱动聊天机器人和虚拟助手的大型语言模型。它们是在来自互联网的海量文本和代码上进行训练的，这是一个真正的、包含异构且通常未经筛选信息的宝库。在这个机器学习过程中，算法识别模式、建立联系并发展出自己对语言的"理解"。但这种理解不可避免地受到其训练数据的影响。
如果这些数据包含扭曲、隐含或明确的偏见，人工智能模型可能会复制甚至放大它们。正如这篇关于算法偏见的文章所强调的，这种现象对人工智能的控制构成了一个关键挑战。这并非程序员的恶意意图，而是从有缺陷的数据中学习过程所固有的陷阱。
数据偏见问题在面部识别或司法、信贷领域使用的风险评估系统等敏感领域尤为棘手。如果训练数据不能代表所有人群，算法可能会因种族、性别或其他受保护特征而表现出显著不同的性能，导致完全无意但同样有害的算法歧视形式。Fondazione Patrizio Paoletti 和 Agenda Digitale
一个典型的例子是COMPAS算法，它被用于美国一些司法系统来预测被告的再犯概率。COMPAS的问题在于，该软件存在严重偏见，导致对黑人违规者的再犯误报率（约45%）是白人被告（系统记录为23%）的两倍。算法偏见：人工智能也陷入偏见
大型科技公司的角色
另一个需要考虑的关键方面是开发和实施人工智能的公司与组织所扮演的角色。正是它们定义了目标、选择了训练数据、决定了这些技术将如何以及在何处被使用。市场逻辑、经济利益和企业战略在塑造人工智能的发展和传播中起着决定性作用。
正如我们在关于人工智能与监控的深度探讨中所讨论的，这种权力的集中引发了关于人工智能系统透明度和问责制的重要问题。我们如何确保日益复杂的算法做出的决策是公正、合乎道德且符合民主价值观的？当人工智能系统犯错或造成损害时，谁应负责？
"黑箱"挑战
许多人工智能模型固有的复杂性——即所谓的"黑箱"，其内部运作机制即使对专家而言也难以解读——使得归责和有效监管变得更加困难。这种算法不透明性是人工智能伦理中的核心议题之一，其中透明度和可理解性已成为负责任技术的基本要求。
监管框架：走向规范控制
人工智能控制问题不仅关乎开发者或大型科技公司。这是一项挑战整个社会的议题，并已促使全球立法者通过日益结构化的监管框架进行干预。
欧盟《人工智能法案》：监管模式的典范
《人工智能法案》（欧盟法规 2024/1689）是全球首个全面的人工智能法律框架。该法规旨在欧洲推广可信赖的人工智能。人工智能法案 | 塑造欧洲数字未来 这项立法工具为人工智能开发者和部署者针对特定人工智能用途，建立了一套清晰的风险分级规则体系。
自2025年2月2日起，《人工智能法案》中关于具有不可接受风险的系统以及数字素养的条款已生效。《人工智能法案》：高风险系统与培训条款于2月2日生效 这项欧洲法规通过基于风险的方法——从完全禁止的系统到需接受严格审查的系统——代表了"给人工智能套上缰绳"的具体尝试。
处罚与责任
这种监管控制的有效性也建立在具有威慑力的处罚体系之上。根据违规类型的不同，罚款金额可从750万欧元或全球年营业额的1.5%，到3500万欧元或全球年营业额的7%不等。什么是欧盟《人工智能法案》？ | IBM
自律与透明度倡议
在监管努力的同时，行业和科学界也出现了自我监管倡议。人工智能伙伴关系（PAI）是一个独立的501(c)(3)非营利组织，最初由科技公司代表、民间社会组织和学术机构组成的联盟建立，并得到苹果、亚马逊、Meta、谷歌/DeepMind、IBM和微软多年期资助的支持。Partnership on AIWikipedia
PAI通过邀请整个AI社区及其他领域的声音分享见解，开发工具、建议和其他资源，这些见解可以被综合成可执行的指南。然后，它致力于在实践中推广采用，为公共政策提供信息，并增进公众理解。About – Partnership on AI
当前的控制挑战
发展速度 vs. 控制能力
AI控制的主要问题之一是技术发展与理解和监管能力之间的时间差。正如我们在关于ChatGPT与沟通的未来的文章中所强调的，AI系统的进化以惊人的速度进行，常常超越机构调整监管和控制框架的能力。
AI的全球化
AI发展的全球性给控制带来了进一步的挑战。当欧洲制定《人工智能法案》时，其他国家和地区采取了不同的方法，造成了潜在的监管冲突，并为科技公司提供了"监管套利"的机会。
迈向更有效的控制
投资于可解释AI
投资于"可解释"和"透明"AI的研究与开发至关重要，这类系统的决策过程不应是深不可测的谜团，而应能被理解和验证。只有通过更高的可理解性，我们才能实施更有效的控制，并建立对这些技术的坚实信任。
教育与公众意识
正如我们在关于5个面向初学者的AI工具的文章中所强调的，推广算法责任文化至关重要，在这种文化中，AI的设计者和使用者都能意识到其潜在的伦理和社会影响。
多方利益相关者协作
如果没有有意的协调，我们可能会创造一个碎片化的格局，AI的开发者和部署者不清楚安全、负责任AI的最佳实践。New Report from Partnership on AI Aims to Advance Global Policy Alignment on AI Transparency AI治理的挑战需要政府、企业、研究者和民间社会之间的合作。
常见问题
如今谁真正控制着人工智能？
AI的控制权分布在不同的参与者之间：创建系统的开发者和科技公司、对其进行监管的政府，以及使用它们的用户。不存在一个完全控制AI的单一实体，这使得治理变得尤为复杂。
欧盟的《人工智能法案》足以控制AI吗？
《人工智能法案》是重要但非决定性的一步。它是世界上第一个全面的监管框架，但其有效性将取决于实施情况和未来的技术发展。它可能成为其他全球性法规的范本。
我们如何防止人工智能中的偏见？
预防偏见需要多维度的方法：更具代表性的训练数据、多元化的开发团队、严格的测试，以及用于持续监控生产系统的工具。算法的透明度至关重要。
如果AI系统造成损害会怎样？
责任归属因司法管辖区和系统类型而异。欧盟的《人工智能法案》为AI系统的提供者和部署者规定了具体的责任，罚款最高可达全球年营业额的7%。
有可能对AI实现完全控制吗？
完全控制很可能无法实现，甚至可能并不可取，因为它可能会扼杀创新。目标应该是实现一种平衡安全、伦理和技术进步的有效控制。
结论：微妙的平衡
人工智能的力量毋庸置疑，其改善我们生活的潜力是巨大的。然而，这种力量伴随着巨大的责任。关于谁控制智能机器的问题，不仅是一个技术问题，更是一项定义我们想要构建何种未来的伦理、社会和政治挑战。
答案既不在于完全束缚人工智能，也不在于任其不受控制地发展。正如《人工智能法案》等监管倡议以及"人工智能伙伴关系"等合作所表明的那样，最佳路径似乎是建立一个分布式、透明且适应性的控制体系，让社会的所有利益相关者都参与其中。
确保这种力量以负责任、透明的方式行使，并为公共利益服务，是全人类一项紧迫且不可或缺的任务。这并非要束缚进步，而是要以智慧和远见引导它，同时牢牢将人类基本价值观的罗盘掌握在我们自己手中。
人工智能控制的挑战将随着技术本身的发展而不断演变。不变的是，我们需要保持警惕、持续对话并共同努力，以确保人工智能始终是服务于人类的工具，而非相反。