以道德方式训练人工智能

在人工智能领域，最大的挑战之一是开发不仅智能，而且其行为符合人类道德规范和价值观的AI系统。一种方法是利用法典和判例法作为基础来训练AI。本文探讨了这种方法，并研究了其他策略，以创建具有类人规范和价值观的AI。我曾代表荷兰AI联盟在一份受该部委托撰写的战略文件中向司法和安全部提出了这一建议。

使用GAN识别空白点

生成对抗网络（GAN）可以作为发现立法空白的工具。通过生成超出现有法律范围的场景，GAN可以揭示潜在的伦理困境或未解决的情况。这使得开发人员能够识别并解决这些空白，从而使AI拥有更完整的伦理数据集供其学习。当然，我们也需要律师、法官、政治家和伦理学家来完善模型。

道德训练AI的可能性与局限性 

尽管基于立法进行训练提供了一个坚实起点，但仍有一些关键的考虑因素：

1. 规范和价值观的有限体现 法律并未涵盖人类伦理的所有方面。许多规范和价值观是文化决定的，并未记录在官方文件中。仅基于立法训练的AI可能会错过这些微妙但至关重要的方面。
2. 解释与背景 法律文本通常很复杂，并且容易产生不同的解释。如果没有理解上下文的人类能力，AI可能难以以合乎伦理的方式将法律应用于特定情况。
3. 伦理思维的动态性 社会规范和价值观在不断演变。今天可以接受的做法，明天可能被视为不道德。因此，AI必须具备灵活性和适应性，以应对这些变化。
4. 伦理与合法性 重要的是要认识到，并非所有合法的事情都是合乎伦理的，反之亦然。AI必须有能力超越法律条文，理解伦理原则的精神。

关于AI中人类规范和价值观的附加策略

要开发出真正与人类伦理产生共鸣的AI，需要一种更全面的方法。

1. 整合文化和社会数据

通过让AI接触文学、哲学、艺术和历史，系统可以更深入地了解人类状况和伦理问题的复杂性。

2. 人机互动与反馈

让伦理学、心理学和社会学专家参与培训过程，有助于完善AI。人类反馈可以提供细微差别，并在系统不足之处进行纠正。

3. 持续学习与适应

AI系统应被设计为从新信息中学习并适应不断变化的规范和价值观。这需要一个支持持续更新和再训练的基础设施。

4. 透明度与可解释性

AI决策必须是透明和可解释的，这一点至关重要。这不仅有助于建立用户的信任，也使开发人员能够评估伦理考量并在必要时调整系统。

结论

基于法典和判例法训练AI是朝着开发具有人类规范和价值观理解的系统迈出的有价值的一步。然而，要创造出在行为上真正符合人类伦理的AI，需要一种多学科的方法。通过将立法与文化、社会和伦理见解相结合，并将人类专业知识融入培训过程，我们可以开发出不仅智能，而且明智和富有同情心的AI系统。让我们看看 未来 能带来什么

附加资源：

• AI的伦理原则和（现有或缺失的）法律法规。 本文讨论了AI系统为实现可靠性必须满足的伦理要求。 数据与社会
• AI治理解析：概述人工智能治理如何助力组织内部AI的合乎伦理和负责任的实施。 人员培训 
• 负责任AI的三大支柱：如何遵守欧洲AI法案。 本文探讨了根据新的欧洲法规，伦理AI应用的核心原则。 Emerce
• 培养伦理负责的AI研究人员：一个案例研究。 一项关于培养具有伦理责任感的AI研究人员的学术研究。 ArXiv