以道德方式训练人工智能

在人工智能领域，最大的挑战之一是开发不仅智能，而且其行为符合人类道德规范和价值观的人工智能系统。一种方法是利用法典和判例法作为基础来训练人工智能。本文探讨了这种方法，并研究了其他策略，以创建具有类人规范和价值观的人工智能。我曾代表荷兰人工智能联盟，在我们受司法和安全部委托撰写的一份战略文件中，向该部门提出了这一建议。

使用 GAN 来识别差距

生成对抗网络（GAN）可作为发现立法漏洞的工具。通过生成超出现有法律范围的场景，GAN 可以揭示潜在的伦理困境或未解决的情况。这使开发人员能够识别并解决这些差距，从而使人工智能拥有更完整的伦理数据集供其学习。当然，我们也需要律师、法官、政治家和伦理学家来完善模型。

道德训练人工智能的可能性与局限性 

尽管基于立法进行训练提供了一个坚实的基础，但仍有一些重要的注意事项：

1. 规范和价值观的有限体现 法律并未涵盖人类伦理的所有方面。许多规范和价值观是文化决定的，并未记录在官方文件中。仅基于立法训练的人工智能可能会错过这些微妙但至关重要的方面。
2. 解释与背景 法律文本通常很复杂，并且容易产生不同的解释。如果没有理解上下文的人类能力，人工智能在以合乎伦理的方式将法律应用于特定情况时可能会遇到困难。
3. 伦理思维的动态性 社会规范和价值观在不断演变。今天可以接受的做法，明天可能被认为是不道德的。因此，人工智能必须具有灵活性和适应性，以应对这些变化。
4. 伦理与合法性 重要的是要认识到，并非所有合法的事情都是合乎伦理的，反之亦然。人工智能必须有能力超越法律条文，理解伦理原则的精神。

人工智能中人类规范和价值观的附加策略

要开发出真正与人类伦理产生共鸣的人工智能，需要一种更全面的方法。

1. 整合文化和社会数据

通过让人工智能接触文学、哲学、艺术和历史，系统可以更深入地了解人类状况和伦理问题的复杂性。

2. 人机互动与反馈

让伦理学、心理学和社会学等领域的专家参与培训过程，有助于完善人工智能。人类反馈可以提供细微差别，并在系统不足之处进行纠正。

3. 持续学习与适应

人工智能系统应被设计为从新信息中学习并适应不断变化的规范和价值观。这需要一种能够支持持续更新和再训练的基础设施。

4. 透明度和可解释性

人工智能决策必须是透明和可解释的，这一点至关重要。这不仅有助于建立用户的信任，也使开发人员能够在必要时评估伦理考量并调整系统。

结论

以法典和判例法为基础训练人工智能是朝着开发具有人类规范和价值观理解的系统迈出的有价值的一步。然而，要创造出在行为上真正符合人类道德的人工智能，需要采取多学科方法。通过将立法与文化、社会和伦理见解相结合，并将人类专业知识融入培训过程，我们可以开发出不仅智能，而且明智和富有同情心的人工智能系统。让我们看看 未来 能带来什么

附加资源：

• AI的伦理原则和（现有或缺失的）法律法规。 本文讨论了人工智能系统为实现可靠性必须满足的伦理要求。 数据与社会
• AI治理解析：概述人工智能治理如何助力组织内部AI的合乎伦理和负责任的实施。 人员培训 
• 负责任AI的三大支柱：如何遵守欧洲AI法案。 本文探讨了根据新的欧洲法规，伦理AI应用的核心原则。 Emerce
• 培养伦理负责的AI研究人员：一个案例研究。 一项关于培养具有伦理责任感的AI研究人员的学术研究。 ArXiv