1940 年,著名科幻作家阿西莫夫提出了机器人三原则。在当时还没有真正意义上的机器人时,人们就已经开始讨论未来世界将为人类服务的机器,它在设计、生产和使用过程中应该遵守的三大原则。这三大原则是在「机器人太厉害了,必定超越人类」和「未来科技无法预测,必须将危险扼杀在摇篮里」等言论环境下的产物。而有趣的是,在许多文学作品、影视作品中,机器人一定会违背这些定律;而在我们看到现实生活中的机器人,却非常符合三个原则。当年的机器人讨论只是限制在机器人这个机械身上,而没有详细地去讨论为什么这个机器人可能会伤害人类,它是如何进行工作的。现在,我们需要更深入地去讨论这机器人三大原则,并且还需要更加严谨地讨论最近几年新兴的以图像识别为代表的人工智能和能在没人监管状态下工作的自动化系统。IEEE 发布《道德伦理对齐设计》《道德伦理对齐设计》(Ethically Aligned Design),是 IEEE(电气和电子工程师协会)与 12 月 13 日发布的一份针对人工智能(AI)和自动化系统(AS)创造过程中更多地对人类道德进行考虑的专项讨论报告。IEEE 通过本报告,鼓励技术人员在开发自动化系统和智能技术的时候,优先考虑人类道德,多为人类谋福祉。人工智能与自动化系统应遵循什么样的原则?按照 IEEE 的这份报告,他们提出了针对 AI 和 AS 的三项基本原则,建议开发人员在创造过程中优先考虑,并非强制
...
继续阅读