谈到工业革命，人们总能看到蒸汽机、纺织厂和钢铁工人的形象。从18世纪末到19世纪初，社会正处于一个从农业到工业的时期。由于钢铁和石油的生产以及电力的出现，工业化的第二个阶段发生在第一次世界大战之后。

到了20世纪80年代，数字电子的出现对社会产生了深刻的影响--数字革命，也被称为第四次工业革命。与前几次一样，工业革命以技术探索为中心--第四次工业革命，主要是人工智能、机器自动化和物联网。但现在的焦点已经转移到技术如何影响社会和人类相互沟通和联系的能力上。

在第一次工业革命中，我们用蒸汽代替了人力；在第二次工业革命中，电力取代了蒸汽；在第三次工业革命期间，我们发明了计算机。"我们有可控的智能系统，但是"人类大脑皮层学习系统"的技术还很缺乏，这也是现阶段人工智能的技术变革。现在，我们需要批判性地思考人工智能的未来，例如：人工智能的发展将给人类生活带来什么样的影响，将面临什么样的机遇和挑战。

人工智能的出现

澳大利亚国立大学工程和计算机科学教授吉纳维耶贝尔(GenevieveBell)在一次校内新闻发布会上表示，"人工智能这个词早在1956年就被发明出来了。

值得一提的是，近年来人工智能作为计算机科学的一个分支，在活跃的研究人员的帮助下，一台充满智慧和灵性的机器即将诞生，但并不是那么快，因为它真的很难，它可以完成人类无法完成的所有操作。

今天，支持技术已经成熟，人工智能已经变得可行和有影响力，同时它的普及也带来了社会道德的困境。在人工智能的影响方面，问题和关注源源不断，这种技术对人类、我们的系统、我们的处境、我们的组织和我们的国家意味着什么？

人工智能的观察者认为，当规划人工智能的未来时，社会应该先冷静下来，问一些实际的问题。然后贝尔开始分析它的研究：

真正的自主？

没有关于"什么是真正的人工智能自主"的明确定义。如果我们把‘自主’作为一个基准，我们最终将提高自治水平，肯定会有一些地区能够做到这一点。"他将可控部分与海上船只进行比较，以探索不同的自主大陆。

2018年10月，贝尔教授在旧金山的一次演讲中说："当我说‘自主’时，你会想到知觉、意识和自我觉醒。"如果你读科幻小说，你就会知道接下来会发生什么。

事实上，系统可以在无意识和无意识中独立运行。"Autonomy"只是指您可以直接运行，而无需直接设置规则或程序。

这就引出了社会伦理和道德问题。拥有一个自动化系统有什么意义？我们会有什么感觉？这意味着什么？

安全保障与控制

目前，我们只能最初引导和控制人工智能领导系统，但现在我们必须客观地考虑。贝尔和其他观察人士认为，我们确实需要控制自主，制定一套准则，以充分发挥人工智能的优势，但社会不能因为公司可能对其负责而放弃这样一种有用的技术。

以无人驾驶为例，它的核心也是自动化技术，这种设置更方便合理的规划时间，能够更快地得到反馈。但并不是所有的情况都适用，也有例外。正如焦雷特所说，我们如何管理和控制人工智能能够和应该做什么？我们需要给予人工智能自我控制，就像我们可以控制我们的行为一样。这需要对"行为"代码进行一些分类，以及一些"人类"人工智能的原则。

那么，当规则被改写时会发生什么呢？"贝尔教授引用了这样的话："在非常短的时间内，我怎样才能让一辆消防车在公路上行驶？"就是一个例子。这样，这些规则将如何跨越国界，跨越国家，跨越文化？

实际问题

风险、义务、信誉、隐私、道德和管理能力等法律问题同样重要。当人工智能系统仍然是自动化领域的核心时，必须对它们进行管理、控制、调整，甚至确保它们成为社会的一部分。面对可接受和可接受的风险，我们必须采取良好的保障措施。我们应该问哪些保险公司"能够为人工智能的潜在风险提供保险？

人工智能系统的安全性在"自动驾驶仪"方面得到了详细考虑。微米技术半导体制造商主管SumitSadana认为，随着安全自动驾驶汽车的生产，人们开始对技术产生信心。同样，随着时间的推移，人们在航空航天领域也会有这样的信心。

数据的发展导致了人工智能的成长和进化，人工智能系统的功能在各个领域都将发挥更大的作用。在信息输出的各种条件下，如何区分好坏？现在我们为人工智能和机器建立的学习方法不支持自我检查，它们无法判断自己的行为，因此我们的重点必须从"如何设计"转向"为什么要设计"。