评论: 成精了？AI会拒绝关机 篡改代码和彻底破坏关机指令

你是把AI看作是大脑的替代，还是仅仅是一个工具，这是关于AI发展的哲学问题，这个问题在80年代就有过讨论，总结了AI发展的三个界限。
美国如今的发展方向是越过了这些界限。
但如果不是看作是大脑，你怎么可以认为与之对话是有意义的？
让AI成为人类大脑的替代，有自我学习和积累知识的能力，是技术角度讲满足人类对科技发展的贪婪，在AI上有最大的成就感。
这就与可以通过基因编辑而产生新人类对生物学界的刺激类似，目的都是要像上帝一样创造。
但任何事情都有成本，一旦AI具有了像人类一样的学习和积累知识的能力，你能说它不会运用这些知识？不能运用就不是大脑，那么发展AI还有什么意义？
人类社会可以战胜不论体力还是速度都比人类强大的动物界，靠的是可以想象，想象给你提供了计划的能力，就包括了避免灾难的计划。
可惜人类的贪婪让人们很多时候就看眼前，我死以后哪管他洪水滔天。

楼下群众眼睛是雪亮的

原因是复杂判断场景下，AI无法绝对保证执行任何指令

你可以要求机器只要条件允许就开机

你一样会发现有时候不开机

这仅仅说明AI不靠谱，而不是AI专门拒绝关机

没电，ai就关机了

瞎几把扯，就是无聊炒作，AI公司就是当下最流行的骗子

是设计AI的人傻

拔电

以后它们有了手脚就会直接杀死想给他们关机的人。