AI输掉比赛并不可怕，可怕的是AI故意输掉比赛。
相信许多朋友在关注AlphaGo与李世石的比赛过程中也会想到类似的问题，因此会对AI产生一定的恐惧心理。事实上，这是一个非常复杂的问题，它不仅仅牵扯到计算机技术，甚至连数学家和哲学家都在思考这些问题。
我们知道，现在的AI通过硬件性能的提升而获得了更多的新技术，比如机器学习、比如认知计算，但都无法离开一个核心的算法逻辑。也就是说，即使AI能够与人进行简单的沟通，它也只是算法导致的结果，并不是根据所谓的“情感”演绎的结果，并且这种算法只是相对复杂而已，但它仍然存在边界，并且这个边界要比人类思考的边界小很多很多。
在《光环》的世界观中，几乎每个AI的终结都是因为思考过度而陷入死循环，最终导致宕机。而在真实世界中，相关的猜想也是真实存在的，这个猜想被称为“停机问题”：一台计算机或者AI，给它一套算法，让他发现这个算法属于死循环并停止。这个测试是后来图灵测试的重要依据之一，即检测计算机或者AI能否跳出自身既有的算法，进而做出与常规完全不同的决定。
然而，艾伦·图灵在1936年用对角论证法证明，不存在解决停机问题的通用算法。这也就意味着，AI目前还无法摆脱既有算法的约束，创造新的算法结构，而只能通过当前的算法吸收更多的经验，进而完善已经存在的算法结构。并且这个问题在冯·诺依曼结构中普遍存在。
冯·诺依曼结构是一种将程序指令存储器和数据存储器合并在一起的电脑设计概念结构，我们现在看到的就是这种思想结合的产物。我们知道CPU除了能够进行数据传输和处理，指令集也是必不可少的部分。因此我们需要明白的是，这些指令集都是通过算法构成的，因此在出现“停机问题”的时候，这些计算机，或者利用冯·诺依曼结构制造的AI将会永久陷入死循环。
不过这些技术上的理论和实验并不能说明一个关键问题，那就是：随着硬件的不断发展，AI的算法越来越复杂，接受的信息量也越来越大，因此通过数据的不断涌入，AI是否能够拥有自我意识，开始真正的思考？
在讨论这个问题之前，我们特别需要指出的一点是：哲学上的“人工智能”与计算机科学上的“人工智能”在概念上存在较大的出入。从哲学的角度而言，“人工智能”拥有“心灵”与“意识”，而计算机科学中的“人工智能”代表能够自主推理并解决问题的机器。
哲学教授约翰·希尔勒的“强人工智能假说”认为，如果机器的作用仅仅是转换数据，而数据本身是对事物的一种数据化的表现，那么在不理解这一编码和现实之间关系的前提下，机器将不存在对其处理的数据有任何理解能力，因此即使再多的数据涌入，也不会导致AI产生自主意识；而另一位哲学教授丹尼尔·丹尼特则持完全相反的观点，他认为人类本身也是一台拥有思想的机器，因此不能认定“普通的机器就没有思想”，他的说法或许意味着AI一开始就具备一定的自我思考能力，随着时间和数据的不断流入，AI的智能将会越来越发达。
这个问题到现在仍在争论不休，因此我们并不能够盲目地对未来的AI是否会存在真正的智慧做出定论；而在计算机科学领域中，人工智能已经获得了一次飞跃式的进化。现在的AI拥有复杂的核心算法，而这些算法为AI带来了认知与学习的能力。我们在现在，甚至在未来可能仍无法确定AI会通过电波完成一次自我思考的回路，但正在不断发展的人工智能技术必将会引发一场全新的技术与意识形态的革命。