Question

一个单线程程序是否可以被多个CPU同时执行？如果可以，程序的正确性如何保证？

Answer 1

不可以的，多核cpu必须配合多线程程序才能完全发挥效能。单线程的程序时常导致双核cpu占用50%，四核cpu占用25%的情况出现。

追问

现在有的CPU可以通过对程序指令进行重排序来提高执行速度，然后由特殊硬件来保证程序执行的正确性，这样能提高处理器性能。 Intel CPU貌似是顺序一致的。

如果不同CPU分别取同一个程序不同指令来执行，并且也提供一个硬件来维持正确性，则多个CPU执行同一个单线程程序也是可能的啊！

追答

但是指令是存在前后顺序和逻辑关系的，比如一个运算要计算2*3+1，那如果需要拆解成一个cpu执行乘法一个cpu执行加法，那如何进行？如果没有执行完乘法是没有办法执行加法的。程序代码也一样，单线程就代表了指令只能以一个队列的形式进行依次处理，没办法并发。

现在倒是有CPU可以在单线程的时候自动超频，也就是趁着别的几个核心没有工作，把自己当前繁忙的核心的频率提高。也算是对单线程程序的一种补救和兼容。

至于你说的重排序，那应该算是一种硬件代码优化，也就是预读一部分队列内的指令，然后依据一定的算法，一般是一个人为规定好的调换公式，将有限的几条指令进行重新排序，来优化。但是这种重新排序还是单线程的，只是类似把2*3+3*4的三步运算依据运算定律简化为3*（2+4）这两步运行的一个过程。实质上还是单线程，还是要先计算一步，再计算另一步。

现有硬件技术还没办法把一个单线程程序，自动改造为多线程来进行多核运算。就像要计算1到100的和，如果程序写成单线程，那计算机只能从1一点一点加到100。而如果写成多线程，计算机就可以把1到100分段，然后每个线程先计算自己那段的和，最后所有线程运行结束后，再把结果汇总。这两种算法是截然不同的，计算机还没有这么智能，现阶段只能靠我们人类去优化和编写多线程代码。

追问

那为啥同一个函数的C++代码需要指定严格的先后次序？

追答

能不能给出具体一点的例子？

如果要细说重排序，那就要提内存模型。指令级别的重排序，是在CPU中进行的。部分情况下，会有将串行的几个指令拆分为并行的情况出现。但这不能与多线程相比，大多数情况下指令是无法拆分为并行计算的。现有的CPU指令级优化，更多的是进行前后顺序调换，达到减少读写内存，或合并多步计算的效果。

这种指令重排是有限制的，为了保证多线程程序的正确性（线程之间的数据可见性），往往需要编译器和程序员故意降低CPU重排序的优化程度。这就是所谓不同语言定义的内存模型。

上图是内存模型对比，性能就是指令重排序的程度，性能越高证明指令重排序程度越高。蓝色是三种语言虚拟的内存模型（JMM是java语言的），它们都是对红色CPU内存模型的一种包装和处理。编译器会想办法欺骗CPU，禁止一些不希望出现的指令重排序，以便保证一个相对简单的编程内存模型。可以看出，我们还是需要以优化算法为主，CPU指令重排只是其次。

程序算法就像是数学题的解法，多线程就像是聪明人想出的数学题的简便算法。而指令重排这种优化，更像是心算口诀，是一种更低层次的优化。心算口诀能够加快计算，但是它没有办法代替好的算法。

实现多线程也是一样，虽然有些CPU可以在一定程度上改变小范围内的指令顺序，达到并行处理几条指令的效果。但是这都只是低层次的优化，而且现在的大部分CPU都没有办法将串行指令有效的拆分为并行指令。

回归到提问，严格上说，单线程程序在部分代码片段中，有可能被CPU将指令安排在多个核心进行并行运算，但是这和整体程序指令数量相比是极少的情况。CPU是在极其微观的汇编级别进行的优化，有固定的优化定律的，根据内置的“定律”，CPU判断出前后两条语句没有数据和逻辑上的依赖性，则可以将它们并行计算。在一个小程序的上百万行汇编指令中，还是能发现一些可以并行计算的片段的。但正如前面我描述的，由于这是在最微观的层面上依据一些“定律”进行优化，这就使得优化的余地很少。就像优化一道复杂的数学题算法和优化一个简单的方程解法的区别，越宏观越复杂的东西，越有优化的余地。

为了追求更高的优化程度，CPU制订了内存模型，它是一些对程序的“前提假设”。正是由于有了这种假设，CPU所“看到”（也就是CPU可以预见的）代码更多了，所面对的优化问题更复杂，对程序优化的程度就能更大些。但正是这些“前提假设”导致了编程规则更复杂，编程难度会变得更大。