Question

安装了GPU enable的Tensorflow，就是自动调用cuda进行计算的吗

Answer 1

Tensor-flow 默认使用一个gpu进行运算（如果有gpu的话）。具体的调用会在程序里。如果要使用多gpu的话要相应修改程序。
至于哪部份会放到gpu上跑，一般来说是model training的部分，因为这部分程序是computation intense。你可以把其他部分放到gpu上运行，但是由于cpu-gpu的通信时间较长，会使得程序执行的更慢。