Question

如何提高服务器并发数

假设，我的服务器对于一个HTTP请求进行了分布处理，图片等资源都分布到其他服务器，我的代码也进行了多进程、线程优化，带宽也不错，

那么，我的服务器的并发数还是不能满足需求，假设此时并发已经有1万/sec啦，那该如何提高性能，

Answer 1

消除瓶颈是提高服务器性能和并发能力的唯一途径。
如果你能够消除所有的瓶颈，你就能够最大的发挥硬件性能，让系统的性能和并发数到达最佳。
采用多线程多核编程，使用事件驱动或异步消息机制，尽量减少阻塞和等待操作（如I/O阻塞、同步等待或计时/超时等）。
原理：
1、多线程多核编程，消除cpu瓶颈。
2、采用IOCP或epoll，利用状态监测和通知方式，消除网络I/O阻塞瓶颈。
3、采用事件驱动或异步消息机制，可以消除不必要的等待操作。
4、如果是Linux，可以采用AIO来消除磁盘I/O阻塞瓶颈。
5、在事件驱动框架或异步消息中统一处理timer事件，变同步为异步，而且可以在一个线程处理无数timer事件。
6、深入分析外部的阻塞来源，消除它。
比如数据库查询较慢，导致服务器处理较慢，并发数上不去，这时就要优化数据库性能。
7、如果与某个其他server通信量很大，导致性能下降较多。
可以考虑把这两个server放在一个主机上，采用共享内存的方式来做IPC通信，可以大大提高性能。

追问

这一篇Blog我已经看过了，

假如我这些我都已经优化过了，但是并发还是不够高，请求发出后，在这一个IP端口的服务器，负责消息的分布和重定向，

我认为，这一个IP端口上的服务器才是瓶颈所在，因为网站的DNS都解析到了你这一台计算机，就像12306，

像这时，要怎么提高并发

追答

一般的服务器是不限制这个的，
而且像一个普通的主机 dns可以绑定几百个 甚至几千个的，这个都不是什么问题（前提的是网站容量不是很大） 不过你可以看下你的主机硬件使用情况和带宽使用情况。从这两个地方进行下功夫。

追问

嗯，这样

那么DNS绑定了多台主机，那么客户端请求被定为到了哪一个主机，是根据什么判断的？

像一台DNS主机，每一个请求都要解析数据、返回数据，这时所有的请求就都在一台计算机上了，毕竟，对于DNS，就没有其他的主机来对你解析了。。这时，有办法吗？

追答

你说的是域名dns的吧，如果是这个的话 你可以通过域名的ping进行查看的。

追问

第一次访问，首先记住得肯定是你的域名呀，域名被解析到一个IP，这就回到最开始的问题了，

一个IP下一台主机，那么这台主机能处理的最大并发，就是整个系统的瓶颈，因为其他都是可拓展的，那么如果需要百万并发的话，只靠被定向到IP上的这一台主机，能不能满足需求？

追答

百万并发的话 这个需要看主机是否有那么大的承受能力的 这个就需要内存足够大些的 如果是8-16G的话 压力有些山大