nginx worker_processes 配置

2018-12-07 22:55:02
搜索到原作者的话：
As a general rule you need the only worker with large number of
worker_connections, say 10,000 or 20,000.
However, if nginx does CPU-intensive work as SSL or gzipping and
you have 2 or more CPU, then you may set worker_processes to be equal
to CPU number.
Besides, if you serve many static files and the total size of the files
is bigger than memory, then you may increase worker_processes to
utilize a full disk bandwidth.
Igor Sysoev


一般一个进程足够了，你可以把连接数设得很大。
如果有SSL、gzip这些比较消耗CPU的工作，而且是多核CPU的话，可以设为和CPU的数量一样。
或者要处理很多很多的小文件，而且文件总大小比内存大很多的时候，也可以把进程数增加，
以充分利用IO带宽（主要似乎是IO操作有block）。


根据我配置实践，
服务器是“多个CPU＋gzip+网站总文件大小大于内存”的环境，worker_processes设置为CPU个数的两倍比较好。


分享二：
最近PPC经常出现502错误，网页经常无法打开，所以本人决定对Nginx进行深入折腾！
Nginx本身没有挂掉，否则不会出现502的错误信息，所以原因一定在Nginx的设置上。


经过我查阅资料和测试，发现有可能是worker_processes的参数设置不当引起的。


worker_processes默认情况下为1，一般情况下不用修改，但考虑到实际情况，可以修改这个数值，以提高性能;
官方的建议是修改成CPU的内核数，这里引用一段翻译过的文章： 
worker_processes指明了nginx要开启的进程数，
据官方说法，一般开一个就够了，多开几个，可以减少机器io带来的影响。


据实践表明，nginx的这个参数在一般情况下开4个或8个就可以了，再往上开的话优化不太大。
据另一种说法是，nginx开启太多的进程，会影响主进程调度，所以占用的cpu会增高。
经过我测试发现，
这个数字是不能乱设置的，如果网站没有出现io性能问题，最好不要修改，采用默认的1即可，
如果非要设置，必须要和CPU的内核数匹配，否则要么就假死（主要是Windows），要么就出现502的错误（主要是Linux）。


我的电脑是双核的，按理说应该是2，但是实际上应该是4，因为是双线程的。测试结果如下： 
1、worker_processes为1，线程打开2个，有一个是主线程，运行很稳定。
2、worker_processes为2，线程打开3个，有一个是主线程，1分钟左右挂掉
  （假死，无法打开网页，浏览器一直处于载入中）。
3、worker_processes为4，线程打开5个，有一个是主线程，运行很稳定。
4、worker_processes为8，线程打开9个，有一个是主线程，和2一样，1分钟左右挂掉。


配置参考
配置1：
4 CPU (4 Core) + 4 worker_processes (每个worker_processes 使用1个CPU)
[reistlin@reistlin.com ~]$ cat /proc/cpuinfo | grep processor
processor : 0
processor : 1
processor : 2
processor : 3


worker_processes 4;
worker_cpu_affinity 0001 0010 0100 1000;


配置2：
8 CPU (8 Core) + 8 worker_processes (每个worker_processes 使用1个CPU)
[reistlin@reistlin.com ~]$ cat /proc/cpuinfo | grep processor
processor : 0
processor : 1
processor : 2
processor : 3
processor : 4
processor : 5
processor : 6
processor : 7


worker_processes 8;
worker_cpu_affinity 00000001 00000010 00000100 00001000 00010000 00100000 01000000 10000000;


配置3：
16 CPU (16 Core) + 16 worker_processes (每个worker_processes 使用1个CPU)
[reistlin@reistlin.com ~]$ cat /proc/cpuinfo | grep processor
processor : 0
processor : 1
processor : 2
processor : 3
processor : 4
processor : 5
processor : 6
processor : 7
processor : 8
processor : 9
processor : 10
processor : 11
processor : 12
processor : 13
processor : 14
processor : 15


worker_processes 16;
worker_cpu_affinity 
0000000000000001 0000000000000010 0000000000000100 0000000000001000 0000000000010000 0000000000100000 0000000001000000 0000000010000000 0000000100000000 0000001000000000 0000010000000000 0000100000000000 0001000000000000 0010000000000000 0100000000000000 1000000000000000;


Nginx worker_cpu_affinity 设置
根据 Nginx Wiki 上的资料显示：
worker_cpu_affinity
Syntax: worker_cpu_affinity cpumask [cpumask...]
Default: none
Linux only.
With this option you can bind the worker process to a CPU, it calls sched_setaffinity().


For example,
worker_processes 4; worker_cpu_affinity 0001 0010 0100 1000;
Bind each worker process to one CPU only.
worker_processes 2; worker_cpu_affinity 0101 1010;
Bind the first worker to CPU0/CPU2, bind the second worker to CPU1/CPU3. This is suitable for HTT.


worker_cpu_affinity 默认是没有开启的，
根据例子我们可以看得出，0001 0010 0100 1000 分别代表第1、2、3、4个逻辑CPU，
所以我们可以设置0010 0100 1000来将3个进程分别绑定到第2、3、4个逻辑CPU上：
worker_processes 3;
worker_cpu_affinity 0010 0100 1000;
同时根据例子我们也可以看出，
worker_cpu_affinity 可以将同1个进程绑定在2个逻辑CPU上：


worker_processes 2;
worker_cpu_affinity 0101 1010;
0101也就是第1、3个逻辑CPU上，1010就是第2、4个逻辑CPU上。 
 
 
分享三：
worker_processes指明了nginx要开启的进程数，
据官方说法，一般开一个就够了，多开几个，可以减少机器io带来的影响。


据实践表明，nginx的这个参数在一般情况下开4个或8个就可以了，再往上开的话优化不太大。
据另一种说法是，nginx开启太多的进程，会影响主进程调度，所以占用的cpu会增高，
这个说法我个人没有证实，估计他们是开了一两百个进程来对比的吧。


worker_processes配置的一些注意事项：


1、worker_cpu_affinity配置最好是能写上
我这里服务器多数是双核超线程，相当于4cpu，我一般开8进程，所以这个配置就是这样：
worker_cpu_affinity 0001 0100 1000 0010 0001 0100 1000 0010;


另，worker_cpu_affinity不是什么时候都能用的，
我没有认真研究并罗列所有情况，只知道2.4内核的机器用不了，
如果用不了的话，那么最好是加大worker_processes进程数，这样分配cpu就会平均一点啦，
如果不平均只好多重启几下。


2、worker_rlimit_nofile配置要和系统的单进程打开文件数一致，千万不要再画蛇添足地除以worker_processes。
我现在在linux 2.6内核下开启文件打开数为65535，worker_rlimit_nofile就相应应该填写65535。


这是因为nginx调度时分配请求到进程并不是那么的均衡，所以假如填写10240，
总并发量达到3-4万时就有进程可能超过10240了，这时会返回502错误。

  • 精彩推荐

  • 2020-12-16 22:04:03

    基于本地代理的边下边播技术分析

    我们熟知的边下边播技术，是迅雷提供的，还有之前的快播、快车等工具，它们使用的技术基本上都是P2P下载技术。 P2P下载技术，本质上它并不是C-S的架构，P2P----> Peer to Peer，实际上它将各个客户端的资源调度起来，给上传资源种子，方便后续的下载者可以快速有效的下载资源，这种方式需要服务器整合各个Client，在有用户需要下载的情况下，服务器能及时调度资源，开始给下载者提供资源信息，保证下载者下载资源越快越好。P2P的下载方式后面我们专门介绍一下。这儿不继续展开了。

  • 2020-12-16 22:07:44

    Android视频点播-边播边缓存

    一些知名的视频app客户端（优酷，爱奇艺）播放视频的时候都有一些缓存进度(二级进度缓存)，qq，微信有关的小视频，还有一些短视频app，都有边播边缓的处理。还有就是当文件缓存完毕了再次播放的话就不再请求网络了直接播放本地文件了。既节省了流程又提高了加载速度。 今天我们就是来研究讨论实现这个边播边缓存的框架，因为它不和任何的业务逻辑耦合。

  • 2020-12-16 22:46:44

    基于coturn项目的stun/turn服务器搭建

    webrtc是google推出的基于浏览器的实时语音-视频通讯架构。其典型的应用场景为：浏览器之间端到端(p2p)实时视频对话，但由于网络环境的复杂性(比如：路由器/交换机/防火墙等），浏览器与浏览器很多时候无法建立p2p连接，只能通过公网上的中继服务器(也就是所谓的turn服务器)中转。示例图如下：

  • 2020-12-16 23:06:05

    Rocket.Chat推送信息

    Rocket.Chat推送消息 Rocket.Chat是一个开源实时通讯平台, 支持Windows, Mac OS, Linux. 支持聊天, 文件上传, 视频通话, 语音通话功能. 向Rocket.Chat推送消息 以下示例可以转为别的语言的版本, 本示例使用Linux平台的curl测试, curl非常强大. 登陆 首先需要登陆Rocket.Chat服务器

  • 2020-12-17 09:01:23

    对BitTorrent Tracker源码分析

    tracker服务器是BT下载中必须的角色。一个BT client 在下载开始以及下载进行的过程中，要不停的与 tracker 服务器进行通信，以报告自己的信息，并获取其它下载client的信息。这种通信是通过 HTTP 协议进行的，又被称为 tracker HTTP 协议，它的过程是这样的： client 向 tracker 发一个HTTP 的GET请求，并把它自己的信息放在GET的参数中；这个请求的大致意思是：我是xxx（一个唯一的id），我想下载yyy文件，我的ip是aaa，我用的端口是bbb。。。

  • 2020-12-17 10:55:48

    html5 video p2p research

    节约带宽，减少缓冲时间，提升服务质量，处理峰值流量, 视频观看的人越多，播放越流畅。

  • 2020-12-17 10:57:34

    使用 MediaSource 搭建流式播放器

    Media Source Extensions（媒体源扩展）大大地扩展了浏览器的媒体播放功能，提供允许JavaScript 生成媒体流。这可以用于自适应流（adaptive streaming，也是我毕设的研究方向）及随时间变化的视频直播流（live streaming）等应用场景。