进步 web 利用的性能历来没有比如今更重要过。收集经济的比重不断在增长；全球经济超越 5% 的价值是在因特网上产生的（数据拜见下面的材料）。那个时刻在线的超毗连世界意味着用户对其的期看值也处于汗青上的更高点。假设你的网站不克不及及时的响应，或者你的 app 不克不及无延时的工做，用户会很快的投奔到你的合作敌手那里。
想要进步效率很简单，但是看到现实成果很难。为了在你的摸索之旅上搀扶帮助到你，那篇文章会给你供给10条更高能够提拔10倍网站性能的定见。那是一系列介绍进步利用法式性能的第一篇文章，包罗足够测试的优化手艺和一点 NGINX 的搀扶帮助。那个系列也给出了潜在的进步平安性的搀扶帮助。
Tip #1: 通过反向代办署理来进步性能和增加平安性
假设你的 web 利用运行在单个机器上，那么那个办法会明显的提拔性能：只需要换一个更快的机器，更好的处置器，更多的内存，更快的磁盘阵列，等等。然后新机器就能够更快的运行你的 WordPress 办事器, Node.js 法式, Java 法式，以及其它法式。（假设你的法式要拜候数据库办事器，那么处理办法仍然很简单：添加两个更快的机器，以及在两台电脑之间利用一个更快的链路。）
问题是，机器速度可能并非问题。web 法式运行慢经常是因为计算机不断在差别的使命之间切换：通过成千上万的毗连和用户交互，从磁盘拜候文件，运行代码，等等。利用办事器可能会颤动（thrashing）-好比说内存不敷、将内存数据交换到磁盘，以及有多个恳求要期待某个使命完成，如磁盘I/O。
利用反向代办署理办事器能够将利用办事器从期待用户与 web 法式交互解放出来，如许利用办事器就能够专注于为反向代办署理办事器构建网页，让其可以传输到互联网上。而利用办事器就不需要期待客户端的响应，其运行速度能够接近于优化后的性能程度。
添加反向代办署理办事器还能够给你的 web 办事器安拆带来乖巧性。好比，一个某品种型的办事器已经超载了，那么就能够轻松的添加另一个不异的办事器；假设某个机器宕机了，也能够很随便替代一个新的。
因为反向代办署理带来的乖巧性，所以反向代办署理也是一些性能加速功用的需要前提，好比：
· 负载平衡?(拜见 Tip #2) – 负载平衡运行在反向代办署理办事器上，用来将流量平衡分配给一批利用。有了适宜的负载平衡，你就能够添加利用办事器而底子不消修改利用。
· 缓存静态文件?(拜见 Tip #3) – 间接读取的文件，好比图片或者客户端代码，能够保留在反向代办署理办事器，然后间接发给客户端，如许就能够进步速度、分管利用办事器的负载，能够让利用运行的更快。
· 网站平安?– 反向代办署理办事器能够进步网站平安性，以及快速的发现和响应进攻，包管利用办事器处于被庇护形态。
Tip #2: 添加负载平衡
能够停止负载平衡的协议包罗 利用来决定你要利用哪些以及哪些处所性能不敷。
不异的办事器或办事器群能够被用来停止负载平衡，也能够用来处置其它的使命，如 SSL 末端办事器，撑持客户端的 恳求，以及缓存静态文件。
NGINX 经常被用于停止负载平衡；要想领会更多的情状，能够下载我们的电子书《抉择软件负载平衡器的五个理由》。你也能够从 《利用 NGINX 和 NGINX Plus 设置装备摆设负载平衡，第一部门》中领会根本的设置装备摆设批示，在 NGINX Plus 治理员指南中有完全的?NGINX 负载平衡的文档。。我们的贸易版本NGINX Plus?撑持更多优化了的负载平衡特征，如基于办事器响应时间的加载路由和 Microsoft’s NTLM 协议上的负载平衡。
Tip #3: 缓存静态和动态的内容
缓存能够通过加速内容的传输速度来进步 web 利用的性能。它能够摘用以下几种战略：当需要的时候预处置要传输的内容，保留数据到速度更快的设备，把数据存储在间隔客户端更近的位置，或者将那几种办法连系起来利用。
有两种差别类型数据的缓冲：
· 静态内容缓存。不经常改变的文件，好比图像(JPEG、PNG) 和代码(CSS,JavaScript)，能够保留在外围办事器上，如许就能够快速的从内存和磁盘上提取。
· 动态内容缓存。良多 web 利用会针对每次网页恳求生成一个新的 HTML 页面。在短时间内简单的缓存生成的 HTML 内容，就能够很好的削减要生成的内容的数量，并且那些页面足够新，能够称心你的需要。
举个例子，假设一个页面每秒会被阅读10次，你将它缓存 1 秒，90%恳求的页面城市间接从缓存提取。假设你分隔缓存静态内容，以至重生成的页面可能都是由那些缓存构成的。
下面由是 web 利用创造的三种次要的缓存手艺：
· 缩短数据与用户的收集间隔。把一份内容的拷贝放的离用户更近的节点来削减传输时间。
· 进步内容办事器的速度。内容能够保留在一个更快的办事器上来削减提取文件的时间。
· 从过载办事器上移走数据。机器经常因为要完成某些其它的使命而形成某个使命的施行速度比测试成果要差。将数据缓存在差别的机器上能够进步缓存资本和非缓存资本的性能，而那是因为主机没有被过度利用。
对 web 利用的缓存机造能够在 web 利用办事器内部实现。起首，缓存动态内容是用来削减利用办事器加载动态内容的时间。其次，缓存静态内容（包罗动态内容的暂时拷贝）是为了更进一步的分管利用办事器的负载。并且缓存之后会从利用办事器转移到对用户而言更快、更近的机器，从而削减利用办事器的压力，削减提取数据和传输数据的时间。
改进过的缓存计划能够极大的进步利用的速度。关于大大都网页来说，静态数据，好比大图像文件，构成了超越一半的内容。假设没有缓存，那么那可能会破费几秒的时间来提取和传输那类数据，但是摘用了缓存之后不到1秒就能够完成。
举一个在现实中缓存是若何利用的例子， NGINX 和 NGINX Plus 利用了两条指令来设置缓存机造：proxy_cache_path 和 proxy_cache。你能够指定缓存的位置和大小、文件在缓存中保留的最长时间和其它一些参数。利用第三条（并且是相当受欢送的一条）指令 proxy_cache_use_stale，假设供给别致内容的办事器忙碌或者挂掉了，你以至能够让缓存供给较旧的内容，如许客户端就不会一无所获。从用户的角度来看那能够很好的进步你的网站或者利用的可用时间。
NGINX plus 有个高级缓存特征，包罗对缓存肃清的撑持和在仪表盘上展现缓存形态信息。
要想获得更多关于 NGINX 的缓存机造的信息能够阅读 NGINX Plus 治理员指南中的《参考文档》和《NGINX 内容缓存》。
重视：缓存机造散布于利用开发者、投资决策者以及现实的系统运维人员之间。本文提到的一些复杂的缓存机造从 DevOps 的角度来看很具有价值，即对集利用开发者、架构师以及运维操做人员的功用为一体的工程师来说能够称心它们对站点功用性、响应时间、平安性和贸易成果（如完成的交易数）等需要。
Tip #4: 压缩数据
压缩是一个具有很大潜力的进步性能的加速办法。如今已经有一些针比照片（JPEG 和PNG）、视频（MPEG-4）和音乐（MP3）等各类文件精心设想和高压缩率的原则。每一个原则都或多或少的削减了文件的大小。
文本数据 —— 包罗HTML（包罗了纯文本和 HTML 标签），CSS 和代码，好比 Javascript —— 经常是未经压缩就传输的。压缩那类数据会在对利用法式性能的觉得上，特殊是处于慢速或受限的挪动收集的客户端，产生更大的影响。
那是因为文本数据经常是用户与网页交互的有效数据，而多媒体数据可能更多的是起供给撑持或者粉饰的感化。智能的内容压缩能够削减 HTML，Javascript，CSS和其它文本内容对带宽的要求，凡是能够削减 30% 以至更多的带宽和响应的页面加载时间。
假设你利用 SSL，压缩能够削减需要停止 SSL 编码的的数据量，而那些编码操做会占用一些 CPU 时间而抵消了压缩数据削减的时间。
压缩文本数据的办法良多，举个例子，在 版本。
Tip #5: 优化 SSL/TLS
平安套接字（SSL) 协议和它的下一代版本传输层平安（TLS）协议正在被越来越多的网站摘用。SSL/TLS 对从原始办事器发往用户的数据停止加密进步了网站的平安性。影响那个趋向的部门原因是 Google 正在利用 SSL/TLS，那在搜刮引擎排名上是一个正面的影响因素。
虽然 SSL/TLS 越来越时髦，但是利用加密对速度的影响也让良多网站看而却步。SSL/TLS 之所以让网站变的更慢，原因有二：
任何一个毗连第一次毗连时的握手过程都需要传递密钥。而摘用 协议的阅读器在成立多个毗连时会对每个毗连反复上述操做。
数据在传输过程中需要不竭的在办事器端加密、在客户端解密。
为了鼓舞利用 SSL/TLS， 传输数据的性能的办法不行那些。
web 办事器有对应的机造优化 SSL/TLS 传输。举个例子，NGINX 利用 OpenSSL 运行在通俗的硬件上供给了接近公用硬件的传输性能。NGINX 的 SSL 性能 有详尽的文档，并且把对 SSL/TLS 数据停止加解密的时间和 CPU 占用率降低了良多。
更进一步，参考那篇文章领会若何进步 SSL/TLS 性能的更多细节，能够总结为一下几点：
· 会话缓冲。利用指令 ssl_session_cache 能够缓存每个新的 SSL/TLS 毗连利用的参数。
· 会话票据或者 ID。把 SSL/TLS 的信息保留在一个票据或者 ID 里能够顺畅的复用而不需要从头握手。
· OCSP 朋分。通过缓存 SSL/TLS 证手札息来削减握手时间。
NGINX 和 NGINX Plus 能够被用做 SSL/TLS 办事端，用于处置客户端流量的加密息争密，而同时以明文体例和其它办事器停止通信。要设置 NGINX 和 NGINX Plus 做为 SSL/TLS 办事端，参看 《 毗连》。
Tip #6: 利用
关于已经利用了 SSL/TLS 的站点， 没有什么压力（本来会降低效率）。
Google 在2012年起头把 SPDY 做为一个比 替代。
SPDY 和 的关键是用单连续接来替代多路毗连。单个毗连是被复用的，所以它能够同时照顾多个恳求和响应的分片。
通过利用单连续接，那些协议能够制止像在实现了 成立平安链接时的握手时间。
SPDY 协议需要利用 SSL/TLS，而 协议。
当你实现 SPDY 或者 带来的那些改变能够阅读我们的《白皮书》。
做为撑持那些协议的一个样例，NGINX 已经从一起头就撑持了 SPDY，并且大部门利用 SPDY 协议的网站都运行的是 NGINX。NGINX 同时也很早对 就撑持它了。
颠末一段时间，我们 NGINX 期看更多的站点完全启用 SSL 而且向 迁徙。那将会进步平安性，同时也会找到并实现新的优化手段，简化的代码表示的会愈加优良。
Tip #7: 晋级软件版本
一个进步利用性能的简双方法是根据软件的不变性和性能的评判来选在你的软件栈。进一步说，因为高性能组件的开发者更情愿逃求更高的性能息争决 bug ，所以值得利用最新版本的软件。新版本往往更受开发者和用户社区的存眷。更新的版本往往会操纵到新的编译器优化，包罗对新硬件的调优。
不变的新版本凡是比旧版本具有更好的兼容性和更高的性能。不断停止软件更新，能够十分简单的连结软件连结更佳的优化，处理掉 bug，以及进步平安性。
不断利用旧版软件也会阻遏你操纵新的特征。好比上面说到的 月才发布的。
NGINX 用户能够起头迁徙到?NGINX 最新的开源软件?或者?NGINX Plus；它们都包罗了最新的才能，如 socket 朋分和线程池（见下文），那些都已经为性能优化过了。然后好都雅看的你软件栈，把它们晋级到你能晋级到的最新版本吧。
Tip #8: Linux 系统性能调优
Linux 是大大都 web 办事器利用的操做系统，并且做为你的架构的根底，Linux 显然有很多进步性能的可能。默认情状下，良多 Linux 系统都被设置为利用很少的资本，以契合典型的桌面利用利用。那就意味着 web 利用需要一些微调才气到达更大效能。
那里的 Linux 优化是专门针对 web 办事器方面的。以 NGINX 为例，那里有一些在加速 Linux 时需要强调的改变：
· 缓冲队列。假设你有挂起的毗连，那么你应该考虑增加 net.core.somaxconn 的值，它代表了能够缓存的毗连的更大数量。假设毗连限造太小，那么你将会看到错误信息，而你能够逐步的增加那个参数曲到错误信息停行呈现。
· 文件描述符。NGINX 对一个毗连利用最多2个文件描述符。假设你的系统有良多毗连恳求，你可能就需要进步sys.fs.file_max ，以增加系统对文件描述符数量整体的限造，如许才气撑持不竭增加的负载需求。
· 暂时端口。当利用代办署理时，NGINX 会为每个上游办事器创建暂时端口。你能够设置net.ipv4.ip_local_port_range 来进步那些端口的范畴，增加可用的端标语。你也能够削减非活动的端口的超时揣度来反复利用端口，那能够通过 net.ipv4.tcp_fin_timeout 来设置，那能够快速的进步流量。
关于 NGINX 来说，能够查阅 《NGINX 性能调优指南》来进修假设优化你的 Linux 系统，如许它就能够很好的适应大规模收集流量而不会超越工做极限。
Tip #9: web 办事器性能调优
无论你是用哪种 web 办事器，你都需要对它停止优化来进步性能。下面的选举手段能够用于任何 web 办事器，但是一些设置是针对 NGINX 的。关键的优化手段包罗：
· 拜候日记。不要把每个恳求的日记都间接写回磁盘，你能够在内存将日记缓存起来然后批量写回磁盘。关于NGINX 来说，给指令 access_log 添加参数 buffer=size 能够让系统在缓存满了的情状下才把日记写到磁盘。假设你添加了参数 flush=time ，那么缓存内容会每隔一段时间再写回磁盘。
· 缓存。缓存会在内存中存放部门响应，曲到满了为行，那能够让与客户端的通信愈加高效。内存放不下的响应会写回磁盘，而那就会降低效能。当 NGINX 启用了缓存机造后，你能够利用指令 proxy_buffer_size 和 proxy_buffers 来治理缓存。
· 客户端保活。保活毗连能够削减开销，特殊是利用 SSL/TLS 时。关于 NGINX 来说，你能够从 keepalive_requests 的默认值 100 起头增加更大毗连数，如许一个客户端就能够在一个指定的毗连上恳求屡次，并且你也能够通过增加 keepalive_timeout 的值来容许保活毗连存活更长时间，如许就能够让后来的恳求处置的更快速。
· 上游保活。上游的毗连——即毗连到利用办事器、数据库办事器等机器的毗连——同样也会受益于毗连保活。关于上游毗连来说，你能够增加 keepalive，即每个工人历程的闲暇保活毗连个数。那就能够进步毗连的复用次数，削减需要从头翻开全新毗连的次数。更多关于保活毗连的信息能够拜见那篇“?HTTP 保活毗连和性能”。
· 限造。限造客户端利用的资本能够进步性能和平安性。关于 NGINX 来说，指令 limit_conn 和 limit_conn_zone 限造了给定来源的毗连数量，而 limit_rate 限造了带宽。那些限造都能够阻遏合法用户扒取资本，同时也制止了进攻。指令 limit_req 和 limit_req_zone 限造了客户端恳求。关于上游办事器来说，能够在 upstream 的设置装备摆设块里的 server 指令利用 max_conns 参数来限造毗连到上游办事器的毗连数。 如许能够制止办事器过载。联系关系的 queue 指令会创建一个队列来在毗连数抵达 max_connS 限造时在指定长度的时间内保留特定命量的恳求。
· 工人历程。工人历程负责处置恳求。NGINX 摘用事务驱动模子和操做系统特定的机造来有效的将恳求分发给差别的工人历程。那条定见选举设置 worker_processes 为每个 CPU 一个 。worker_connections 的更大数（默认512）能够在大部门系统上根据需要增加，尝试性地找到最合适你的系统的值。
· 套接字朋分。凡是一个套接字监听器会把新毗连分配给所有工人历程。套接字朋分会为每个工人历程创建一个套接字监听器，如许一来以当套接字监听器可用时，内核就会将毗连分配给它。那能够削减锁合作，而且进步多核系统的性能，要启用套接字分隔需要在 listen 指令里面加上 reuseport 参数。
· 线程池。计算机历程可能被一个单一的迟缓的操做所占用。关于 web 办事器软件来说，磁盘拜候会影响良多更快的操做，好比计算或者在内存中拷贝。利用了线程池之后慢操做能够分配到差别的使命集，而主历程能够不断运行快速操做。当磁盘操做完成后成果会返回给主历程的轮回。在 NGINX 里有两个操做——read() 系统挪用和 sendfile() ——被分配到了线程池
身手。当改动任何操做系统或撑持办事的设置时，一次只改动一个参数然后测试性能。假设修改引起问题了，或者不克不及让你的系统更快，那么就改回往。
在《调优 NGINX 性能》里能够看到更详尽的 NGINX 调优办法。
Tip #10: 监视系统活动来处理问题和瓶颈
在利用开发中要使得系统变得十分高效的关键是监视你的系统在现实世界运行的性能。你必需能通过特定的设备和你的 web 根底设备上监控法式活动。
监视活动是最积极的——它会告诉你发作了什么，把问题留给你发现和最末处理掉。
监视能够发现几种差别的问题。它们包罗：
· 办事器宕机。
· 办事器出问题不断在丧失毗连。
· 办事器呈现大量的缓存未射中。
· 办事器没有发送准确的内容。
利用的总体性能监控东西，好比 New Relic 和 Dynatrace，能够搀扶帮助你监控到从长途加载网页的时间，而 NGINX 能够搀扶帮助你监控到利用交付端。当你需要考虑为根底设备添加容量以称心流量需求时，利用性能数据能够告诉你你的优化办法确实起感化了。
为了搀扶帮助开发者快速的发现、处理问题，NGINX Plus 增加了利用感知安康度查抄 ——对反复呈现的常规事务停止综合阐发并在问题呈现时向你发出警告。NGINX Plus 同时供给会话过滤功用，那能够阻遏当前使命完成之前承受新的毗连，另一个功用是慢启动，容许一个从错误恢复过来的办事器追逐上负载平衡办事器群的进度。当利用适当时，安康度查抄能够让你在问题变得严峻到影响用户体验前就发现它，而会话过滤和慢启动能够让你替代办事器，而且那个过程不会对性能和一般运行时间产生负面影响。下图就展现了内建的 NGINX Plus 模块实时活动监视的仪表盘，包罗了办事器群，TCP 毗连和缓存信息等 Web 架构信息。
总结: 看看10倍性能提拔的效果
那些性能提拔计划对任何一个 web 利用都可用而且效果都很好，而现实效果取决于你的预算、你能破费的时间、目前实现计划的差距。所以你该若何对你本身的利用实现10倍性能提拔？
为了批示你领会每种优化手段的潜在影响，那里是上面详述的每个优化办法的关键点，固然你的情状必定大不不异：
· 反向代办署理办事器和负载平衡。没有负载平衡或者负载平衡很差城市形成间歇的性能低谷。增加一个反向代办署理，好比 NGINX ，能够制止 web 利用法式在内存和磁盘之间颠簸。负载平衡能够将过载办事器的使命转移到闲暇的办事器，还能够轻松的停止扩容。那些改动都能够产生浩荡的性能提拔，很随便就能够比你如今的实现计划的最差性能进步10倍，关于总体性能来说可能进步的不多，但是也是有本色性的提拔。
· 缓存动态和静态数据。假设你有一个承担过重的 web 办事器，那么毫无疑问必定是你的利用办事器，只通过缓存动态数据就能够在峰值时间进步10倍的性能。缓存静态文件能够进步几倍的性能。
· 压缩数据。利用媒体文件压缩格局，好比图像格局 JPEG，图形格局 PNG，视频格局 MPEG-4，音乐文件格局 MP3 能够极大的进步性能。一旦那些都用上了，然后压缩文件数据能够将初始页面加载速度进步两倍。
· 优化 SSL/TLS。平安握手会对性能产生浩荡的影响，对它们的优化可能会对初始响应产生2倍的提拔，特殊是关于大量文本的站点。优化 SSL/TLS 下媒体文件只会产生很小的性能提拔。
· 利用 ，那些协议就能够进步整个站点的性能。
· 对 Linux 和 web 办事器软件停止调优。好比优化缓存机造，利用保活毗连，分配时间灵敏型使命到差别的线程池能够明显的进步性能；举个例子，线程池能够加速对磁盘灵敏的使命近一个数量级。
我们期看你亲身测验考试那些手艺。我们期看晓得你说获得的各类性能提拔案例。请鄙人面评论栏分享你的成果或者在标签 #NGINX 和 #webperf 下 tweet 你的故事。
原文：10 Tips for 10x Application Performance
编译：Linux