《手把手讓你實(shí)現開(kāi)源企業(yè)級web高并發(fā)解決方案》
（lvs+heartbeat+varnish+nginx+eAccelerator+memcached）
本來(lái)想起個(gè)比較風(fēng)趣點(diǎn)的標題，可想來(lái)思去，還是走常規路線(xiàn)，做一系列的手把手吧。
這樣一來(lái)，便于我的老朋友們識別,也讓我對這篇文章的粒度把我有個(gè)定位。
本篇博文主要介紹利用開(kāi)源的解決方案，來(lái)為企業(yè)搭建web高并發(fā)服務(wù)器架構花了一個(gè)多小時(shí)，畫(huà)了張圖片，希望能先幫你理解整個(gè)架構，之后我在一一介紹.linux的大型架構其實(shí)是一點(diǎn)點(diǎn)小架構拼接起來(lái)的，筆者從各個(gè)應用開(kāi)始配置，最后在完全整合起來(lái)，以實(shí)現效果。
至此，基本配置都已經(jīng)完成，下面需要安裝出來(lái)mysql，整個(gè)架構就基本實(shí)現了。
筆者在這里就不演示mysql的主主架構了，虛擬機真不夠用了。給出一個(gè)二進(jìn)制mysql的教程。
綠色二進(jìn)制包安裝MySQL 5.5.15
①：安裝過(guò)程
## 為MySQL建立用戶(hù)和組
groupadd -g 3306 mysql
useradd -g mysql -u 3306 -s /sbin/nologin -M mysql
## 二進(jìn)制安裝方式
tar xf mysql-5.5.15-linux2.6-i686.tar.gz -C /usr/local
ln -sv /usr/local/mysql-5.5.15-linux.2.6-i686 /usr/local/mysql
mkdir /mydata ## 創(chuàng )建數據保存目錄
chown -R mysql:mysql /mydata/
cd /usr/local/mysql
scripts/mysql_install_db --user=mysql --datadir=/mydata/data
chown -R root .
## 加入啟動(dòng)腳本
cp support-files/mysql.server /etc/init.d/mysqld
chkconfig --add mysqld
##修改配置文件
cp support-files/my-large.cnf /etc/my.cnf
## 加入mySQL命令
export PATH=$PATH:/usr/local/mysql/bin
## 定義頭文件
ln -sv /usr/local/mysql/include /usr/include/mysql
ldconfig
②：配置過(guò)程
vim /etc/my.cnf
在[mysqld]段內加入并修改以下兩處
datadir = /mydata/data
thread_concurrency 2 ## (并發(fā)線(xiàn)程數，一般是cpu核心的兩倍)
vim /etc/profile 在里面加入：
PATH=$PATH:/usr/local/mysql/bin
vim /etc/ld.so.conf.d/mysql.conf 寫(xiě)入
/usr/local/mysql/lib
③：?jiǎn)⒂眠^(guò)程
service mysqld start
cd /root/lnmp
輸入以下SQL語(yǔ)句，創(chuàng )建一個(gè)具有root權限的用戶(hù)（admin）和密碼（12345678）：
GRANT ALL PRIVILEGES ON *.* TO 'admin'@'localhost' IDENTIFIED BY '123';
GRANT ALL PRIVILEGES ON *.* TO 'admin'@'127.0.0.1' IDENTIFIED BY '123';
PS：
php在編譯的時(shí)候要支持上mysql，如果是php和mysql分離開(kāi)來(lái)，最好yum裝上php-mysql和mysql-devel包 然后再編譯帶上with-mysql
varnish在實(shí)現方向代理負載均衡的時(shí)候要定義為組的結構，還要定義出動(dòng)作的觸發(fā)條件。
memcached 的緩存對象要設置合理，不然反而會(huì )減慢效率。
nginx在優(yōu)化時(shí)要結合機器的硬件，切勿網(wǎng)上直接copy。
另外附加一份優(yōu)化的文檔，還望對各位有幫助：
（1）Nginx的優(yōu)化
一般來(lái)說(shuō)nginx 配置文件中對優(yōu)化比較有作用的為以下幾項：
worker_processes 8;
nginx 進(jìn)程數，建議按照cpu 數目來(lái)指定，一般為它的倍數。
worker_cpu_affinity 00000001 00000010 00000100 00001000 00010000 00100000 01000000 10000000;
為每個(gè)進(jìn)程分配cpu，上例中將8 個(gè)進(jìn)程分配到8 個(gè)cpu，當然可以寫(xiě)多個(gè)，或者將一個(gè)進(jìn)程分配到多個(gè)cpu。
worker_rlimit_nofile 102400;
這個(gè)指令是指當一個(gè)nginx 進(jìn)程打開(kāi)的最多文件描述符數目，理論值應該是最多打開(kāi)文件數（ulimit -n）與nginx 進(jìn)程數相除，但是nginx 分配請求并不是那么均勻，所以最好與ulimit-n 的值保持一致。
use epoll;
使用epoll 的I/O 模型，這個(gè)不用說(shuō)了吧。
worker_connections 102400;
每個(gè)進(jìn)程允許的最多連接數， 理論上每臺nginx 服務(wù)器的最大連接數為worker_processes*worker_connections。
keepalive_timeout 60;
keepalive 超時(shí)時(shí)間。
client_header_buffer_size 4k;
客戶(hù)端請求頭部的緩沖區大小，這個(gè)可以根據你的系統分頁(yè)大小來(lái)設置，一般一個(gè)請求頭的大小不會(huì )超過(guò)1k，不過(guò)由于一般系統分頁(yè)都要大于1k，所以這里設置為分頁(yè)大小。分頁(yè)大小可以用命令getconf PAGESIZE 取得。
open_file_cache max=102400 inactive=20s;
這個(gè)將為打開(kāi)文件指定緩存，默認是沒(méi)有啟用的，max 指定緩存數量，建議和打開(kāi)文件數一致，inactive 是指經(jīng)過(guò)多長(cháng)時(shí)間文件沒(méi)被請求后刪除緩存。
open_file_cache_valid 30s;
這個(gè)是指多長(cháng)時(shí)間檢查一次緩存的有效信息。
open_file_cache_min_uses 1;
open_file_cache 指令中的inactive 參數時(shí)間內文件的最少使用次數，如果超過(guò)這個(gè)數字，文件描述符一直是在緩存中打開(kāi)的，如上例，如果有一個(gè)文件在inactive 時(shí)間內一次沒(méi)被使用，它將被移除。
（2）關(guān)于內核參數的優(yōu)化：請修改文件/etc/sysctl.conf
net.ipv4.tcp_max_tw_buckets = 6000
timewait 的數量，默認是180000。
net.ipv4.ip_local_port_range = 1024 65000
允許系統打開(kāi)的端口范圍。
net.ipv4.tcp_tw_recycle = 1
啟用timewait 快速回收。
net.ipv4.tcp_tw_reuse = 1
開(kāi)啟重用。允許將TIME-WAIT sockets 重新用于新的TCP 連接。
net.ipv4.tcp_syncookies = 1
開(kāi)啟SYN Cookies，當出現SYN 等待隊列溢出時(shí)，啟用cookies 來(lái)處理。
net.core.somaxconn = 262144
web 應用中listen 函數的backlog 默認會(huì )給我們內核參數的net.core.somaxconn 限制到128，而nginx 定義的NGX_LISTEN_BACKLOG 默認為511，所以有必要調整這個(gè)值。
net.core.netdev_max_backlog = 262144
每個(gè)網(wǎng)絡(luò )接口接收數據包的速率比內核處理這些包的速率快時(shí)，允許送到隊列的數據包的最大數目。
net.ipv4.tcp_max_orphans = 262144
系統中最多有多少個(gè)TCP 套接字不被關(guān)聯(lián)到任何一個(gè)用戶(hù)文件句柄上。如果超過(guò)這個(gè)數字，孤兒連接將即刻被復位并打印出警告信息。這個(gè)限制僅僅是為了防止簡(jiǎn)單的DoS 攻擊，不能過(guò)分依靠它或者人為地減小這個(gè)值，更應該增加這個(gè)值(如果增加了內存之后)。
net.ipv4.tcp_max_syn_backlog = 262144
記錄的那些尚未收到客戶(hù)端確認信息的連接請求的最大值。對于有128M 內存的系統而言，缺省值是1024，小內存的系統則是128。
net.ipv4.tcp_timestamps = 0
時(shí)間戳可以避免序列號的卷繞。一個(gè)1Gbps 的鏈路肯定會(huì )遇到以前用過(guò)的序列號。時(shí)間戳能夠讓內核接受這種“異?！钡臄祿?。這里需要將其關(guān)掉。
net.ipv4.tcp_synack_retries = 1
為了打開(kāi)對端的連接，內核需要發(fā)送一個(gè)SYN 并附帶一個(gè)回應前面一個(gè)SYN 的ACK。也就是所謂三次握手中的第二次握手。這個(gè)設置決定了內核放棄連接之前發(fā)送SYN+ACK 包的數量。
net.ipv4.tcp_syn_retries = 1
在內核放棄建立連接之前發(fā)送SYN 包的數量。
net.ipv4.tcp_fin_timeout = 1
如果套接字由本端要求關(guān)閉，這個(gè)參數決定了它保持在FIN-WAIT-2 狀態(tài)的時(shí)間。對端可以出錯并永遠不關(guān)閉連接，甚至意外當機。缺省值是60 秒。2.2 內核的通常值是180 秒，你可以按這個(gè)設置，但要記住的是，即使你的機器是一個(gè)輕載的WEB 服務(wù)器，也有因為大量的死套接字而內存溢出的風(fēng)險，FIN- WAIT-2 的危險性比FIN-WAIT-1 要小，因為它最多只能吃掉1.5K 內存，但是它們的生存期長(cháng)些。
net.ipv4.tcp_keepalive_time = 30
當keepalive 起用的時(shí)候，TCP 發(fā)送keepalive 消息的頻度。缺省是2 小時(shí)。
（3）關(guān)于FastCGI 的幾個(gè)指令：
fastcgi_cache_path /usr/local/nginx/fastcgi_cache levels=1:2 keys_zone=TEST:10m inactive=5m;
這個(gè)指令為FastCGI 緩存指定一個(gè)路徑，目錄結構等級，關(guān)鍵字區域存儲時(shí)間和非活動(dòng)刪除時(shí)間。
fastcgi_connect_timeout 300;
指定連接到后端FastCGI 的超時(shí)時(shí)間。
fastcgi_send_timeout 300;
向FastCGI 傳送請求的超時(shí)時(shí)間，這個(gè)值是指已經(jīng)完成兩次握手后向FastCGI 傳送請求的超時(shí)時(shí)間。
fastcgi_read_timeout 300;
接收FastCGI 應答的超時(shí)時(shí)間，這個(gè)值是指已經(jīng)完成兩次握手后接收FastCGI 應答的超時(shí)時(shí)間。
fastcgi_buffer_size 4k;
指定讀取FastCGI 應答第一部分需要用多大的緩沖區，一般第一部分應答不會(huì )超過(guò)1k，由于頁(yè)面大小為4k，所以這里設置為4k。
fastcgi_buffers 8 4k;
指定本地需要用多少和多大的緩沖區來(lái)緩沖FastCGI 的應答。
fastcgi_busy_buffers_size 8k;
這個(gè)指令我也不知道是做什么用，只知道默認值是fastcgi_buffers 的兩倍。
fastcgi_temp_file_write_size 8k;
在寫(xiě)入fastcgi_temp_path 時(shí)將用多大的數據塊，默認值是fastcgi_buffers 的兩倍。
fastcgi_cache TEST
開(kāi)啟FastCGI 緩存并且為其制定一個(gè)名稱(chēng)。個(gè)人感覺(jué)開(kāi)啟緩存非常有用，可以有效降低CPU 負載，并且防止502 錯誤。
fastcgi_cache_valid 200 302 1h;
fastcgi_cache_valid 301 1d;
fastcgi_cache_valid any 1m;
為指定的應答代碼指定緩存時(shí)間，如上例中將200，302 應答緩存一小時(shí)，301 應答緩存1 天，其他為1 分鐘。
fastcgi_cache_min_uses 1;
緩存在fastcgi_cache_path 指令inactive 參數值時(shí)間內的最少使用次數，如上例，如果在5 分鐘內某文件1 次也沒(méi)有被使用，那么這個(gè)文件將被移除。
fastcgi_cache_use_stale error timeout invalid_header http_500;
不知道這個(gè)參數的作用，猜想應該是讓nginx 知道哪些類(lèi)型的緩存是沒(méi)用的。
寫(xiě)了2天，終于完成這篇架構了，可能還有很多細節不夠完善，但主要展示的部分都已完成了，linux的精髓就是把很多小的軟件組合成一個(gè)龐大的項目,各盡其能。
感謝google，感謝馬哥，還應感謝反賊和遠飏博客中的一些思路。
有問(wèn)題還望多多交流。
