Оптимизация сервера: все тонкости и нюансы

Для увеличения производительности сервера можно использовать несколько способов, но самым лучшим является оптимизация.n

Оптимизация операционной системы (FreeBSD)

• Переход на 7.х является полезным для многоядерных систем, так как можно использовать новый ULE 3.0 Scheduler и jemalloc. Если вы применяете систему legacy 6.x и она не справляется с нагрузками, то самое время произвести переход на 7.х.
• Переход на 7.2 позволит увеличить KVA, оптимизировать по-дефолту sysctl и применять superpages. Уже готовится новый FreeBSD 8.0, который поможет значительно увеличить производительность.
• Переход на amd64 даёт возможность увеличить объёмы KVA и Shared Mem больше 2Gb. Необходимо создать условия для развития сервера, ведь базы данных постоянно увеличиваются и требуют больших размеров.
• Разгрузка сетевой подсистемы во FreeBSD поможет оптимизировать сервер. Этот процесс можно произвести в два этапа: тюнинг параметров ifconfig и настроек sysctl.conf/loader.conf. На этапе подготовки следует проверить возможности сетевой карты. Драйверы от Яндекса помогут увеличить скорость благодаря задействованию нескольких потоков, они часто применяются для многоядерных процессов. Для третьесортной сетевой карты лучшим решением станет polling’e. Последняя обновлённая версия тюнинга FreeBSD 7 поможет решить поставленную задачу.
• FreeBSD и огромное количество файлов замечательно работают благодаря кешированию имён файлов в директории. Поиск по хеш-таблице поможет быстро найти необходимый файл. Хотя максимальное количество памяти около 2Мб, можно её увеличивать пока vfs.ufs.dirhash_mem это позволяет.
• Softupdates, gjournal и mount options – это новые терабайтные винты, которые обладают прекрасной производительностью. При отключении электропитания их fsck займёт очень много времени, поэтому можно использовать softupdates или производить журналирование через gjournal.

Оптимизация фронтэнда (nginx)

Этот вид можно отнести в преждевременной оптимизации, хотя он поможет увеличить общий response time сайта. Среди стандартных оптимизаций стоит обратить внимание на reset_timedout_connection; sendfile; tcp_nopush и tcp_nodelay.n

• Accept Filters – это технология, которая даёт возможность передавать информацию от ядра к процессу в случае прихода новых данных или получения валидного http запроса. Эти фильтры помогут произвести разгрузку сервера при огромном количестве соединений.
• Кеширование в nginx характеризуется гибкостью, и производится от fastcgi или от proxy backend’ов. Каждый сможет по-умному использовать кеширование в своём проекте.
• AIO является очень полезным при некоторых специфичных нагрузках на сервер, ведь он сохраняет response time, в то время как уменьшается число воркеров. Новые версии nginx дают возможность использовать тандем aio с sendfile.

Оптимизация бэкэндаn

• APC – это фреймворк, который позволяет уменьшить нагрузку благодаря кешированию скомпилированного кода в ОП. APC locking стоит обновить, так как он может тормозить и вместо APC многие начинают применять eAccelerator. Стоит произвести замену locking на spinlock или pthread mutex. Значение APC hints стоит поднимать при огромном количестве .php файлов или при частом кешировании в APC user cache. APC fragmentation является признаком того, что вы применяете APC не по назначению. Он не может самостоятельно заниматься удалением записей по TTL или LRU.
• PHP 5.3 поможет увеличить прирост производительности, поэтому стоит обновить версию PHP, хотя список deprecated функций может напугать многих.

Оптимизация базы данных

MySQLnnИдей по улучшению работы MySQL есть очень много в интернете, ведь каждый веб-проект рано или поздно сталкивается с ограничениями объёма памяти, диска или процессора. Поэтому простые решения не помогут справиться с проблемой, стоит уделить больше времени профайлерам (dtrace, systemtap и oprofile), а также задействовать большое количество дополнительного программного обеспечения. Необходимо не только в совершенстве уметь использовать индексы, производить их сортировку и группировку, но также знать, как это всё функционирует внутри MySQL. Также необходимо знать преимущества и недостатки разных storage engine, понимать Query cache и EXPLAIN.nnСуществует несколько способов оптимизации MySQL, причём даже без изменений кодов, ведь половину тюнинга сервера можно осуществлять в полуавтоматическом режиме с помощью утилит tuningprimer, mysqltuner и mysqlsla.n

• Переход на 5.1 даёт много преимуществ, среди которых стоит выделить оптимизацию оптимизатора, Partitioning, InnoDB plugin и Row based replication. Для ускорения работы сайта некоторые экстремалы уже тестируют версию 5.4.
• Переход на InnoDB даёт много преимуществ. Он совместим с ACID, поэтому любая операция производится с помощью всего одной транзакции. Он имеет row-level locking, который даёт возможность одновременно читать и записывать много потоков изолированно друг от друга.
• Встроенный кеш MySQL – Query Cache является достаточно сложной для понимания, поэтому многие пользователи его используют нерационально или отключают. Для него больше не означает лучше, поэтому не стоит доводить эту подсистему до максимума. Query Cache является распараллеленной, в результате при использовании больше восьми процессов она будет только тормозить весь процесс, а не способствовать уменьшению времени загрузки сайта. Содержимое этой подсистемы, которое относится к определённой таблице, аннулируется при изменениях в этой таблице. Это означает, что Query Cache даёт положительный результат только при использовании грамотно составленных таблиц.
• Индексы могут быть вредными как для SELECT (при их отсутствии), так и для INSERT/UPDATE (при наличии лишних). Индекс, которым уже не используется, всё равно занимает память и тем самым замедляет изменения данных. Чтобы справиться с этой проблемой, стоит воспользоваться простым SQL запросом.

PostgreSQLnnСистема Postgres является достаточно разносторонней, ведь она относится к классу Enterprise и на ней прекрасно работает Skype, но в то же время её можно установить даже на мобильный телефон. Среди доступных 200 параметров, 45 из них являются основными и отвечают за тюнинг.nnВ интернете можно найти много полезной информации по тюнингу Postgres. Но некоторые статьи уже устарели, поэтому следует отталкиваться от даты публикации и обращать внимание на ту информацию, где используется ключ vacuum_mem, или в новых версиях maintenance_mem. Продвинутые программисты смогут найти много качественных трактатов, далее мы перечислим только те основы, которые помогут обычному пользователю улучшить свой проект.n

• Индексы PostgreSQL всегда на первом месте, в том время как у MySQL они занимают всегда последние позиции и это можно объяснить тем, что у PostgreSQL индексы обладают огромными возможностями. Программист должен прекрасно ориентировать в таких индексах, и знать когда и какой следует использовать, как GiST, GIN, hash и B-tree, а также partial, multicolumn и on expressions.
• pgBouncer и его альтернативы необходимо в первую очередь устанавливать на сервер с базой данных. Без наличия пулера соединений, каждый запрос создаёт отдельный процесс, который используется оперативную память. Вроде ничего страшного, но при создании более 200 соединений даже очень мощный сервер с трудом справляется с обработкой информации. pgBouncer помогает справиться с этой проблемой.
• pgFouine является незаменимой программой, так как её можно смело назвать аналогом mysqlsla на php. В тандеме с Playr она может осуществлять оптимизацию запросов в сложных условиях на staging серверах.

Разгрузка базы данныхnnДля оптимизации работы базы данных и увеличения её производительности следует как можно меньше её использовать.n

• SphinxQL можно использовать в качестве MySQL сервера. Для этого только нужно создать sphinx.conf, а также записи для indexer в cron и произвести переключение на другую базу. При этих действия даже нет необходимости изменять код. Переход на SphinxQL поможет повысить скорость и качества поиска, а также забыть о MyISAM и FTS.
• Не-RDBMS хранилище позволяет не применять реляционную БД. Можно остановить свой выбор на Hive или Oracle. База данных key-value благодаря своей скорости применяет выборки из реляционных баз для дальнейшего кеширования. Владельцы крупных проектов на PHP, могут использовать отличную возможность opcode cache для хранения всех custom данных. С его помощью можно надёжно сохранить даже перемены глобального значения, ведь они занимают мало места и практически не занимают память, а также скорость выборки значительно повыситься. Если для большого проекта блок глобальных перемен записать только на одну машину, то трафик вырастает, и она начинает сильно тормозить. Для решения этой проблемы необходимо хранить глобальные переменные в opcode cacher’e или произвести клонирование переменных по всем серверам и в алгоритме consistency hashing прописать исключения.
• Кодировки относятся к действенным методам разгрузки базы данных. Стоит отметить, UTF-8 – это прекрасный выбор, но на русском языке она занимает очень много места, поэтому для одноязычного контингента сначала следует подумать о рациональном использовании кодировки.
• Асинхронность поможет уменьшить время реакции приложения или сайта, а также существенно понизить нагрузку на сам сервер. Batch запросы производятся намного быстрее, чем привычные одиночные. Для огромных проектов можно использовать сообщения RabbitMQ, ApacheMQ или ZeroMQ, а для малых можно задействовать всего лишь cron.

 nn

Дополнительные приложения для проведения оптимизации

• SSHGuard или его альтернатива является стандартной практикой для ssh. Анти-брутфорсы помогают создать надёжную защиту сервера от нападок ботов.
•  Xtrabackup от Percona – это прекрасный инструмент для бэкапа MySQL, который обладает большим количеством настроек. Но идеальным решением всё же стоит назвать клоны в ZFS, ведь они создаются очень быстро, а чтобы произвести восстановление БД, достаточно изменить пути к файлам в конфигурации мускула. Клоны позволяют произвести восстановление системы с нуля.
• Перенос почты на другой хост позволит спасти трафик и IOPs, если ваш сервер просто засыпают спамами.
• Интеграция со сторонним программным обеспечением поможет произвести оптимизацию mysql сервера. Например, для обмена сообщениями можно использовать связку smtp/imap, которая не займёт много памяти. Для создания чата достаточно использовать основу jabber сервера с javascript клиентом. Эти системы, которые созданы на основе адаптеров к готовым продуктам, отличаются прекрасной возможностью масштабирования.
• Мониторинг – это очень важная составная часть, ведь невозможно осуществлять оптимизацию чего-либо без детального анализа. Необходимо следить за метриками производительности, свободными ресурсами и задержками, в этом поможет Zabbix, Cacti, Nagios и другие инструменты. Web Performance Test позволяет вычислить скорость загрузки сайта или проекта, поэтому очень помогает при мониторинге. При настройке performance сервера, помните, что только тщательный анализ поможет устранить все возникшие проблемы и произвести оптимизацию.

 Не поняли половины из  написанного — не беда. Оптимизацией работы сервера должны заниматься профессионалы. У нас большой опят обслуживания и оптимизации веб серверов и баз данных, обращайтесь [email protected]