Para limitar o uso de memória do servidor pelo MYSQL, realizar a seguinte configuração:

1. Acessar o arquivo my.ini
2. Alterar o seguinte parâmetro: innodb_buffer_pool_size=2G
3. Reiniciar o serviço do MySQL.

Com a configuração realizada acima o MySQL deve consumir no máximo 3G de memória, limitando o armazenamento de buffer para 2G. Por padrão o MySQL deve utilizar toda memória disponível do servidor, em alguns casos travando o sistema.