Obrigado por todos pela ajuda, consegui resolver.
Tentei reiniciar diversas vezes, sem nenhum resultado, troquei para Lighttpd e a memória baixou para níveis excelentes, mas não consegui fazer o wordpress rodar, devido a problemas com os permalinks.
Quando voltei do Lighttpd para o Apache novamente, os índices de memória voltaram ao normal, inclusive voltaram um pouco mais baixos do que estavam, agora o consumo está girando em torno de 350mb.
Aproveitando o tópico, alguém poderia me dar alguma dica de como fazer o wordpress funcionar corretamente com o Kloxo e Lighttpd?
Obrigado!