um VPS é uma resposta meio genérica uhauha
tem VPS melhor que é mais forte que dedicado, oras..
Eu não tenho muita experiência na área de sites, mas o lucas deu uma resposta completíssima, eu nunca havia pensado no SSD para sites, apesar de ser algo meio obvio
O problema é o preço do SSD, o esquema pra quem está começando é ir apelando para o "MegaRAID 6 Gb/s" que ja ajuda com um custo baixo