Primeiro, Windows não presta nem para desktop, imagina para servidor.
Então, no linux nunca tive este tipo de problema. O detalhe que tive é que demora pelo menos 30 minutos para liberar memória de um usuário que saiu.
Eu não recomendo menos de 16GB de memória por maquina para rodar o Wowza. Isso para evitar que o Wowza tenha que economizar memória.