Cara,eu conheço alguns:
1º Camtasia Studio, http://www.techsmith.com/camtasia.html ele é um programa pago, mas ele além de gravar a tela, também é um editor
2º Fraps, ele dá para gravar a tela, somente com o Windows 7, eu nao sei se no 8 da, http://www.fraps.com/ ele é pago também