Alguém saberia me informar qual o sistema de caracteres, uso no novo whmcs para que ele reconheça os caracteres especiais tal como pois no admin esta utf-8, onde todos os caracteres são reconhecidos porém na área do cliente ele não reconhece o ç entre outros.

Utilize o notepad plus e formate para "utf-8", pois deve estar como ANSI.

Já foi a Configurações > Localização e escolheu UTF-8 (pra área do cliente)?

Ao fazer a alteração, limpe a pasta templates_c - Eu utilizo o padrão UTF-8 e não tenho problemas.