Olá,

Considerando que você está com o banco de dados na mesma conta, e só quer passar ele do seu domínio principal para o subdomínio, não seria necessário criar outro. Nesse caso é só entrar na tabela tblconfiguration e alterar os dados que possuem o seu dominínio e colocar o sub.dominio no lugar. 

Outra questão importante com essa questão de migração é sua licença WHMCS. A mesma precisará ser "redefinida" para funcionar de maneira correta no subdomínio, caso contrário, o acesso ficará invalidado, pois não estará no meio "path".

Não precisa fazer nada disso, não precisa fazer nada na base de dados. Para mudar o local de instalação do whmcs basta mover para o novo local e fazer a atualização da nova url válida. Isso obviamente, se o teu whmcs for devidamente licenciado, versões nulled ou as famosas "webhost", não tem como.