Muito obrigado CarllosRA!
Estou fazendo alguns testes mas acho que acabei de encontrar uma solução no link a seguir: https://github.com/JonTheWong/whmcs-autoauth-invoice
Lá informam pra colocar o seguinte código no configuration.php do WHMCS:
$smarty_security_policy = array(
'mail' => array(
'php_modifiers' => array(
'md5',
),
),
);
Adicionando este código meu whmcs está enviando o e-mail e aparentemente o autologin funcionou corretamente!
Fica a dica para quem tiver o mesmo problema e precisar!