¿Se puede hackear un Android encriptado rooteado (ADB habilitado, cmOS oficial, compilación 01/01/2016, recuperación TWRP 2.8.0) que requiere contraseña en el inicio?

Sí, los teléfonos encriptados tienen la clave en el nivel superior para el descifrado para un encendido más rápido. Entonces, si el cargador de arranque del teléfono está desbloqueado (acepta comandos de la PC usando fastboot), entonces podemos descifrar o eliminar el cifrado o incluso podemos recuperar la contraseña de los datos visibles en el nivel del cargador de arranque. Como se mencionó acerca de la recuperación, si uno tiene una imagen de respaldo del sistema operativo antes del cifrado (básicamente todos lo hacen) podemos acceder a esa imagen de respaldo, restaurarla sin cifrar y acceder a los datos presentes en el teléfono. Más la seguridad más las vulnerabilidades. Cerrar todas las posibilidades puede llevar a una nueva, por lo tanto, ningún dispositivo puede ser seguro hasta que se pruebe en todas las circunstancias y todas las posibilidades conocidas.

Si desea que un dispositivo sea seguro, el cifrado debe hacerse desde el kernel (punto de entrada de cualquier sistema operativo).

PD: explicado solo con fines educativos. Todo lo mejor.