Servidores proxy: ¿Cuál es la diferencia entre la dirección IP privada en el DNS público?

No conozco ninguna razón técnica por la cual poner direcciones RFC1918 en DNS público no funcionará en este caso. Sin embargo, la mayoría de los programas que envían correo buscan primero un registro de recursos MX DNS y luego recurren al uso de un registro A.

Usando el archivo hosts

Depende de cuántos archivos de host deba administrar. Si solo son unos pocos, recomendaría simplemente agregar sus direcciones allí por ahora. Si comienza a crecer, es posible que desee ver la administración central de este archivo a través de puppet / chef o tal vez mirar de pie su propio servidor DNS.

Hay algunas otras alternativas dependiendo de qué SO están en la mezcla.

Usando dnsmasq / dns muy ligero

Dnsmasq usa el archivo / etc / hosts como su configuración. Este enfoque no utiliza DNS de multidifusión, por lo que sus clientes deberán saber utilizar este servidor como servidor DNS a través de DHCP o configuración estática.
Mejore sus servicios de DNS y DHCP con dnsmasq

DNS de multidifusión

Dependiendo de lo que envíe el correo electrónico a su servidor SMTP, esto también podría ser una opción.
Puede probar si esto ya funciona de alguna manera en su red probando esto:

$ dig +short -x 10.0.0.200 @224.0.0.251 -p 5353 servername.local. 

El 224.0.0.251 es un segmento local bien conocido que solo reserva direcciones para DNS de multidifusión (mDNS) que opera UDP 5353. (De hecho, 224.0.0.0 – 224.0.0.255 son todas direcciones de segmento local bien conocidas)
El -x es la abreviatura de -t PTR o un registro inverso.

Puede que tenga que agregar esto a su /etc/nsswitch.conf si tiene un cliente Linux:
[consola de código] $ sudo vi /etc/nsswitch.conf
hosts: archivos dns mdns

Esta sección del servidor de nombres de este documento explica algunas otras posibilidades para esta opción:
configuración de la red
Y Avahi – ArchWiki

No estoy seguro de si puede usar Windows para resolver nombres DNS de transmisión múltiple cuando no está en modo ZeroConf y tiene una dirección APIPA.