Cómo escalar cuando se usa EC2

Para su primera aplicación, mi sugerencia es ir a un PAAS que puede ayudarlo a implementar e iterar rápidamente su aplicación, y escalarla fácilmente una vez que entre en funcionamiento. Por lo general, admiten una gran cantidad de servicios de terceros, todos fácilmente escalables: todos los modos de bases de datos SQL y noSQL, software de almacenamiento en caché y motores de búsqueda, monitoreo y registro, etc., y agregarlos a su aplicación generalmente toma 5 minutos.

EC2 suena muy bien, pero tiene sobrecarga; si implementa en AWS, eso generalmente significa que tiene a alguien en el personal que sabe lo que está haciendo y puede dedicar la mayor parte (si no todo) de su tiempo a trabajar en el lado Ops de sus aplicaciones.

Para node.js, algunos excelentes proveedores de PAAS son Heroku y Nodejitsu:
Comenzando con Node.js en Heroku
¿Por qué usar Nodejitsu para alojar sus aplicaciones Node.js?

Para otros idiomas, busque en Google App Engine, Elastic Beanstalk de AWS o Heroku. Aquí hay un vistazo más detallado de sus ofertas:
Lista de proveedores de PaaS: comparación y guía 2014

Si desea seguir la ruta de AWS, le recomiendo que busque AMI preconfigurados ya configurados, que pueden funcionar con Auto-Scaling, como las populares pilas de Bitnami; para el almacenamiento persistente, es mucho más fácil usar RDS, SimpleDB y DynamoDB que rodar el suyo.
Para la implementación, http://aws.amazon.com/elasticbea… ha hecho algunos grandes avances.

Necesita construir una aplicación estable horizontalmente. Esto depende del marco o la pila de elección. Hay muchos de Play + Akka, RoR, XAMMP y otros.

Luego configure un AMI EC2 con sus aplicaciones. Configure EC2 con autoescalado.