¿Cuáles son los buenos métodos para muestrear big data?

La pregunta ha sido el centro de muchos debates en las comunidades de ciencia de datos desde hace bastante tiempo. (evidente a partir de ¿Es relevante el muestreo en el momento de ‘big data’?)

¿Siguen siendo relevantes los métodos tradicionales ?: ¡ Sí, más o menos! . Es importante comprender cómo los miles de millones de puntos de datos disponibles realmente pueden ayudarnos a llegar a una conclusión para el problema en cuestión. Los científicos de datos a menudo intentan encontrar eventos y patrones en los datos tomando una muestra relevante (al enunciado del problema) y representativa del volumen disponible. Por lo tanto, las técnicas de muestreo tradicionales todavía son bastante prácticas.

Con Big Data, uno puede pintar una imagen mucho más completa usando cerrar todos los puntos de datos. El muestreo selectivo en paralelo serviría para tareas de muestreo repetitivo en cada una de las diferentes muestras de la población de datos.

Resumen: con las técnicas de computación paralela, también se puede tener una implementación paralela de las técnicas de muestreo tradicionales en grandes conjuntos de datos.

programas de inteligencia empresarial (BI). Eso podría incluir registros del servidor web y datos de Internet Click Stream, contenido de redes sociales e informes de actividad de redes sociales, texto de correos electrónicos de clientes y respuestas de encuestas, registros detallados de llamadas de teléfonos móviles y datos de máquinas capturados por sensores conectados a INTERNET. Algunas personas se asocian exclusivamente Big Data con datos semiestructurados y no estructurados de ese tipo, pero las firmas consultoras como Gartner Inc. y Forrester Research Inc. también consideran que las transacciones y otros datos estructurados son componentes válidos de las aplicaciones de análisis de Big Data.

Los grandes datos se pueden analizar con las herramientas de software comúnmente utilizadas como parte de las disciplinas de Advance Analytics, como la minería de datos de análisis preventivo, el análisis de texto y el método estático. Software de BI convencional y Big Data, ciencia de datos – Clases de capacitación de cursos combinados en línea | Big Data, Data Science: curso combinado Cursos Las herramientas de visualización en línea también pueden desempeñar un papel en el proceso de análisis. Pero los datos semiestructurados y no estructurados pueden no encajar bien en el Data Warehouse tradicional basado en la base de datos relacional. Además, es posible que los almacenes de datos no puedan manejar las demandas de procesamiento que plantean los conjuntos de grandes datos que deben actualizarse con frecuencia o incluso de manera continua, por ejemplo, datos en tiempo real sobre el rendimiento de aplicaciones móviles o de oleoductos y gasoductos. Como resultado, muchas organizaciones que buscan recopilar, procesar y analizar grandes datos han recurrido a una nueva clase de tecnologías que incluye Hadoop y herramientas relacionadas como Yarn Spook, Spark y Pig, así como bases de datos No Sql. Esas tecnologías forman el núcleo de un marco de software de código abierto que admite el procesamiento de conjuntos de datos grandes y diversos en sistemas en clúster.

En algunos casos, los sistemas Hadoop Cluster y No SQL se están utilizando como plataformas de aterrizaje y áreas de preparación de datos antes de que se carguen en un almacén de datos para su análisis, a menudo en forma resumida que es más propicio para las estructuras relacionales. Sin embargo, cada vez más, los proveedores de Big Data están impulsando el concepto de una toma de datos de Hadoop que sirve como el depósito central para los flujos entrantes de datos sin procesar de una organización. En tales arquitecturas, los subconjuntos de datos se pueden filtrar para su análisis en almacenes de datos y bases de datos de análisis, o se pueden analizar directamente en Hadoop utilizando herramientas de consulta por lotes, software de procesamiento de flujo y tecnologías SQL y Hdoop que ejecutan consultas interactivas y ad hoc escritas en SQL Las posibles trampas que pueden hacer tropezar a las organizaciones en iniciativas de análisis de big data incluyen la falta de habilidades analíticas internas y el alto costo de contratar profesionales analíticos experimentados. La cantidad de información que generalmente está involucrada, y su variedad, también pueden causar dolores de cabeza en la gestión de datos, incluidos la calidad de los datos y problemas de consistencia. Además, integrar sistemas Hadoop y almacenes de datos puede ser un desafío, aunque varios proveedores ahora ofrecen conectores de software entre Hadoop y bases de datos relacionales, así como otras herramientas de integración de datos con capacidades de big data.

Las empresas están utilizando el poder de los conocimientos proporcionados por Big Data para establecer instantáneamente quién hizo qué, cuándo y dónde. El mayor valor creado por estos conocimientos oportunos y significativos de grandes conjuntos de datos es a menudo la toma de decisiones empresariales efectivas que permiten los conocimientos.

Extrapolar información valiosa de cantidades muy grandes de datos estructurados y no estructurados de fuentes dispares en diferentes formatos requiere la estructura adecuada y las herramientas adecuadas.

Durante cientos, si no miles de años, nosotros los humanos hemos estado tomando muestras de grandes datos. Solo porque ahora hay un término, “vagamente definido”, “big data”, las técnicas de muestreo no han cambiado.

Bueno, es lo mismo que haríamos tradicionalmente. Por ejemplo, en la industria bancaria, consideremos que tenemos toda la información relacionada con nuestras cuentas sobre el HDFS de Hadoop y los datos administrados por un sistema de base de datos columnar como HBase. Las filas están indexadas por claves esencialmente ID de cuenta. HBase gestiona los datos y se escala horizontalmente en 10 nodos diferentes del clúster. Usaría algo como esto … RandomRowFilter (Apache HBase 2.0.0-SNAPSHOT API) para muestrear al azar algunas cuentas de mi BigTable

¡Espero que esto ayude!