¿Cómo montar un clúster de Hadoop en la nube?

Autor: | Última modificación: 5 de mayo de 2022 | Tiempo de Lectura: 4 minutos
Temas en este post:

El clúster de Hadoop en la nube es un elemento fundamental para el desarrollo de esta biblioteca de software en la gestión de los datos. Por ello, su implementación en la nube resulta imprescindible una vez se pasan los macrodatos a la red, ya que a partir de ello se establecen una serie de funciones alrededor de la presencia del clúster. De manera que conocer cómo se implementa en la nube de Hadoop es imprescindible.

A pesar de que montar un clúster de Hadoop en la nube puede parecer un proceso complicado y difícil, su desarrollo trae consigo una gran variedad de ventajas. Además, por medio de ejemplos ilustrativos, este proceso es un poco más comprensible para su aplicación a la consola. Por ello, en este post, te exponemos cómo montar un clúster de Hadoop en la nube.

Algunas consideraciones antes de empezar

Para montar un clúster de Hadoop en la nube es necesario partir de que el objetivo de estos radica en liberarse de los setups locales. Además, este proceso te ayudará a aprender a usar los servicios aprovisionados en la nube de Hadoop.

Conocer estos servicios es de suma importancia, ya que en el desarrollo profesional pocas veces podrás trabajar en equipos locales. Por ello, las herramientas Cloud se convierten en un elemento fundamental.

Sin embargo, trabajar en la nube tiene un precio. A día de hoy, de todos los planes gratuitos o de Trial, el más conveniente es GCP Compute. En líneas generales, GCP te ofrece un crédito de 300 USD para gastar durante tres meses enteros en lo que quieras, a diferencia de otros proveedores que te dan menos tiempo o menos dinero.

¿Cómo montar un clúster de Hadoop en la nube?

En primer lugar, deberás tener una cuenta de Google (puedes crear una nueva de prueba si no quieres desgastar tu cuenta principal). Ahora, para empezar esta pequeña guía de cómo montar un clúster de Hadoop en la nube, utilizaremos la prueba gratis de Google Cloud.

Una vez te dirijas allí y le des clic a la prueba gratis, deberás ver algo como lo que se muestra en la siguiente imagen. Aquí tendrás que dar clic en «aceptar» y «continuar» hasta el final.

¿Cómo montar un clúster de Hadoop en la nube? 1

Si no te sale algo como la imagen anterior, entonces, verás algo como:

¿Cómo montar un clúster de Hadoop en la nube? 2

Finalmente, podrás ver la siguiente información, lo que significa que ya estás dentro:

¿Cómo montar un clúster de Hadoop en la nube? 3

Ahora, tendrás que dirigirte a la plataforma de Google Cloud, en donde deberás hacer clic en la opción de «Compute Engine», como se muestra a continuación:

¿Cómo montar un clúster de Hadoop en la nube? 4

Entonces, se abrirá una ventana de «Crear proyecto», en la que deberás seleccionar un proyecto como ejemplo para montar el clúster de Hadoop en la nube.

¿Cómo montar un clúster de Hadoop en la nube? 5

Después, debes seleccionar la opción de Dataproc y luego dar clic en «Agrupaciones».

¿Cómo montar un clúster de Hadoop en la nube? 6

Ahora, saldrá una ventana de «Crear una agrupación», dentro de la que podrás empezar a crear el clúster de Hadoop en la nube.

¿Cómo montar un clúster de Hadoop en la nube? 7

Llegados a este punto, el proceso consiste en «Definir clúster» y finalizar al dar clic en «Crear».

¿Cuál es el siguiente paso?

Ahora, podrás analizar la red VPC (Virtual Private Cloud) y el cortafuegos o firewall:

¿Cómo montar un clúster de Hadoop en la nube? 8

Por otra parte, ten en cuenta que Hadoop en GCP (Google Cloud Plataform) funciona a través de los puertos 8088 y 9870.

Ahora, podrás añadir una nueva regla que te permita entrar en las vistas de administración del clúster, como te mostramos a continuación:

¿Cómo montar un clúster de Hadoop en la nube? 9

Recuerda que los puertos son: tcp:8088;udp:8088;tcp:9870;udp:9870.

Una vez hecho esto, podrás buscar la IP del nodo maestro, para ello, debes dirigirte a Compute Engine y ver las instancias creadas.

¿Cómo montar un clúster de Hadoop en la nube? 10

Ahora, podrás entrar al clúster montado.

Por otra parte, si quieres entrar a comprobar directamente, podrás descargar GCP (Google Cloud Plataform) SHELL y finalmente, debes ejecutar:

¿Cómo montar un clúster de Hadoop en la nube? 11

¡Ya estás dentro!

Una vez estés dentro con el SHELL, debes tener en cuenta que esta instalación de Hadoop está hecha por el equipo de Google, por lo que no todos los archivos se encuentran en el mismo lugar.

De hecho, para comprobar los ficheros, deberás ubicarte en el directorio que contiene los archivos .jar de ejemplo de Hadoop, de la siguiente forma:

¿Cómo montar un clúster de Hadoop en la nube? 12

Ten en cuenta que al estar provisionada no tendrás que ocuparte de arrancar servicios, a menos que quieras arrancar los servicios extra.

Ahora, por último, podrás calcular PI como siempre lo has hecho en un clúster local.

¿Cómo montar un clúster de Hadoop en la nube? 13

¿Cómo aprender más sobre Big Data?

En el transcurso de este post, te hemos mostrado cómo montar un clúster de Hadoop en la nube, de manera que ya solo te queda ensayar la parte práctica para complementar el ejemplo presentado. En suma, Hadoop posee múltiples alternativas de desarrollo para que la gestión de la información sea mucho más sencilla, intuitiva y eficaz. De forma que te aconsejamos continuar aprendiendo sobre el manejo del Big Data a través de esta biblioteca de software.

Si aún no sabes cómo y quieres instruirte a profundidad en las principales herramientas para el procesamiento de los macrodatos, desde KeepCoding te ofrecemos nuestro Bootcamp Full Stack Big Data, Inteligencia Artificial & Machine Learning. Con este bootcamp, no solo continuarás instruyéndote sobre el Big Data, también podrás hacerlo de manera remota y con el acompañamiento de grandes especialistas en cada uno de sus once módulos de desarrollo. Además, nuestra enseñanza teórica siempre irá de la mano del ensayo práctico. ¿A qué estás esperando? ¡Inscríbete ahora!

👉 Descubre más del Big Data, Inteligencia Artificial & Machine Learning Full Stack Bootcamp ¡Descarga el temario!

👉 Prueba el Bootcamp Gratis por una Semana ¡Empieza ahora mismo!

👉 Conoce nuestros otros Bootcamps en Programación y Tecnología

[email protected]

¿Sabías que hay más de 5.000 vacantes para desarrolladores de Big Data sin cubrir en España? 

En KeepCoding llevamos desde 2012 guiando personas como tú a áreas de alta empleabilidad y alto potencial de crecimiento en IT con formación de máxima calidad.

 

Porque creemos que un buen trabajo es fuente de libertad, independencia, crecimiento y eso ¡cambia historias de vida!


¡Da el primer paso!