Ampliar una regresión lineal

Autor: | Última modificación: 31 de enero de 2023 | Tiempo de Lectura: 3 minutos
Temas en este post: ,

Algunos de nuestros reconocimientos:

Premios KeepCoding

¿Sabes cómo ampliar una regresión lineal y para qué se usa este procedimiento?

Lo bueno de la regresión lineal y de los mínimos cuadrados es que son muy versátiles. Seguro que piensas que calcular una función lineal es un problema muy simple, teniendo en cuenta que solo estamos dibujando una línea a través de nuestro hiperplano, pero eso no es así. Las funciones lineales son la base de todo, incluso de las redes neuronales.

Ampliar una regresión lineal

Las regresiones lineales y los mínimos cuadrados son herramientas muy potentes. Recuerda que la regresión lineal se llama de este modo porque la salida es lineal:

Ampliar una regresión lineal

Aquí, como vemos, tenemos una relación lineal de los pesos w, no necesariamente de las entradas x. En el siguiente ejemplo, la regresión lineal va a ser algo que NO queramos utilizar, porque no va a modelar correctamente nuestros datos. ¿Qué hacemos entonces?

Ampliar una regresión lineal
Gráfico antes de ampliar una regresión lineal

y = w0 + w1x

Si tenemos los datos de esta forma, estaríamos simplificando mucho el problema, es decir, que nuestro modelo, la hipótesis del mismo, no sería lo suficientemente compleja para poder representar bien nuestros datos. Por tanto, tenderíamos al underfitting, es decir, que nuestro modelo no aprendiese bien de los datos.

¿Cómo solucionamos esto? La solución más fácil es coger la ecuación presentada arriba y añadirle el cuadrado, es decir, el resultado de las operaciones hechas dentro de la misma, se tomará al cuadrado, pudiendo así ampliar una regresión lineal.

Ya sabemos que todas las ecuaciones polinómicas tienen la forma de x2 + x + b, donde B es un número y a x2 y x se les añade uno también.

Así pues, una forma de expresar estos datos que tienen una forma tan curiosa es extender la ecuación usando cuadrados.

Si miramos la ecuación original de la regresión lineal, tenemos la salida y, que es aproximadamente igual a la entrada x multiplicando por un peso w1, más un desplazamiento w0.

Básicamente, estamos diciendo que los datos tienen que ser modelados por una línea, pero no es lo ideal en este caso.

Podríamos decir ahora que nuestra salida y sea de la forma:

y = w0 + w1x + w2x2 + w3x3

Entonces, si miramos en la ecuación anterior, le añadimos a x2 un x3, con lo que aquí también se logró ampliar una regresión lineal y el resultado es el siguiente:

Ampliar una regresión lineal
Ampliar una regresión lineal: resultado

Esto es lo que se denomina regresión polinomial utilizando una función de 3 orden, con lo que ya podemos ampliar una regresión lineal. Lo mejor de todo es que se resuelve de la misma forma que la regresión lineal, usando:

XT XW’ = XT y

O lo que es lo mismo:

W’ = (XT X)-1 XT y

La única diferencia es que nuestra matriz X con un polinomio de grado p será de la forma:

Ampliar una regresión lineal

Donde p será el orden de nuestro polinomio.

Nota: d = 1 indica que solo tiene una variable, por ejemplo: edad/dinero.

Influencia del grado del polinomio en nuestra regresión

Ampliar una regresión lineal
Ampliar una regresión lineal
Ampliar una regresión lineal


Regresión polinomial en R2 (2 dimensiones)

Como hemos visto, la regresión polinomial se resuelve de la misma forma que una regresión lineal, la única diferencia es que tendremos más componentes en nuestra matriz X. El número de columnas vendrá dado por:

(orden polinomio) x (dimensiones) + 1

En ese caso, para un polinomio de orden 2:

yi = w0 + w1xi1 + w2xi2 + w3x2 i1 + w4x2 i2

Para un polinomio de orden 3:

yi = w0 + w1xi1 + w2xi2 + w3x2 i1 + w4x2 i2 + w5x3 i1 + w6x3 i2

Ampliar una regresión lineal

¿Quieres seguir avanzando en tu formación?

Ahora que hemos visto cómo ampliar una regresión lineal, podemos seguir aprendiendo otras cosas relacionadas con este campo. El Big Data es una de las áreas en las que más trabajos se ofertan. Para poder acceder a este tipo de opciones laborales, que son de las más prolíficas y mejor pagadas actualmente, tenemos para ti el Big Data, Inteligencia Artificial & Machine Learning Full Stack Bootcamp, una formación intensiva e íntegra en la que adquirirás todos los conocimientos teóricos y prácticos que te acercarán al trabajo de tus sueños en pocos meses. ¡Anímate y solicita más información ahora!

👉 Descubre más del Big Data, Inteligencia Artificial & Machine Learning Full Stack Bootcamp ¡Descarga el temario!

👉 Prueba el Bootcamp Gratis por una Semana ¡Empieza ahora mismo!

👉 Conoce nuestros otros Bootcamps en Programación y Tecnología

¡CONVOCATORIA ABIERTA!

Big Data, IA & Machine Learning

Full Stack Bootcamp

Clases en Directo | Profesores en Activo | Temario 100% actualizado