Support Vector Machines (SVM)

Clasificación y principales características

• Más comúnmente se utilizan para tareas de clasificación, aunque también se adaptan a problemas de regresión y de detección de valores atípicos.
• Modelos de aprendizaje supervisado: requieren datos de entrenamiento etiquetados.
• De aprendizaje basado en modelo.
• De tipo “eager learning”: durante el entrenamiento se construye un modelo que se utiliza después para hacer las predicciones.
• No paramétrico: no hacen suposiciones sobre la distribución que siguen los datos.
• Global: se construye un modelo, no se tienen en cuenta únicamente las instancias de entrenamiento más cercanas a las nuevas muestras.

Objetivo

• Encontrar una recta que separa los puntos de manera óptima, si estamos en dos dimensiones.
• Encontrar un hiperplano que separa los puntos de manera óptima, si tenemos más de 2 dimensiones.

La idea, en los dos casos, es MAXIMIZAR el margen de separación de los datos.

¿Qué es un hiperplano?

Es una generalización de un plano.

• En una dimensión, un hiperplano es, básicamente, un punto.
• En dos dimensiones, un hiperplano es una recta.
• En tres dimensiones, es un plano.
• En más de tres dimensiones, es un hiperplano.

¿Qué es el margen?

Dado un hiperplano, es posible calcular la distancia entre el hiperplano y el punto de datos más cercano. Duplicando este valor, se obtiene el margen.