Bias inductive processus gaussien

Question

Toutes les techniques d'apprentissage supervisé ont une sorte d'un biais inductif. Quel est le biais inductif dans les modèles de processus gaussien?

Answer 1

La polarisation inductive d'un processus gaussien (GP) est codée dans le noyau de covariance. Un GP est une distribution sur les fonctions -. Lorsque nous choisissons un noyau, nous précisons les caractéristiques que nous nous attendons à la fonction de solution pour avoir, par exemple, lisse, linéaire, périodique, etc

Par exemple, un noyau de covariance commun est l'exponentielle au carré:

$$ K_ {SE} (x, x ') = \ exp \ left (- \ frac {|| x - x' || _2 ^ 2} {2} ^ 2 L \ right) $$

où $ l $ est la caractéristique de longueur échelle. Ce noyau spécifie qu'un point non observé est semblable à chaque point observé comme une fonction exponentielle de la décomposition distance euclidienne entre les deux points.

Des explications plus détaillées se trouvent dans la section 2.4 thèse de Andrew Gordon Wilson ou dans le livre processus gaussiennes pour l'apprentissage machine .