Relation entre le train et l'erreur de test

Question

J'ai des questions spécifiques pour lesquelles je ne pouvais pas extraire des réponses des livres. Par conséquent, je demande de l'aide ici et je serai extrêmement reconnaissant pour une explication intuitive si possible.

En général, les réseaux de neurones ont un compromis biais / variance et nous devons donc avoir un régularisateur. Biais plus élevé -> sous-instruction; Variance plus élevée ---> sur-ajustement.

Pour résoudre un sur-ajustement, nous utilisons la régularisation pour contacter le poids. Il s'agit d'un hyperparamètre et doit être appris pendant la formation en fonction de ma compréhension en utilisant la validation croisée. Ainsi, l'ensemble de données est divisé en train, validation et jeu de test. L'ensemble de tests est indépendant et est invisible par le modèle pendant l'apprentissage, mais nous avons les étiquettes disponibles pour cela. Nous rapportons généralement les statistiques telles que les faux positifs, la matrice de confusion, la classification erronée basée sur cet ensemble de tests.

Q1) Ce problème de biais / variance est-il rencontré dans d'autres algorithmes tels que SVM, LSTM, etc.?

Dans le réseau neuronal convolutionnel (Boîte à outils MATLAB) Je n'ai vu aucune option pour spécifier la constante constante. Alors, cela signifie-t-il que les CNN n'ont pas besoin d'un régulariseur?

Q2) Quelle est la condition si l'erreur de formation et l'erreur de test sont toutes les deux nulles? Est-ce la meilleure situation idéale?

Q3) Quelle est la condition si l'erreur de formation> Erreur de test?

Q4) Quelle est la condition si l'erreur de formation> Erreur de validation?

S'il vous plaît, corrigez-moi où le mal. Merci beaucoup.