La fonctionnalité de recherche est en construction.
La fonctionnalité de recherche est en construction.

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. ex. Some numerals are expressed as "XNUMX".
Copyrights notice

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. Copyrights notice

A Theoretical Analysis of On-Line Learning Using Correlated Examples Une analyse théorique de l'apprentissage en ligne à l'aide d'exemples corrélés

Chihiro SEKI, Shingo SAKURAI, Masafumi MATSUNO, Seiji MIYOSHI

  • Vues en texte intégral

    0

  • Citer

Résumé:

Dans cet article, nous étudions analytiquement les performances de généralisation de l'apprentissage en utilisant des entrées corrélées dans le cadre de l'apprentissage en ligne avec une méthode mécanique statistique. Nous considérons un modèle composé de perceptrons linéaires avec bruit gaussien. Dans un premier temps, nous analysons le cas de la méthode du gradient. Nous clarifions analytiquement que plus la corrélation entre les entrées est grande ou plus le nombre d'entrées est grand, plus la condition que le taux d'apprentissage doit satisfaire est stricte et plus la vitesse d'apprentissage est lente. Deuxièmement, nous traitons l’apprentissage par projection orthogonale par bloc comme une règle d’apprentissage alternative et en déduisons la théorie. Dans un cas silencieux, la vitesse d'apprentissage ne dépend pas de la corrélation et est proportionnelle au nombre d'entrées utilisées dans une mise à jour. La vitesse d'apprentissage est identique à celle de la méthode du gradient avec entrées non corrélées. D’un autre côté, lorsqu’il y a du bruit, plus la corrélation entre les entrées est grande, plus la vitesse d’apprentissage est lente et plus l’erreur de généralisation résiduelle est grande.

Publication
IEICE TRANSACTIONS on Fundamentals Vol.E91-A No.9 pp.2663-2670
Date de publication
2008/09/01
Publicisé
ISSN en ligne
1745-1337
DOI
10.1093/ietfec/e91-a.9.2663
Type de manuscrit
PAPER
Catégories
Réseaux de neurones et bio-ingénierie

Auteurs

Mots-clés

Table des matières