La fonctionnalité de recherche est en construction.
La fonctionnalité de recherche est en construction.

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. ex. Some numerals are expressed as "XNUMX".
Copyrights notice

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. Copyrights notice

Stochastic Discrete First-Order Algorithm for Feature Subset Selection Algorithme stochastique discret de premier ordre pour la sélection de sous-ensembles de fonctionnalités

Kota KUDO, Yuichi TAKANO, Ryo NOMURA

  • Vues en texte intégral

    0

  • Citer

Résumé:

Cet article aborde le problème de la sélection d'un sous-ensemble significatif de caractéristiques candidates à utiliser pour la régression linéaire multiple. Bertsimas et al. [5] ont récemment proposé l'algorithme discret du premier ordre (DFO) pour trouver efficacement des solutions quasi optimales à ce problème. Cependant, cet algorithme ne peut échapper aux solutions localement optimales. Pour résoudre ce problème, nous proposons un algorithme stochastique discret de premier ordre (SDFO) pour la sélection de sous-ensembles de fonctionnalités. Dans cet algorithme, des perturbations aléatoires sont ajoutées à une séquence de solutions candidates afin d'échapper aux solutions localement optimales, ce qui élargit la gamme de solutions détectables. De plus, nous dérivons la taille de pas optimale dans la direction de descente du gradient pour accélérer la convergence de l'algorithme. Nous utilisons également efficacement les L2-terme de régularisation pour améliorer les performances prédictives d'un modèle de régression de sous-ensemble résultant. Les résultats de la simulation démontrent que notre algorithme surpasse considérablement l'algorithme original du MPO. Notre algorithme était également supérieur en termes de performances prédictives au lasso et à la sélection étape par étape.

Publication
IEICE TRANSACTIONS on Information Vol.E103-D No.7 pp.1693-1702
Date de publication
2020/07/01
Publicisé
2020/04/13
ISSN en ligne
1745-1361
DOI
10.1587/transinf.2019EDP7274
Type de manuscrit
PAPER
Catégories
Intelligence artificielle, exploration de données

Auteurs

Kota KUDO
  University of Tsukuba
Yuichi TAKANO
  University of Tsukuba
Ryo NOMURA
  Waseda University

Mots-clés

Table des matières