Next week's seminar (see
http://www.iro.umontreal.ca/article.php3?id_article=107&lang=en):
*Evaluating and Learning Invariant Features*
by Ian Goodfellow
Stanford University
Location: *Pavillon André-Aisenstadt (UdeM), room AA-3195*
Time: Thursday, March 4, 14:30.
*Abstract*: One approach to unsupervised learning is to attempt to discover
a function that decomposes the input into variables representing distinct
factors of variation. A weaker version of this is to learn a representation
where each variable is invariant to a small number of confounding aspects of
the input. Experimental results show that the current degree of invariance
achieved by some deep learning algorithms is small compared to that achieved
by systems hand-designed to be invariant to specific transformations. I
discuss some ideas for future invariance evaluation experiments and for
methods of automatically learning to separate factors of variation.
--
http://dumitru.ca, +1-514-432-8435
Please note the *different location: room Z-209* in Pavillon
Claire-McNicoll, located right next to Pavillon André-Aisenstadt.
Next week's seminar (see
http://www.iro.umontreal.ca/article.php3?id_article=107&lang=en):
*Apprentissage de fonctions de classification et d’ordonnancement avec des
données partiellement étiquetées*
by Massih-Reza Amini
Research Officer, Interactive Language Technologies
NRC Institute for Information Technology
Gatineau, Quebec
Location: *Pavillon Claire-McNicoll (UdeM), room Z-209*
Time: Tuesday, February 2, 14:30.
Avec le développement des technologies d’information on assiste depuis
quelques années à une nouvelle impulsion pour la conception de nouveaux
cadres d’apprentissage automatique. C’est le cas par exemple du paradigme
semi-supervisé qui a vu le jour vers la fin des années 90 dans la communauté
apprentissage. Les premiers travaux dans ce cadre ont été motivés par le
développement du web qui a entraîné une production massive de données
textuelles très hétérogènes. Ces masses de données sont généralement livrées
sous forme brute, sans étiquetage a priori et pour les exploiter on était
alors réduit à utiliser des techniques non-supervisées. Ces approches bien
que totalement génériques ne permettent cependant qu’une analyse limitée des
informations de contenu et ne répondent pas ainsi aux demandes de nombreuses
tâches de Recherche d’Information (RI). L’idée pragmatique développée pour
l’apprentissage semi-supervisé était née de la question; "comment réduire
l’effort d’étiquetage et utiliser simultanément une petite quantité de
données étiquetées avec la masse de données non-étiquetées disponible pour
apprendre?" Un autre exemple de l’émergence de nouveaux cadres
d’apprentissage concerne le développement de méthodes automatiques pour la
recherche et l’ordonnancement d’entités d’information sur des corpus de
grandes tailles. Récemment beaucoup de travaux se sont intéressés à la
formulation des différentes formes de la tâche d’ordonnancement. Ces travaux
ont proposé des algorithmes et développé des cadres théoriques pour la
prédiction d’ordres totaux ou partiels sur les exemples. La Recherche
d’Information est une fois encore le domaine par excellence où les modèles
d’apprentissage de fonctions d’ordonnancement jouent un rôle prépondérant.
Dans notre étude nous nous sommes intéressés à deux cadres d’ordonnancement
d’instances et d’alternatives. Dans le premier cas il s’agit d’ordonner les
exemples (où instances) d’une collection donnée de façon à ce que les
exemples jugés pertinents soient ordonnés au—dessus des exemples
non—pertinents et dans le second cas nous cherchons à ordonner les
alternatives d’une collection donnée par rapport à chaque exemple d’entrée.
Je présenterai l’ensemble de mes travaux suivant ces deux axes en commençant
par l’apprentissage semi-supervisé de fonctions de classification qui est
plutôt un travail algorithmique. Je décrirai ensuite le cadre théorique que
nous avons proposé pour l’apprentissage de fonctions d’ordonnancements avec
comme application l’apprentissage actif de fonctions d’ordonnancement
d’alternatives.
--
http://dumitru.ca, +1-514-432-8435