{ "paper_id": "F12-1024", "header": { "generated_with": "S2ORC 1.0.0", "date_generated": "2023-01-19T09:43:16.744439Z" }, "title": "Un cadre exp\u00e9rimental pour les Sciences de la Parole", "authors": [ { "first": "Gilles", "middle": [], "last": "Adda", "suffix": "", "affiliation": { "laboratory": "LIMSI/CNRS Rue John", "institution": "Neumann Universit\u00e9 Paris-Sud", "location": { "postCode": "91403", "settlement": "ORSAY" } }, "email": "gilles.adda@limsi.fr" } ], "year": "", "venue": null, "identifiers": {}, "abstract": "Cet article est une prise de position pour la mise en place d'un cadre th\u00e9orique et pratique permettant de faire \u00e9merger une science empirique de la parole. Cette science doit se fonder sur l'apport de toutes les sciences, du traitement automatique ou de la linguistique, dont l'objet d'\u00e9tude est la parole. Au coeur de ce rapprochement se trouve l'id\u00e9e que les syst\u00e8mes automatiques peuvent \u00eatre utilis\u00e9s comme des instruments afin d'explorer les tr\u00e8s grandes quantit\u00e9s de donn\u00e9es \u00e0 notre disposition et d'en tirer des connaissances nouvelles qui, en retour, permettront d'am\u00e9liorer les mod\u00e9lisations utilis\u00e9es en traitement automatique. Quelques points cruciaux sont abord\u00e9s ici, comme la d\u00e9finition de l'observable, l'\u00e9tude du r\u00e9siduel en tant que diagnostic de l'\u00e9cart entre la mod\u00e9lisation et la r\u00e9alit\u00e9, et la mise en place de centres instrumentaux permettant la mutualisation du d\u00e9veloppement et de la maintenance de ces instruments complexes que sont les syst\u00e8mes de traitement automatique de la parole.", "pdf_parse": { "paper_id": "F12-1024", "_pdf_hash": "", "abstract": [ { "text": "Cet article est une prise de position pour la mise en place d'un cadre th\u00e9orique et pratique permettant de faire \u00e9merger une science empirique de la parole. Cette science doit se fonder sur l'apport de toutes les sciences, du traitement automatique ou de la linguistique, dont l'objet d'\u00e9tude est la parole. Au coeur de ce rapprochement se trouve l'id\u00e9e que les syst\u00e8mes automatiques peuvent \u00eatre utilis\u00e9s comme des instruments afin d'explorer les tr\u00e8s grandes quantit\u00e9s de donn\u00e9es \u00e0 notre disposition et d'en tirer des connaissances nouvelles qui, en retour, permettront d'am\u00e9liorer les mod\u00e9lisations utilis\u00e9es en traitement automatique. Quelques points cruciaux sont abord\u00e9s ici, comme la d\u00e9finition de l'observable, l'\u00e9tude du r\u00e9siduel en tant que diagnostic de l'\u00e9cart entre la mod\u00e9lisation et la r\u00e9alit\u00e9, et la mise en place de centres instrumentaux permettant la mutualisation du d\u00e9veloppement et de la maintenance de ces instruments complexes que sont les syst\u00e8mes de traitement automatique de la parole.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Abstract", "sec_num": null } ], "body_text": [ { "text": "Cet article est une prise de position pour la mise en place d'un cadre th\u00e9orique et pratique permettant de faire \u00e9merger une science empirique de la parole. Le but de cette prise de position est d'apporter mon soutien \u00e0 un mouvement que l'on voit appara\u00eetre dans les diff\u00e9rentes communaut\u00e9s des sciences du langage, et en particulier dans un certain nombre de disciplines dont l'objet est l'\u00e9tude de la parole. Ce mouvement tend \u00e0 consid\u00e9rer que nous sommes arriv\u00e9s \u00e0 une maturit\u00e9 des syst\u00e8mes de reconnaissance automatique (au sens large) qui peut nous permettre de passer un cap scientifique, et de rapprocher la communaut\u00e9 du traitement automatique et les communaut\u00e9s des sciences humaines afin qu'elles s'enrichissent mutuellement, voire qu'elles collaborent v\u00e9ritablement autour des m\u00eames objets et des m\u00eames instruments, dans un cadre exp\u00e9rimental commun (Adda-Decker, 2006) . Mais la constatation d'un rapprochement, ne doit pas nous faire sous-estimer tout le travail autant th\u00e9orique que pratique \u00e0 mettre en oeuvre, si nous voulons que ce rapprochement devienne une r\u00e9alit\u00e9 scientifique. Parmi les questions th\u00e9oriques qu'il nous faut aborder, nous pouvons citer : Quel est le statut de la connaissance que nous produisons, comment la qualifier par rapport \u00e0 d'autres sciences ? Est-il possible d'autonomiser les sciences de la parole en une v\u00e9ritable science, en essayant de trouver \u00e0 la fois quel est son observable et le moyen d'am\u00e9liorer la mani\u00e8re de l'observer, et d'en tirer des connaissances g\u00e9n\u00e9ralisables ? Et parmi les questions pratiques : La structure actuelle de la recherche est-elle ad\u00e9quate pour accueillir et faire prosp\u00e9rer un science empirique r\u00e9unissant les deux communaut\u00e9s ? Les modes d'\u00e9valuation et de production scientifiques sont-ils adapt\u00e9s ? Il serait illusoire ici de vouloir toutes les aborder. Le but de cet article \u00e9tant finalement de susciter le d\u00e9bat voire l'int\u00e9r\u00eat autour de ce sujet, pas de l'\u00e9puiser 1 , je ne survolerai, apr\u00e8s une courte mise en perspective, que certaines d'entre elles, c'est-\u00e0-dire une d\u00e9finition de l'observable, et un mode op\u00e9ratoire afin d'en tirer des connaissances en particulier \u00e0 travers l'\u00e9tude des erreurs, et une proposition concr\u00e8te de cr\u00e9ation de centres exp\u00e9rimentaux permettant de mettre pratiquement en oeuvre ce cadre exp\u00e9rimental.", "cite_spans": [ { "start": 861, "end": 880, "text": "(Adda-Decker, 2006)", "ref_id": "BIBREF2" } ], "ref_spans": [], "eq_spans": [], "section": "Introduction", "sec_num": "1" }, { "text": "Au tournant des ann\u00e9es 80, le traitement de la parole a \u00e9t\u00e9 confront\u00e9 \u00e0 de profonds changements, o\u00f9 se sont mis conjointement en place 2 faits majeurs : -le d\u00e9veloppement de l'approche statistique, fond\u00e9e sur la mod\u00e9lisation statistique de la parole, issue de la th\u00e9orie de l'information (Jelinek, 1976) ; -l'introduction du principe de l'\u00e9valuation comparative des syst\u00e8mes (Pallet, 1985) . L'introduction de ces deux principes structure la recherche en parole depuis 40 ans, au point o\u00f9, plus qu'une approche dominante, ils constituent un couple de pratiques quasi-h\u00e9g\u00e9monique dans la production scientifique actuelle en traitement automatique de la parole. Ils ont permis au traitement automatique de la parole de mettre en d\u00e9faut les critiques fondamentales quant \u00e0 son caract\u00e8re scientifique qui sont apparues \u00e0 la fin des ann\u00e9es 60 (Pierce, 1969) .", "cite_spans": [ { "start": 288, "end": 303, "text": "(Jelinek, 1976)", "ref_id": "BIBREF9" }, { "start": 375, "end": 389, "text": "(Pallet, 1985)", "ref_id": "BIBREF13" }, { "start": 838, "end": 852, "text": "(Pierce, 1969)", "ref_id": "BIBREF14" } ], "ref_spans": [], "eq_spans": [], "section": "Historique", "sec_num": "2" }, { "text": "M\u00eame si l'application de ces principes semble aujourd'hui avoir \u00e9t\u00e9 un long fleuve tranquille, de nombreuses critiques sont apparues. M\u00eame en d\u00e9saccord avec elles, elles nous permettent de nous interroger sur la r\u00e9alit\u00e9 de la mise en place du cadre actuel, et peut nous permettre d'entrevoir quelques pistes d'\u00e9volution. Parmi ces critiques, nous pouvons citer celle formul\u00e9e par Stephen E. Levinson (Levinson, 1994) , qui remet en cause le caract\u00e8re r\u00e9ellement scientifique des avanc\u00e9es obtenues dans le cadre de l'\u00e9valuation comparative, car elles ne reposeraient pas sur une th\u00e9orisation. Autre critique, celle de Roger K. Moore (Moore, 2007) , qui par extrapolation des courbes des tailles des corpus en fonction des performances des syst\u00e8mes, conclut \u00e0 la n\u00e9cessit\u00e9 d'augmenter de mani\u00e8re d\u00e9mesur\u00e9e les corpus afin d'amener les syst\u00e8mes \u00e0 des performances comparables \u00e0 celles de l'\u00eatre humain et aboutit \u00e0 la conclusion qu'il faut changer de paradigme ; il sugg\u00e8re l'introduction d'une approche compl\u00e8tement diff\u00e9rente, la \u00ab Cognitive Informatics \u00bb, qui est fond\u00e9e sur une \u00e9tude transdisciplinaire de la comp\u00e9tence humaine. Cette approche est tr\u00e8s int\u00e9ressante (voir section 3), mais elle n'est pas du tout incompatible avec une poursuite des recherches sur l'am\u00e9lioration des syst\u00e8mes, et en particulier l'am\u00e9lioration de l'utilisation des donn\u00e9es (voir section 4).", "cite_spans": [ { "start": 400, "end": 416, "text": "(Levinson, 1994)", "ref_id": "BIBREF10" }, { "start": 632, "end": 645, "text": "(Moore, 2007)", "ref_id": "BIBREF11" } ], "ref_spans": [], "eq_spans": [], "section": "Historique", "sec_num": "2" }, { "text": "Ces critiques mettent en exergue plusieurs points que l'on peut penser perfectibles dans l'\u00e9tat actuel des sciences de la parole : mieux d\u00e9finir, en tant que science exp\u00e9rimentale, le cadre scientifique de nos travaux en traitement automatique ; mieux d\u00e9finir et mieux utiliser les corpus qui sont le coeur des mod\u00e9lisations statistiques et de l'\u00e9valuation comparative, par exemple en permettant une plus grande interaction avec les autres sciences de la parole.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Historique", "sec_num": "2" }, { "text": "Un rapprochement des communaut\u00e9s des sciences humaines et sociales ayant pour objet la parole au sens large et la communaut\u00e9 du traitement automatique de la parole a d\u00e9j\u00e0 eu lieu sur plusieurs points ces derni\u00e8res ann\u00e9es. Parmi ces domaines int\u00e9ressants, nous pouvons citer la collaboration entre mod\u00e8les de perception humaine et mod\u00e8les statistiques utilis\u00e9s pour la reconnaissance automatique. M.A. Huckvale a tr\u00e8s t\u00f4t introduit la position alors iconoclaste que les syst\u00e8mes de reconnaissance pouvait offrir une vue nouvelle pour les sciences cognitives, et en particulier pour la reconnaissance de mots par les humains (Huckvale, 1997 (Huckvale, , 1998 . Dans (Moore et Cutler, 2001) , un parall\u00e8le tr\u00e8s complet est fait entre les buts des \u00e9tudes de la reconnaissance par des humains et des machines. Plus r\u00e9cemment, dans (Scharenborg et al., 2005; Scharenborg, 2005) est fait le parall\u00e8le entre reconnaissance humaine (Human Speech recognition, HSR) et reconnaissance automatique (Automatic Speech Recognition, ASR) et le d\u00e9veloppement d'un mod\u00e8le computationnel de la reconnaissance de mot par un humain.", "cite_spans": [ { "start": 623, "end": 638, "text": "(Huckvale, 1997", "ref_id": "BIBREF7" }, { "start": 639, "end": 656, "text": "(Huckvale, , 1998", "ref_id": "BIBREF8" }, { "start": 664, "end": 687, "text": "(Moore et Cutler, 2001)", "ref_id": "BIBREF12" }, { "start": 826, "end": 852, "text": "(Scharenborg et al., 2005;", "ref_id": "BIBREF16" }, { "start": 853, "end": 871, "text": "Scharenborg, 2005)", "ref_id": "BIBREF15" } ], "ref_spans": [], "eq_spans": [], "section": "Linguistique et traitement automatique de la parole", "sec_num": "3" }, { "text": "Mais le point crucial que je veux mettre en avant ici est la linguistique \u00e0 l'instrument. Il s'agit ici de l'une des \u00e9volutions r\u00e9centes qui est fondamentale dans le d\u00e9veloppement d'un cadre exp\u00e9rimental : consid\u00e9rer les outils de traitement automatique comme des instruments permettant d'acc\u00e9der aux tr\u00e8s grandes quantit\u00e9s de donn\u00e9es (de toutes sortes, et en particulier de parole), afin de pouvoir en extraire une connaissance phon\u00e9tique, sociolinguistique, lexicale, syntaxique, . . .Cette \u00e9volution fait \u00e9cho au \u00ab Portrait de linguiste(s) \u00e0 l'instrument \u00bb, dans lequel Beno\u00eet Habert (Habert, 2005) fait \u00e9tat d'une \u00e9volution de la linguistique, qui jusqu'alors \u00e9tait domin\u00e9e par l'approche g\u00e9n\u00e9rativiste, et d\u00e9niait l'int\u00e9r\u00eat du concept d'instrument. B. Habert introduit deux id\u00e9es cl\u00e9s : les instruments permettent de voir de nouveaux ph\u00e9nom\u00e8nes, ce sont des outils de perception ; il est n\u00e9cessaire d'adapter les donn\u00e9es aux instruments : un instrument est un capteur imparfait, qui sert \u00e0 pr\u00e9lever une information, et il est donc n\u00e9cessaire de \u00ab voir \u00bb avec cet instrument des donn\u00e9es qui peuvent \u00eatre visibles, et pour lesquelles la pr\u00e9cision de l'instrument permet d'extraire une information pertinente. Plus r\u00e9cemment Mark Liberman (Liberman, 2010) fait le parall\u00e8le entre la situation actuelle, et l'\u00e9tat de la science en 1610 \u00ab Hypothesis : 2010 is like 1610 (. . .) We've invented the linguistic telescope and microscope (. . .) We can observe linguistic patterns \u00bb. Il montre que les sciences du langage peuvent \u00eatre un paradigme des \u00ab e-Sciences \u00bb, fond\u00e9e sur l'utilisation intensive des ordinateurs, utilisant des bases de donn\u00e9es de tr\u00e8s grande dimension, dans un environnement hautement distribu\u00e9.", "cite_spans": [ { "start": 587, "end": 601, "text": "(Habert, 2005)", "ref_id": "BIBREF5" }, { "start": 1241, "end": 1257, "text": "(Liberman, 2010)", "ref_id": "BIBREF11" } ], "ref_spans": [], "eq_spans": [], "section": "Linguistique et traitement automatique de la parole", "sec_num": "3" }, { "text": "Les syst\u00e8mes automatiques de traitement de la parole (reconnaissance du locuteur, segmentation audio, transcription orthographique et phon\u00e9mique) peuvent \u00eatre consid\u00e9r\u00e9s comme des instruments capables d'explorer des quantit\u00e9s de donn\u00e9es jusqu'alors inatteignables, et de faire \u00e9merger des probl\u00e9matiques ou de valider des hypoth\u00e8ses linguistiques. Cette utilisation n\u00e9cessite cependant un rapprochement des diff\u00e9rentes communaut\u00e9s, car les syst\u00e8mes automatiques, comme l'a soulign\u00e9 B. Habert, sont des instruments et non des outils 2 : ils n\u00e9cessitent une mise au point, des d\u00e9veloppement sp\u00e9cifiques, un \u00ab savoir-faire \u00bb, qui n'est pas r\u00e9ductible \u00e0 la mise \u00e0 disposition des communaut\u00e9s linguistiques de \u00ab bo\u00eetes \u00e0 outils \u00bb.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Linguistique et traitement automatique de la parole", "sec_num": "3" }, { "text": "Le rapprochement des diff\u00e9rentes sciences de la parole peut se faire autour d'une famille d'instruments, les syst\u00e8mes automatiques de traitement de la parole, sur (par exemple) les sujets scientifiques d\u00e9crits dans la section pr\u00e9c\u00e9dente. Cependant, pour que les diff\u00e9rentes approches puissent s'enrichir mutuellement, il convient qu'elles s'accordent sur un style de raisonnement scientifique, en reprenant la terminologie introduite par Ian Hacking (Hacking, 1992) , style qui doit prendre en compte le style sp\u00e9cifique des sciences utilisant la statistique. Selon Hacking, chaque style d\u00e9finit ses crit\u00e8res de v\u00e9rit\u00e9, et l'objet de sa recherche. Quel peut \u00eatre ici cet objet ? En prenant en compte les r\u00e9sultats obtenus par les deux principes fondateurs \u00e9nonc\u00e9s en section 2, et ce que l'on observe en \u00ab Linguistique de corpus \u00bb, cet objet semble \u00eatre le corpus. Mais ce concept de corpus est flou, voire contradictoire selon ses acceptions. Pratiquement, ce que l'on utilise comme propri\u00e9t\u00e9 de cet objet, ce n'est pas d'\u00eatre un recueil de faits isol\u00e9s de langue (par exemple une phrase ou un phon\u00e8me particulier \u00e9nonc\u00e9 par un locuteur particulier dans un contexte d\u00e9fini) mais qu'il permette des mesures statistiques significatives et int\u00e9ressantes. Ces mesures sont pertinentes par rapport \u00e0 un certain nombre de param\u00e8tres implicites ou explicites que l'on pr\u00eate aux donn\u00e9es langagi\u00e8res contenues dans le corpus, et que sont suppos\u00e9s traiter les syst\u00e8mes automatiques (parole lue ou spontan\u00e9e, sp\u00e9cifique \u00e0 un t\u00e2che donn\u00e9e, bande large ou \u00e9troite, . . .). Je fais l'hypoth\u00e8se ici que l'objet commun est un espace langagier, dont le corpus serait un \u00e9chantillon suppos\u00e9 pertinent, d\u00e9limit\u00e9 par des valeurs d'un jeu de param\u00e8tres, certains explicites (choisis explicitement lors de la constitution du corpus) ou implicites (pr\u00e9sents implicitement par le choix sp\u00e9cifique du corpus), o\u00f9 les ph\u00e9nom\u00e8nes ont des caract\u00e9ristiques stables et int\u00e9ressantes et o\u00f9 les mesures sur cet objet sont les sorties 3 de syst\u00e8mes automatiques sur le corpus ; j'appellerai par la suite cet objet espace langagier isoparam\u00e9trique (ELI). L'int\u00e9r\u00eat de ces d\u00e9finitions de l'objet commun et de la mani\u00e8re dont on l'observe, est qu'elles permettent de dire comment on peut am\u00e9liorer la qualit\u00e9 de l'observation : en exp\u00e9rimentant sur les contenu ou les fronti\u00e8res de cet objet. Citons comme exemple l'\u00e9volution des performances lors de l'accroissement du corpus d'apprentissage au sein d'un ELI : une stagnation ou m\u00eame une augmentation du taux d'erreur doit nous orienter vers la recherche de nouveaux param\u00e8tres \u00e0 expliciter. Autre moyen d'am\u00e9liorer l'observation, l'\u00e9tude des erreurs faites sur un ELI, qui est abord\u00e9e dans la section 5 : celle-ci permet de mettre \u00e0 jour de nouvelles dimensions intrins\u00e8ques du corpus, ou d'orienter les recherches afin d'am\u00e9liorer les syst\u00e8mes.", "cite_spans": [ { "start": 450, "end": 465, "text": "(Hacking, 1992)", "ref_id": "BIBREF6" } ], "ref_spans": [], "eq_spans": [], "section": "D\u00e9finir un observable", "sec_num": "4" }, { "text": "Dans le cas de la transcription de la parole, on mesure des taux d'erreurs qui vont repr\u00e9senter l'\u00e9cart entre la mod\u00e9lisation obtenue sur le corpus d'apprentissage, et les performances sur FIGURE 1 -(gauche) Visualisation de classe des erreurs irr\u00e9ductibles, \u00e9gale \u00e0 l'intersection stricte des erreurs des 3 syst\u00e8mes S1, S2 et S3. (droite) Visualisation de la classe des erreurs atteignables du syst\u00e8me S1, comme la classe des erreurs de S1 qui ne sont pas des erreurs pour les syst\u00e8mes S2 et S3. le corpus de d\u00e9veloppement et d'\u00e9valuation (Adda, 2011; Abney, 2011) . Cet \u00e9cart entre la mod\u00e9lisation et la r\u00e9alit\u00e9 est commun\u00e9ment nomm\u00e9 r\u00e9siduel. Ce r\u00e9siduel, ou \u00ab erreurs \u00bb, a \u00e9t\u00e9 assez peu \u00e9tudi\u00e9 en parole. Or dans un cadre exp\u00e9rimental, l'\u00e9tude des erreurs est un domaine crucial. Cette \u00e9tude est multiforme ; elle couvre par exemple l'\u00e9tude compar\u00e9e des erreurs des syst\u00e8mes et des humains (Vasilescu et al., 2009) , l'\u00e9tude diagnostique des erreurs (Goldwater et al., 2010) . Il faut souligner ici que l'\u00e9tude des erreurs est int\u00e9ressante quand il y a des erreurs en nombre assez faible pour que l'on puisse les classifier ais\u00e9ment : pour des t\u00e2ches o\u00f9 le taux d'erreur est trop important, les diff\u00e9rents types d'erreurs interf\u00e8rent profond\u00e9ment, rendant toute t\u00e2che d'analyse tr\u00e8s difficile. Aussi, l'\u00e9tude des erreurs est int\u00e9ressante en particulier sur des t\u00e2ches/corpus que l'on a jug\u00e9es \u00ab r\u00e9solues \u00bb, c'est-\u00e0-dire que les efforts en terme de d\u00e9veloppement simple (en particulier par augmentation de la taille du corpus d'apprentissage), n'apporteront qu'un gain faible, alors que les r\u00e9sultats sont assez \u00ab satisfaisants \u00bb. C'est en particulier pour ces t\u00e2ches que les erreurs r\u00e9siduelles, qui semblent r\u00e9tives aux mod\u00e9lisations classiques, sont int\u00e9ressantes \u00e0 \u00e9tudier. D'un autre c\u00f4t\u00e9, nous avons soulign\u00e9 que les syst\u00e8mes de traitement de la parole pouvaient (devaient) \u00eatre utilis\u00e9s comme instruments pour explorer les corpus, afin de tester certaines hypoth\u00e8ses, de d\u00e9couvrir certains faits linguistiques, phon\u00e9tiques etc ; dans ce paradigme, l'\u00e9tude des erreurs nous permet de mesurer la pr\u00e9cision des syst\u00e8mes comme instruments, selon les corpus.", "cite_spans": [ { "start": 540, "end": 552, "text": "(Adda, 2011;", "ref_id": "BIBREF1" }, { "start": 553, "end": 565, "text": "Abney, 2011)", "ref_id": "BIBREF0" }, { "start": 894, "end": 918, "text": "(Vasilescu et al., 2009)", "ref_id": "BIBREF17" }, { "start": 954, "end": 978, "text": "(Goldwater et al., 2010)", "ref_id": "BIBREF4" } ], "ref_spans": [], "eq_spans": [], "section": "Analyse du r\u00e9siduel", "sec_num": "5" }, { "text": "Examiner les erreurs est \u00e9galement utile pour d\u00e9couvrir les principales directions \u00e0 explorer afin de d\u00e9terminer de nouvelles techniques et \u00e0 terme am\u00e9liorer les performances des syst\u00e8mes. Il est int\u00e9ressant de se placer dans l'optique de la r\u00e9solution des erreurs. Si nous voulons r\u00e9soudre des probl\u00e8mes, il s'agit de les identifier en s\u00e9parant le probl\u00e8me global en sous-probl\u00e8mes atteignables ; \u00e0 ce titre une typologie des erreurs en fonction de leur solution est utile, car nous ne devons pas tenter de r\u00e9soudre avec les outils m\u00e9thodologiques existants, des probl\u00e8mes qui ne peuvent pas \u00eatre r\u00e9solus, ou qui ne sont pas des probl\u00e8mes, ou encore qui sont d'une importance mineure. Afin de pouvoir explorer les limites des mod\u00e9lisations actuelles sur une t\u00e2che, je pr\u00e9conise l'usage du Rover Oracle (RO), c'est-\u00e0-dire le choix oracle de la bonne solution si elle existe dans le graphe des diff\u00e9rentes possibilit\u00e9s fournies par les diff\u00e9rents syst\u00e8mes suivant la m\u00e9thode ROVER (Fiscus, 1997) . Le Rover Oracle nous offre ainsi une approximation de la limite sup\u00e9rieure de ce que peut atteindre un syst\u00e8me de l'\u00e9tat de l'art, qui utiliserait de mani\u00e8re optimale les diff\u00e9rentes mod\u00e9lisations pr\u00e9sentes dans les diff\u00e9rents syst\u00e8mes, et ayant \u00e9galement le r\u00e9glage optimal de ses diff\u00e9rents param\u00e8tres. En plus d'une indication sur la limite inf\u00e9rieure du taux d'erreurs sur un corpus donn\u00e9, le Rover Oracle nous permet un acc\u00e8s \u00e0 diff\u00e9rentes classes d'erreurs int\u00e9ressantes. La classe d'erreurs la plus int\u00e9ressante pour le chercheur, et qui permet d'approximer la pr\u00e9cision des syst\u00e8mes de traitement en tant qu'instrument, est la classe des erreurs irr\u00e9ductibles (EI) (voir figure 1, gauche) , d\u00e9finie par E I = ERR(RO) o\u00f9 ERR(RO) est l'ensemble des erreurs produites par le Rover Oracle. On obtient ainsi la classe des solutions correctes qu'aucun syst\u00e8me n'avait envisag\u00e9es. Autre classe d'erreurs int\u00e9ressantes, la classe des erreurs atteignables d'un syst\u00e8me S (EA(S)) (voir figure 1, droite) . Sa d\u00e9finition est EA(S) = ERR(S) \u2212 ERR(RO). De mani\u00e8re explicite, EA(S) repr\u00e9sente la classe des erreurs du syst\u00e8me S qui ont pu \u00eatre corrig\u00e9es en utilisant le Rover Oracle. Pour un syst\u00e8me S, elle repr\u00e9sente l'ensemble des erreurs pour lesquelles au moins un autre syst\u00e8me a pu trouver la bonne solution.", "cite_spans": [ { "start": 980, "end": 994, "text": "(Fiscus, 1997)", "ref_id": "BIBREF3" } ], "ref_spans": [ { "start": 1670, "end": 1693, "text": "(voir figure 1, gauche)", "ref_id": null }, { "start": 1981, "end": 1998, "text": "figure 1, droite)", "ref_id": null } ], "eq_spans": [], "section": "Analyse du r\u00e9siduel", "sec_num": "5" }, { "text": "Dans la mesure o\u00f9 l'\u00e9tude des erreurs est int\u00e9ressante l\u00e0 o\u00f9 il y en a peu, cela oblige, si l'on veut pouvoir trouver des corr\u00e9lations utiles, \u00e0 avoir de grands corpus d'\u00e9valuation. 10 heures de parole, avec un taux d'erreurs de 5% produisent environ 5000 erreurs, ce qui est bien peu pour extraire des classes. On peut donc extrapoler que ces analyses seront r\u00e9ellement fructueuses sur des corpus de l'ordre de 100 heures, ce qui est parfaitement atteignable avec les corpus actuels.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Analyse du r\u00e9siduel", "sec_num": "5" }, { "text": "Dans le mode de fonctionnement actuel de l'\u00e9valuation comparative, certaines \u00e9quipes/laboratoires obtiennent par leur participation aux \u00e9valuations majeures une certification qui leur accorde une cr\u00e9dibilit\u00e9. Cette cr\u00e9dibilit\u00e9 leur apportera tout \u00e0 la fois une plus grande facilit\u00e9 \u00e0 faire publier leurs r\u00e9sultats et une plus grande confiance de la communaut\u00e9 dans la validit\u00e9 de ces r\u00e9sultats. Il y a dans ce mode de fonctionnement, une importante d\u00e9perdition de temps et de travail, car il n'accorde pas assez de place pour les \u00e9quipes qui n'ont pas les moyens humains ou mat\u00e9riels de participer \u00e0 des \u00e9valuations importantes, mais impose \u00e9galement aux \u00e9quipes certifi\u00e9es de consacrer beaucoup de temps sur ces \u00e9valuations et donc potentiellement moins sur l'innovation. En caricaturant la situation actuelle, nous avons le choix entre une uniformit\u00e9 fiable ou une innovation peu fiable, puisque si une innovation est introduite par un \u00e9quipe qui n'a pas \u00e9t\u00e9 certifi\u00e9e ou par un syst\u00e8me qui n'a pas \u00e9t\u00e9 calibr\u00e9 par une \u00e9valuation, il n'y aura pas de confiance dans le r\u00e9sultat, au moins tant que celui-ci n'aura pas \u00e9t\u00e9 reproduit par un couple syst\u00e8me/\u00e9quipe certifi\u00e9. Par ailleurs, par rapport au mod\u00e8le am\u00e9ricain qui peut se r\u00e9sumer \u00e0 d\u00e9velopper quelques centres d'excellence, financ\u00e9s par les projets gouvernementaux, autour de centres d'\u00e9valuation et de mises \u00e0 disposition de corpus (NIST 4 et LDC 5 ), eux-m\u00eames financ\u00e9s directement ou indirectement par des projets gouvernementaux, on ne peut que constater que, malgr\u00e9 l'existence de quelques centres d'excellence, il n'existe pas de mod\u00e8le efficace europ\u00e9en.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Centres Instrumentaux pour les sciences de la parole", "sec_num": "6" }, { "text": "Si les syst\u00e8mes de traitement du langage peuvent \u00eatre consid\u00e9r\u00e9s comme des instruments, il doivent \u00eatre consid\u00e9r\u00e9s comme des instruments complexes, difficile \u00e0 ma\u00eetriser et co\u00fbteux \u00e0 d\u00e9velopper et \u00e0 maintenir, et donc pour lesquels il est int\u00e9ressant de d\u00e9velopper une structure de mutualisation, comme par exemple, toute proportion gard\u00e9e par rapport aux investissements en jeu, pour les anneaux d'acc\u00e9l\u00e9ration utilis\u00e9s en physique des particules, au CERN 6 . L'existence de plusieurs instruments diff\u00e9rents est int\u00e9ressante, pour maintenir une certaine comp\u00e9titivit\u00e9, 4. www.itl.nist.gov/ 5. www.ldc.upenn.edu/ 6. Organisation europ\u00e9enne pour la recherche nucl\u00e9aire, public.web.cern.ch/public/ mais \u00e9galement par souci de compl\u00e9mentarit\u00e9 (voir section 5). On peut donc penser \u00e0 la mise en place de cette mutualisation au sein de plusieurs laboratoires qui seraient alors des centres instrumentaux mutualis\u00e9s. Le statut de centre instrumental am\u00e8nerait des moyens (financiers et humains) suppl\u00e9mentaires ; les centres instrumentaux seraient impliqu\u00e9s dans les projets exp\u00e9rimentaux d'autres laboratoires qui n'auraient pas le statut de centre instrumental ; en \u00e9change, le centre accueillerait des \u00e9quipes et des chercheurs choisis sur des projets n\u00e9cessitant l'emploi d'un syst\u00e8me \u00e9tat de l'art et/ou de corpus avec un financement sp\u00e9cifique, un partage des r\u00e9sultats (et des publications), et une p\u00e9rennisation des acquis \u00e0 un m\u00eame endroit. L'ensemble des laboratoires utilisateurs et le centre instrumental formeraient un r\u00e9seau, qui permettraient un d\u00e9veloppement des recherches et des instruments.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Centres Instrumentaux pour les sciences de la parole", "sec_num": "6" }, { "text": "Dans le sch\u00e9ma de recherche que je propose, l'ensemble des exp\u00e9riences pourraient \u00eatre men\u00e9es avec des syst\u00e8mes de l'\u00e9tat de l'art et sur des bases de donn\u00e9es pertinentes. Les moyens de mise au point des instruments seraient concentr\u00e9s sur quelques centres, et les autres moyens \u00e9tant d\u00e9volus \u00e0 des exp\u00e9riences pr\u00e9cises. Ce sch\u00e9ma conserve la fiabilit\u00e9 directement issue de l'\u00e9valuation comparative, mais permet une plus grande innovation.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Centres Instrumentaux pour les sciences de la parole", "sec_num": "6" }, { "text": "La mise en place de l'\u00e9valuation comparative et ses b\u00e9n\u00e9fices visibles actuels n'est qu'une \u00e9tape dans la mise en place d'une structure scientifique \u00e0 m\u00eame de permettre un d\u00e9veloppement \u00e0 long terme de notre domaine. Ce d\u00e9veloppement passe en particulier selon moi par la p\u00e9rennisation d'une vraie science empirique, qui elle-m\u00eame n\u00e9cessite en particulier : -Une plus grande formalisation des buts, et des moyens \u00e0 mettre en oeuvre pour atteindre ces buts. Cela signifie d\u00e9finir clairement l'observable de cette science empirique, le moyen de l'atteindre, de l'observer, puis comment apprendre \u00e0 partir de celui-ci. Je sugg\u00e8re d'utiliser comme observable une extension de la notion de corpus, l'espace langagier isoparam\u00e9trique, qui est d\u00e9fini par ses param\u00e8tres intrins\u00e8ques et extrins\u00e8ques. -L'\u00e9tude des erreurs des syst\u00e8mes comme indicateur de l'\u00e9cart entre la mod\u00e9lisation et la r\u00e9alit\u00e9 telle qu'observ\u00e9e par l'\u00e9valuation sur un corpus. -Une meilleure structuration de la production scientifique par une mutualisation des syst\u00e8mes de traitement automatique comme instruments, syst\u00e8mes complexes et co\u00fbteux \u00e0 mettre en oeuvre et \u00e0 maintenir au meilleur niveau. A l'heure actuelle le domaine du traitement de la parole b\u00e9n\u00e9ficie, relativement et avec de fortes disparit\u00e9s, de moyens qui font envie \u00e0 bien d'autres domaines scientifiques. Mais les risques inh\u00e9rents aux grands cycles technologiques et \u00e9conomiques sont grands. En formalisant plus notre discipline de mani\u00e8re \u00e0 faire \u00e9merger une science empirique stable, et en utilisant mieux le potentiel actuel en terme de moyens humains et mat\u00e9riel, la connaissance que nous pourrions g\u00e9n\u00e9rer serait plus importante, et les sciences de la parole pourraient peser ainsi d'un poids plus important dans les choix scientifiques.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Conclusion", "sec_num": "7" }, { "text": ". On pourra trouver un survol un peu moins rapide de ces questions dans(Adda, 2011)", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "", "sec_num": null }, { "text": ". Je reprends dans la d\u00e9finition introduite par B. Habert, le fait que l'outil est g\u00e9n\u00e9rique, polyvalent, alors que l'instrument est sp\u00e9cifique \u00e0 un type de donn\u00e9es.3. Les sorties (mots, phon\u00e8mes ou autres) seront utilis\u00e9es comme faits par les diff\u00e9rentes sciences de la parole.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "", "sec_num": null } ], "back_matter": [ { "text": "Ce travail a \u00e9t\u00e9 r\u00e9alis\u00e9 en partie dans le cadre du projet ANR EDyLex (ANR-09-CORD-008).", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Remerciements", "sec_num": null } ], "bib_entries": { "BIBREF0": { "ref_id": "b0", "title": "Data-intensive experimental linguistics. Linguistic Issues in Language Technology", "authors": [ { "first": "S", "middle": [], "last": "Abney", "suffix": "" } ], "year": 2011, "venue": "", "volume": "6", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "ABNEY, S. (2011). Data-intensive experimental linguistics. Linguistic Issues in Language Techno- logy, 6(2).", "links": null }, "BIBREF1": { "ref_id": "b1", "title": "Approches empiriques et mod\u00e9lisation statistique de la parole. Habilitation \u00e0 Diriger les Recherches de l'Universit\u00e9 Paris-Sud (sp\u00e9cialit\u00e9 : informatique)", "authors": [ { "first": "G", "middle": [], "last": "Adda", "suffix": "" } ], "year": 2011, "venue": "", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "ADDA, G. (2011). Approches empiriques et mod\u00e9lisation statistique de la parole. Habilitation \u00e0 Diriger les Recherches de l'Universit\u00e9 Paris-Sud (sp\u00e9cialit\u00e9 : informatique).", "links": null }, "BIBREF2": { "ref_id": "b2", "title": "De la reconnaissance automatique de la parole a l'analyse linguistique de corpus oraux", "authors": [ { "first": "M", "middle": [], "last": "Adda-Decker", "suffix": "" } ], "year": 2006, "venue": "XXVIes Journ\u00e9es d'\u00c9tude", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "ADDA-DECKER, M. (2006). De la reconnaissance automatique de la parole a l'analyse linguistique de corpus oraux. In XXVIes Journ\u00e9es d'\u00c9tude sur la Parole, JEP, Dinard.", "links": null }, "BIBREF3": { "ref_id": "b3", "title": "A post-processing system to yield reduced word error rates : Recognizer output voting error reduction (ROVER)", "authors": [ { "first": "J", "middle": [ "G" ], "last": "Fiscus", "suffix": "" } ], "year": 1997, "venue": "Automatic Speech Recognition and Understanding", "volume": "", "issue": "", "pages": "347--354", "other_ids": {}, "num": null, "urls": [], "raw_text": "FISCUS, J. G. (1997). A post-processing system to yield reduced word error rates : Recognizer output voting error reduction (ROVER). In Automatic Speech Recognition and Understanding, 1997. Proceedings., 1997 IEEE Workshop on, pages 347-354.", "links": null }, "BIBREF4": { "ref_id": "b4", "title": "Which words are hard to recognize ? prosodic, lexical, and disfluency factors that increase speech recognition error rates", "authors": [ { "first": "S", "middle": [], "last": "Goldwater", "suffix": "" }, { "first": "D", "middle": [], "last": "Jurafsky", "suffix": "" }, { "first": "C", "middle": [ "D" ], "last": "Manning", "suffix": "" } ], "year": 2010, "venue": "Speech Communication", "volume": "52", "issue": "3", "pages": "181--200", "other_ids": {}, "num": null, "urls": [], "raw_text": "GOLDWATER, S., JURAFSKY, D. et MANNING, C. D. (2010). Which words are hard to recognize ? prosodic, lexical, and disfluency factors that increase speech recognition error rates. Speech Communication, 52(3):181-200.", "links": null }, "BIBREF5": { "ref_id": "b5", "title": "Portrait de linguiste(s) \u00e0 l'instrument", "authors": [ { "first": "B", "middle": [], "last": "Habert", "suffix": "" } ], "year": 2005, "venue": "Texto !", "volume": "", "issue": "4", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "HABERT, B. (2005). Portrait de linguiste(s) \u00e0 l'instrument. Texto !, 10(4).", "links": null }, "BIBREF6": { "ref_id": "b6", "title": "Statistical language, statistical truth, and statistical reason : The selfauthentification of a style of scientific reasoning", "authors": [ { "first": "I", "middle": [], "last": "Hacking", "suffix": "" } ], "year": 1992, "venue": "Social Dimensions of Science", "volume": "", "issue": "", "pages": "130--157", "other_ids": {}, "num": null, "urls": [], "raw_text": "HACKING, I. (1992). Statistical language, statistical truth, and statistical reason : The self- authentification of a style of scientific reasoning. Social Dimensions of Science, pages 130-157.", "links": null }, "BIBREF7": { "ref_id": "b7", "title": "10 things engineers have discovered about speech recognition", "authors": [ { "first": "M", "middle": [], "last": "Huckvale", "suffix": "" } ], "year": 1997, "venue": "NATO ASI Workshop on Speech Pattern Processing", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "HUCKVALE, M. (1997). 10 things engineers have discovered about speech recognition. In NATO ASI Workshop on Speech Pattern Processing.", "links": null }, "BIBREF8": { "ref_id": "b8", "title": "Opportunities for re-convergence of engineering and cognitive science accounts of spoken word recognition", "authors": [ { "first": "M", "middle": [], "last": "Huckvale", "suffix": "" } ], "year": 1998, "venue": "Proceedings of the Institute of Acoustics Conference on Speech and Hearing", "volume": "", "issue": "", "pages": "9--20", "other_ids": {}, "num": null, "urls": [], "raw_text": "HUCKVALE, M. (1998). Opportunities for re-convergence of engineering and cognitive science accounts of spoken word recognition. In Proceedings of the Institute of Acoustics Conference on Speech and Hearing, pages 9-20.", "links": null }, "BIBREF9": { "ref_id": "b9", "title": "Continuous speech recognition by statistical methods", "authors": [ { "first": "F", "middle": [], "last": "Jelinek", "suffix": "" } ], "year": 1976, "venue": "Proceedings of the IEEE", "volume": "64", "issue": "", "pages": "532--556", "other_ids": {}, "num": null, "urls": [], "raw_text": "JELINEK, F. (1976). Continuous speech recognition by statistical methods. Proceedings of the IEEE, 64:532-556.", "links": null }, "BIBREF10": { "ref_id": "b10", "title": "Speech recognition technology : a critique", "authors": [ { "first": "S", "middle": [ "E" ], "last": "Levinson", "suffix": "" } ], "year": 1994, "venue": "", "volume": "", "issue": "", "pages": "159--164", "other_ids": {}, "num": null, "urls": [], "raw_text": "LEVINSON, S. E. (1994). Speech recognition technology : a critique, pages 159-164. National Academy Press, Washington, DC, USA.", "links": null }, "BIBREF11": { "ref_id": "b11", "title": "The future of computational linguistics : or, what would antonio zampolli do ? In Antonio Zampolli Prize speech", "authors": [ { "first": "M", "middle": [], "last": "Liberman", "suffix": "" }, { "first": "", "middle": [], "last": "Valletta", "suffix": "" }, { "first": "", "middle": [], "last": "Malta", "suffix": "" }, { "first": "R", "middle": [ "K" ], "last": "Moore", "suffix": "" } ], "year": 2007, "venue": "Speech Communication", "volume": "49", "issue": "", "pages": "418--435", "other_ids": {}, "num": null, "urls": [], "raw_text": "LIBERMAN, M. (2010). The future of computational linguistics : or, what would antonio zampolli do ? In Antonio Zampolli Prize speech, presented at LREC2010, Valletta, Malta. MOORE, R. K. (2007). Spoken language processing : Piecing together the puzzle. Speech Communication, 49:418-435.", "links": null }, "BIBREF12": { "ref_id": "b12", "title": "Constraints on theories of human vs. machine recognition of speech", "authors": [ { "first": "R", "middle": [ "K" ], "last": "Moore", "suffix": "" }, { "first": "A", "middle": [], "last": "Cutler", "suffix": "" } ], "year": 2001, "venue": "Proceedings SPRAAC workshop on Human Speech Recognition as pattern Classification. Max-Planck-Institute for Psycholinguistics", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "MOORE, R. K. et CUTLER, A. (2001). Constraints on theories of human vs. machine recognition of speech. In Proceedings SPRAAC workshop on Human Speech Recognition as pattern Classification. Max-Planck-Institute for Psycholinguistics.", "links": null }, "BIBREF13": { "ref_id": "b13", "title": "Performance assessment of automatic speech recognizers", "authors": [ { "first": "D", "middle": [ "S" ], "last": "Pallet", "suffix": "" } ], "year": 1985, "venue": "J. J. Res. Natl. Inst. Stand. Technol", "volume": "90", "issue": "", "pages": "371--387", "other_ids": {}, "num": null, "urls": [], "raw_text": "PALLET, D. S. (1985). Performance assessment of automatic speech recognizers. J. J. Res. Natl. Inst. Stand. Technol., 90:371-387.", "links": null }, "BIBREF14": { "ref_id": "b14", "title": "Whither Speech Recognition ?", "authors": [ { "first": "J", "middle": [ "R" ], "last": "Pierce", "suffix": "" } ], "year": 1969, "venue": "", "volume": "46", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "PIERCE, J. R. (1969). Whither Speech Recognition ? Acoustical Society of America Journal, 46:1049.", "links": null }, "BIBREF15": { "ref_id": "b15", "title": "Parallels between HSR and ASR : how ASR can contribute to HSR", "authors": [ { "first": "O", "middle": [], "last": "Scharenborg", "suffix": "" } ], "year": 2005, "venue": "Proceeding of Interspeech", "volume": "", "issue": "", "pages": "1237--1240", "other_ids": {}, "num": null, "urls": [], "raw_text": "SCHARENBORG, O. (2005). Parallels between HSR and ASR : how ASR can contribute to HSR. In Proceeding of Interspeech, pages 1237-1240.", "links": null }, "BIBREF16": { "ref_id": "b16", "title": "How should a speech recognizer work ?", "authors": [ { "first": "O", "middle": [], "last": "Scharenborg", "suffix": "" }, { "first": "D", "middle": [], "last": "Norris", "suffix": "" }, { "first": "L", "middle": [], "last": "Bosch", "suffix": "" }, { "first": "J", "middle": [ "M" ], "last": "Mcqueen", "suffix": "" } ], "year": 2005, "venue": "Cognitive Science", "volume": "", "issue": "", "pages": "867--918", "other_ids": {}, "num": null, "urls": [], "raw_text": "SCHARENBORG, O., NORRIS, D., ten BOSCH, L. et MCQUEEN, J. M. (2005). How should a speech recognizer work ? Cognitive Science, pages 867-918.", "links": null }, "BIBREF17": { "ref_id": "b17", "title": "A Perceptual Investigation of Speech Transcription Errors Involving Frequent Near-Homophones in French and American English", "authors": [ { "first": "I", "middle": [], "last": "Vasilescu", "suffix": "" }, { "first": "M", "middle": [], "last": "Adda-Decker", "suffix": "" }, { "first": "L", "middle": [], "last": "Lamel", "suffix": "" }, { "first": "P", "middle": [], "last": "Hall\u00e9", "suffix": "" } ], "year": 2009, "venue": "Interspeech'09", "volume": "", "issue": "", "pages": "144--147", "other_ids": {}, "num": null, "urls": [], "raw_text": "VASILESCU, I., ADDA-DECKER, M., LAMEL, L. et HALL\u00c9, P. (September, 2009). A Perceptual Inves- tigation of Speech Transcription Errors Involving Frequent Near-Homophones in French and American English . In Interspeech'09, pages 144-147, Brighton, UK.", "links": null } }, "ref_entries": {} } }