{ "paper_id": "F14-2010", "header": { "generated_with": "S2ORC 1.0.0", "date_generated": "2023-01-19T10:22:22.825882Z" }, "title": "", "authors": [ { "first": "Amine", "middle": [], "last": "Chennoufi", "suffix": "", "affiliation": {}, "email": "chennoufi.amin@gmail.com" }, { "first": "Azzeddine", "middle": [], "last": "Mazroui", "suffix": "", "affiliation": {}, "email": "azze.mazroui@gmail.com" } ], "year": "", "venue": null, "identifiers": {}, "abstract": "M\u00e9thodes de lissage d'une approche morpho-statistique pour la voyellation automatique des textes arabes", "pdf_parse": { "paper_id": "F14-2010", "_pdf_hash": "", "abstract": [ { "text": "M\u00e9thodes de lissage d'une approche morpho-statistique pour la voyellation automatique des textes arabes", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Abstract", "sec_num": null } ], "body_text": [ { "text": "Le syst\u00e8me d'\u00e9criture arabe est caract\u00e9ris\u00e9 dans la plupart des textes par l'absence de signes diacritiques : les voyelles courtes i.e. \u064e\u25cc (fatha), \u064f\u25cc(damma) et \u0650\u25cc (kasra), en plus des signes \u064c\u25cc, \u064b\u25cc et \u064d\u25cc (tanween), \u0651\u25cc(chadda) et \u0652\u25cc(sokoun). L'absence de ces signes engendre une augmentation significative de l'ambigu\u00eft\u00e9 dans le texte arabe, qui peut causer de la confusion dans plus de 90% des mots du texte (Debili, Achour, 1998) . Malgr\u00e9 le fait que le lecteur ayant un certain niveau de connaissances de la langue arabe peut facilement r\u00e9cup\u00e9rer les signes diacritiques absents du texte en se basant sur le contexte des mots et ses connaissances de la morphologie et de la syntaxe de la langue arabe, les textes sans signes diacritiques demeurent un obstacle pour les apprenants non natifs de la langue arabe et les personnes ayant des difficult\u00e9s d'apprentissage. De m\u00eame, les limites des performances de plusieurs applications du traitement automatique de la langue arabe (TALA) telles que l'analyse syntaxique, la traduction automatique et les corpus arbor\u00e9s sont dues en partie \u00e0 l'absence des signes diacritiques dans les textes arabes (Maamouri et al., 2006) . En effet, contrairement aux langues europ\u00e9ennes o\u00f9 il est facile d'identifier les corresponds en phon\u00e8mes oraux des sections \u00e9crites (Text to Speech), il est imp\u00e9ratif pour les textes arabes de r\u00e9cup\u00e9rer les signes diacritiques avant de proc\u00e9der \u00e0 la recherche de leurs correspondants (Vergyri et al,. 2004 ). Aussi, certaines recherches ont sugg\u00e9r\u00e9 l'importance d'utiliser les textes voyell\u00e9s pour accro\u00eetre l'efficacit\u00e9 des syst\u00e8mes de reconnaissance de la parole (Messaoudi et al., 2004) . D'autre part, les corpus utilis\u00e9s dans les mod\u00e8les de langage ne peuvent pas couvrir tout le vocabulaire. De ce fait, les s\u00e9quences de mots peuvent avoir une probabilit\u00e9 nulle ce qui peut g\u00e9n\u00e9rer de mauvais r\u00e9sultats. Cet ainsi que des chercheurs ont eu recours aux m\u00e9thodes de lissage pour contourner ce probl\u00e8me. (Chen, Goodman, 1998) affirment que les techniques de lissage sont essentielle dans la construction des syst\u00e8mes de reconnaissance de la parole. De m\u00eame (Manning, Sch\u00fctze, 1999) pr\u00e9cisent que le lissage donnent des performances int\u00e9ressantes dans les mod\u00e8les de langage. Ce papier est organis\u00e9 comme suit : la deuxi\u00e8me section est r\u00e9serv\u00e9e \u00e0 l'\u00e9tat de l'art, la troisi\u00e8me \u00e0 la pr\u00e9sentation de l'approche o\u00f9 nous d\u00e9taillons au d\u00e9but le fonctionnement de l'analyseur morphologique utilis\u00e9 dans la premi\u00e8re partie de notre syst\u00e8me, puis nous rappelons les \u00e9tapes statistiques adopt\u00e9es dans la deuxi\u00e8me et la troisi\u00e8me phase de notre m\u00e9thode. La quatri\u00e8me section est consacr\u00e9e aux \u00e9tapes d'apprentissage et de test du voyelliseur. Enfin, la derni\u00e8re partie sera consacr\u00e9e \u00e0 la conclusion et aux perspectives futures.", "cite_spans": [ { "start": 409, "end": 431, "text": "(Debili, Achour, 1998)", "ref_id": "BIBREF5" }, { "start": 1145, "end": 1168, "text": "(Maamouri et al., 2006)", "ref_id": "BIBREF11" }, { "start": 1456, "end": 1477, "text": "(Vergyri et al,. 2004", "ref_id": "BIBREF18" }, { "start": 1637, "end": 1661, "text": "(Messaoudi et al., 2004)", "ref_id": "BIBREF13" }, { "start": 1979, "end": 2000, "text": "(Chen, Goodman, 1998)", "ref_id": "BIBREF2" }, { "start": 2132, "end": 2156, "text": "(Manning, Sch\u00fctze, 1999)", "ref_id": null } ], "ref_spans": [], "eq_spans": [], "section": "Introduction", "sec_num": "1" }, { "text": "[P-Et1.3]", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Introduction", "sec_num": "1" }, { "text": "AMINE CHENNOUFI ET AZZEDDINE MAZROUI", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "444", "sec_num": null }, { "text": "En se r\u00e9f\u00e9rant aux travaux de recherches ant\u00e9rieurs, nous pouvons diviser les tentatives de voyellation automatique des textes arabes en trois parties: approches fond\u00e9es sur des r\u00e8gles, approches statistiques et approches hybrides.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Etat de l'art", "sec_num": "2" }, { "text": "Approches fond\u00e9es sur les r\u00e8gles Dans ce cadre, certains travaux ont eu recours \u00e0 la programmation des r\u00e8gles linguistiques vocales, morphologiques et syntaxiques pour la voyellation des mots arabes. (El-Sadany, Hashish, 1988) ont mentionn\u00e9 une m\u00e9thode se basant sur des r\u00e8gles morphologiques pour la voyellation semi-automatique des verbes arabes. Aussi, (Debili, Achour, 1998) ont \u00e9tudi\u00e9 l'impact de l'analyse lexicale, l'analyse morphologique et l'\u00e9tiquetage syntaxique pour dissiper l'ambig\u00fcit\u00e9 dans le processus de voyellation des textes arabes. L'absence d'un syst\u00e8me de voyellation des textes arabes bas\u00e9 uniquement sur les r\u00e8gles est due aux taux \u00e9lev\u00e9 d'ambig\u00fcit\u00e9s, de l'existence d'un nombre important de r\u00e8gles morpho-syntaxiques et l'absence d'un analyseur syntaxique efficace.", "cite_spans": [ { "start": 200, "end": 226, "text": "(El-Sadany, Hashish, 1988)", "ref_id": "BIBREF6" }, { "start": 356, "end": 378, "text": "(Debili, Achour, 1998)", "ref_id": "BIBREF5" } ], "ref_spans": [], "eq_spans": [], "section": "2.1", "sec_num": null }, { "text": "Approches statistiques (Gal 2002) a pr\u00e9sent\u00e9 une approche markovienne pour la voyellation du Coran pour la langue arabe et les textes de l'Ancien Testament pour la langue h\u00e9bra\u00efque. (Schlippe et al., 2008) ont mis au point un syst\u00e8me de voyellation des textes arabes bas\u00e9 sur la traduction automatique. (Al Ghamdi et al. 2010) ont pr\u00e9sent\u00e9 le syst\u00e8me de voyellation KAD (The Arabic diacritizer) bas\u00e9 sur les 4-grammes au niveau des lettres. Enfin (Hifny, 2013) a pr\u00e9sent\u00e9 une m\u00e9thode purement statistique bas\u00e9e sur les n-grammes et utilisant quelques techniques de lissage qui pr\u00e9l\u00e8vent une masse de probabilit\u00e9 sur les transitions observ\u00e9es, et cette masse est redistribu\u00e9e sur les \u00e9v\u00e9nements non observ\u00e9s.", "cite_spans": [ { "start": 23, "end": 33, "text": "(Gal 2002)", "ref_id": "BIBREF8" }, { "start": 182, "end": 205, "text": "(Schlippe et al., 2008)", "ref_id": "BIBREF20" }, { "start": 447, "end": 460, "text": "(Hifny, 2013)", "ref_id": "BIBREF10" } ], "ref_spans": [], "eq_spans": [], "section": "2.2", "sec_num": null }, { "text": "Approches hybrides Ce sont les approches qui combinent les r\u00e8gles linguistiques et les traitements statistiques afin d'exploiter les points forts des deux m\u00e9thodes. Parmi les travaux importants, on peut citer le syst\u00e8me de voyellation ArabDiac d\u00e9velopp\u00e9 par la soci\u00e9t\u00e9 RDI (Rashwan et al., 2011) . Ce syst\u00e8me utilise l'analyseur morphologique ArabMorpho et l'\u00e9tiqueteur ArabTagger puis les n-grammes. (Zitouni et al., 2009) ont pr\u00e9sent\u00e9 un syst\u00e8me de voyellation utilisant un classificateur statistique bas\u00e9e sur l'entropie maximale. Leurs caract\u00e9ristiques sont bas\u00e9es sur des caract\u00e8res simples du mot, segments morphologiques et l'\u00e9tat syntaxique pour atteindre le meilleur classement de mots. (Habash, Rambow, 2007) utilisent la version 2.0 de l'analyseur Arabic Morphological Analyzer (Buckwalter, 2004) pour obtenir toutes les analyses morphologiques possibles. Puis ils utilisent des classificateurs individuels pour lever l'ambigu\u00eft\u00e9 entre ces analyses. (Bebah et al., 2013) et (Chennoufi, Mazroui, 2014) ont pr\u00e9sent\u00e9 plusieurs approches morpho-statistiques bas\u00e9es sur diff\u00e9rents \u00e9tats observ\u00e9s comme les classes des mots ou les mots non voyell\u00e9s et des \u00e9tats cach\u00e9s tels que les sch\u00e8mes des mots, les listes diacritiques ou les mots voyell\u00e9s. Les similitudes avec la m\u00e9thode pr\u00e9sent\u00e9e dans cet article sont l'utilisation de l'analyseur morphologique AlKhalil Morpho Sys (Bebah et al., 2011) et les diff\u00e9rences sont l'utilisation des techniques de lissage et la taille des corpus utilis\u00e9s dans les phases d'apprentissage et de test.", "cite_spans": [ { "start": 273, "end": 295, "text": "(Rashwan et al., 2011)", "ref_id": "BIBREF19" }, { "start": 401, "end": 423, "text": "(Zitouni et al., 2009)", "ref_id": "BIBREF21" }, { "start": 696, "end": 718, "text": "(Habash, Rambow, 2007)", "ref_id": "BIBREF9" }, { "start": 789, "end": 807, "text": "(Buckwalter, 2004)", "ref_id": "BIBREF1" }, { "start": 961, "end": 981, "text": "(Bebah et al., 2013)", "ref_id": "BIBREF17" }, { "start": 985, "end": 1011, "text": "(Chennoufi, Mazroui, 2014)", "ref_id": "BIBREF3" }, { "start": 1378, "end": 1398, "text": "(Bebah et al., 2011)", "ref_id": "BIBREF16" } ], "ref_spans": [], "eq_spans": [], "section": "2.3", "sec_num": null }, { "text": "Nous allons donner dans cette section une pr\u00e9sentation d\u00e9taill\u00e9e du syst\u00e8me d\u00e9velopp\u00e9. Le processus de voyellation automatique des textes de la langue arabe que nous avons surnomm\u00e9 AlKhalil Diacritizer se fera en trois phases principales, comme le montre la Figure 1. Figure 2 ). Apr\u00e8s que le programme a proc\u00e9d\u00e9 \u00e0 une analyse morphologique des mots du texte permettant d'avoir les voyellations possibles pour chaque mot, nous abordons la deuxi\u00e8me \u00e9tape du processus de voyellation. Elle consiste \u00e0 un traitement statistique se basant sur le mod\u00e8le de Markov cach\u00e9 au niveau du mot, les techniques de lissage et l'algorithme de Viterbi (Neuhoff, 1975) . Cela permet d'obtenir la voyellation la plus probable des mots de la phrase. Dans ce qui suit, nous donnons un bref rappel des d\u00e9marches math\u00e9matiques relatives \u00e0 ce mod\u00e8le.", "cite_spans": [ { "start": 636, "end": 651, "text": "(Neuhoff, 1975)", "ref_id": "BIBREF14" } ], "ref_spans": [ { "start": 268, "end": 276, "text": "Figure 2", "ref_id": "FIGREF0" } ], "eq_spans": [], "section": "Pr\u00e9sentation du processus de voyellation automatique", "sec_num": "3" }, { "text": "Soit O = {o 1 ,\u2026,o M } un ensemble fini d'observations et soit S = {s 1 ,\u2026,s N } un ensemble fini d'\u00e9tats cach\u00e9s.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Mod\u00e8le de Markov cach\u00e9", "sec_num": "3.2.1" }, { "text": "D\u00e9finition : Un mod\u00e8le de Markov cach\u00e9 du premier ordre est un couple de processus al\u00e9atoires", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Mod\u00e8le de Markov cach\u00e9", "sec_num": "3.2.1" }, { "text": "(X t ,Y t ) t\u22651 tel que (X t )", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Mod\u00e8le de Markov cach\u00e9", "sec_num": "3.2.1" }, { "text": "t\u22651 est une chaine de Markov homog\u00e8ne \u00e0 valeurs dans l'ensemble des \u00e9tats cach\u00e9s S, ainsi : (1) a ij = la probabilit\u00e9 de transition de l'\u00e9tat s i \u00e0 l'\u00e9tat s j et la matrice A=(a ij ) ij est appel\u00e9e matrice de transition, et (Y t )", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Mod\u00e8le de Markov cach\u00e9", "sec_num": "3.2.1" }, { "text": "ij i t j t h i t j t a s X s X s X", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Mod\u00e8le de Markov cach\u00e9", "sec_num": "3.2.1" }, { "text": "t\u22651 est un processus observable \u00e0 valeurs dans l'ensemble des observations O v\u00e9rifiant : (2) b i (k) = la probabilit\u00e9 d'observer l'\u00e9tat o k \u00e9tant donn\u00e9 l'\u00e9tat s i et la matrice B=(b i (k)) ik est appel\u00e9e matrice d'\u00e9mission. Dans notre approche, les \u00e9tats observ\u00e9s du mod\u00e8le markovien sont les mots arabes non voyell\u00e9s et les \u00e9tats cach\u00e9s sont les mots voyell\u00e9s. Par exemple, l'\u00e9tat observ\u00e9 \" \u202b\u062b\u202c \" peut avoir plusieurs \u00e9tats cach\u00e9s tels que \" \u202b\ufc60\u062b\u064e\u202c \u064e \" qui signifie \"il a racont\u00e9\" ou \" \u064c \u202b\u064e\u062b\u202c \u064e \" qui signifie \"\u00e9v\u00e9nement\".", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Mod\u00e8le de Markov cach\u00e9", "sec_num": "3.2.1" }, { "text": ") ( ) Pr( ) , , . . . , , , Pr( 1 1 1 1 1 1 1 1 k b s X o Y s X o Y s X o Y s X o Y i i t k t i k i t k t i t", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Mod\u00e8le de Markov cach\u00e9", "sec_num": "3.2.1" }, { "text": "Les param\u00e8tres du mod\u00e8le statistique \u00e0 savoir la matrice de transition A=(a ij ) ij et la matrice d'\u00e9mission B=(b i (k)) ik seront estim\u00e9s \u00e0 partir de corpus linguistiques repr\u00e9sentatifs. La m\u00e9thode utilis\u00e9e pour estimer les coefficients a ij et b i (k) est bas\u00e9e sur le maximum de vraisemblance (Manning, Sch\u00fctze, 1999 ", "cite_spans": [ { "start": 296, "end": 319, "text": "(Manning, Sch\u00fctze, 1999", "ref_id": null } ], "ref_spans": [], "eq_spans": [], "section": "M\u00e9thodes de lissage", "sec_num": "3.2.2" }, { "text": ") ( ) ( ) , ( i i j i ij w c r w c w w c a = = N i \u2264 \u2264 1 N j \u2264 \u2264 1 (3) ) ( ) , ( ) ( i i k i w c w u c k b = M k \u2264 \u2264 1 N i \u2264 \u2264 1 (4)", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "M\u00e9thodes de lissage", "sec_num": "3.2.2" }, { "text": "o\u00f9 N (resp. M) est le nombre sans r\u00e9p\u00e9tition des mots voyell\u00e9s (resp. non voyell\u00e9s) du corpus d'apprentissage. Il faut signaler que les \u00e9l\u00e9ments de la matrice d'\u00e9mission B sont soit \u00e9gaux \u00e0 1 soit \u00e9gaux \u00e0 0 car si le mot u k d\u00e9pourvu de ces voyelles est identique au mot w i alors b i (k) est \u00e9gal \u00e0 1 et dans le cas contraire il est \u00e9gal \u00e0 0. Par exemple la probabilit\u00e9 pour que l'\u00e9tat cach\u00e9 \" \u064e \u0650 \u064e \" qui signifie \"il a compris\" g\u00e9n\u00e8re l'\u00e9tat observ\u00e9 qui est le mot sans voyelle \" \" est toujours \u00e9gale \u00e0 1 ( 1 ) ( ) \u064e \u0650 \u064e Pr(", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "M\u00e9thodes de lissage", "sec_num": "3.2.2" }, { "text": "= = = = k b w u i i k )", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "M\u00e9thodes de lissage", "sec_num": "3.2.2" }, { "text": ". Cet ainsi que seule les probabilit\u00e9s de transition de la matrice A subiront les techniques de lissage cit\u00e9es ci-apr\u00e8s.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "M\u00e9thodes de lissage", "sec_num": "3.2.2" }, { "text": "1 www.sourceforge.net/projects/alkhalil", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "M\u00e9thodes de lissage", "sec_num": "3.2.2" }, { "text": "Mot non voyell\u00e9", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Les voyellations possibles du mot", "sec_num": null }, { "text": "\u064f \u202b\ufc60\u202c \u064e \u202b\u0627\u202c \u0650 \u202b\ufc60\u202c \u0650 \u0650 \u064e \u0652 \u202b\u0627\u202c \u064e \u202b\ufc60\u202c \u0650 \u0650 \u064e \u0652 \u202b\u0627\u202c \u064f \u202b\ufc60\u202c \u0650 \u0650 \u064e \u0652 \u202b\u0627\u202c \u202b\u0626\u202c \u064f \u202b\u0626\u202c \u0650 \u0652 \u064f \u202b\u0626\u064e\u202c \u0650 \u0652 \u064f \u0650 \u202b\u0626\u202c \u0650 \u0652 \u064f \u202b\u0626\u0652\u202c \u202b\ufc62\u202c \u064e \u064f \u202b\u0626\u0652\u202c \u0650 \u0652 \u064f AMINE CHENNOUFI ET AZZEDDINE MAZROUI", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Les voyellations possibles du mot", "sec_num": null }, { "text": "Durant la phase de test, nous avons constat\u00e9 que certaines transitions sont non disponibles dans la matrice de transition A. En effet, l'estimation de toutes les transitions \u00e0 partir des observations n'est pas suffisante, car il n'existe pas de corpus assez grand pour observer toutes les s\u00e9quences de mots valides qui peuvent \u00eatre g\u00e9n\u00e9r\u00e9s par le vocabulaire. D'ailleurs, ce n'est pas parce qu'une transition est absente du corpus d'apprentissage qu'il est impossible de l'observer dans d'autres corpus. De plus, il est tr\u00e8s contraignant, lors de la recherche de la solution optimale d'avoir une probabilit\u00e9 nulle pour un \u00e9v\u00e9nement. Des techniques de lissage sont alors utilis\u00e9es pour combler ces lacunes et permettre au mod\u00e8le de langage d'attribuer une probabilit\u00e9 non nulle \u00e0 toutes les transitions. Ces techniques sont appliqu\u00e9es avant de faire tourner l'algorithme de Viterbi car sinon le mod\u00e8le est moins performant lorsque l'une des probabilit\u00e9s est nulle. L'algorithme de Viterbi permet d'identifier le chemin optimal dans le r\u00e9seau des solutions parmi les voyellations possibles du mot (voir Figure 3) .", "cite_spans": [], "ref_spans": [ { "start": 1101, "end": 1110, "text": "Figure 3)", "ref_id": null } ], "eq_spans": [], "section": "Les voyellations possibles du mot", "sec_num": null }, { "text": "La plupart des m\u00e9thodes de lissage peuvent se d\u00e9composer en deux \u00e9tapes : la premi\u00e8re pr\u00e9l\u00e8ve une masse de probabilit\u00e9 sur les transitions observ\u00e9es (probabilit\u00e9 r\u00e9duite), et cette masse est redistribu\u00e9e dans la seconde \u00e9tape sur les \u00e9v\u00e9nements non observ\u00e9s. Pour le pr\u00e9l\u00e8vement, beaucoup de techniques ont \u00e9t\u00e9 exp\u00e9riment\u00e9es (Chen, Goodman, 1998) . La redistribution se fait g\u00e9n\u00e9ralement soit par interpolation lin\u00e9aire soit par repli \u00e0 l'ordre inf\u00e9rieur (plus connue sous l'appellation back-off). Dans cet article, nous allons nous limiter \u00e0 la forme interpol\u00e9e. Ainsi, l'\u00e9quation 5 ", "cite_spans": [ { "start": 325, "end": 346, "text": "(Chen, Goodman, 1998)", "ref_id": "BIBREF2" } ], "ref_spans": [], "eq_spans": [], "section": "FIGURE 3. Utilisation de l'algorithme de viterbi pour trouver la solution optimale", "sec_num": null }, { "text": "= probabilit\u00e9 du mot w j calcul\u00e9e par la m\u00e9thode du maximum de vraisemblance (Manning, Sch\u00fctze,, 1999 ", "cite_spans": [ { "start": 77, "end": 101, "text": "(Manning, Sch\u00fctze,, 1999", "ref_id": null } ], "ref_spans": [], "eq_spans": [], "section": ") ( j MLE w P", "sec_num": null }, { "text": "Le lissage le plus simple utilis\u00e9 dans la pratique est l'Additive Smoothing (Chen, Goodman, 1998) . Pour \u00e9viter les transitions nulles, nous faisons l'hypoth\u00e8se que chaque transition se produit un peu plus souvent qu'il ne parait. Nous ajoutons un facteur \u03b4 pour chaque fr\u00e9quence de transition, o\u00f9 g\u00e9n\u00e9ralement 1 0 \u2264 < \u03b4 . Ainsi, l'\u00e9quation est la suivante :", "cite_spans": [ { "start": 76, "end": 97, "text": "(Chen, Goodman, 1998)", "ref_id": "BIBREF2" } ], "ref_spans": [], "eq_spans": [], "section": "M\u00e9thode Additive Smoothing", "sec_num": "3.2.2.1" }, { "text": ") ( ) ( ) / ( i j i i j add w c V w w c w w P + + = \u03b4 \u03b4 (6)", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "M\u00e9thode Additive Smoothing", "sec_num": "3.2.2.1" }, { "text": "La performance de cette m\u00e9thode de lissage est faible, car celle-ci a tendance \u00e0 surestimer les probabilit\u00e9s des \u00e9v\u00e9nements absents dans le corpus d'apprentissage (Gale, Church, 1994) .", "cite_spans": [ { "start": 163, "end": 183, "text": "(Gale, Church, 1994)", "ref_id": "BIBREF7" } ], "ref_spans": [], "eq_spans": [], "section": "M\u00e9thode Additive Smoothing", "sec_num": "3.2.2.1" }, { "text": "La m\u00e9thode Absolute discounting fait partie des m\u00e9thodes de lissage interpol\u00e9 (Ney et al., 1994) ", "cite_spans": [ { "start": 78, "end": 96, "text": "(Ney et al., 1994)", "ref_id": "BIBREF15" } ], "ref_spans": [], "eq_spans": [], "section": "Lissage Absolute discounting", "sec_num": "3.2.2.2" }, { "text": "{ } ) ( ) ( ) ( ) ( 0 , max ) / ( 1 j abs i i i i j abs w P w N w c D w c D r w w P \u2022 + \u2212 = + 1 0 \u2264 \u2264 D Avec selon les auteurs : ) ( ) ( j MLE j abs w P w P = ou V w P w P j uniforme j abs 1 ) ( ) ( = = , et ) ( 1 \u2022 + i w N", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Lissage Absolute discounting", "sec_num": "3.2.2.2" }, { "text": "est la diversit\u00e9 qui est d\u00e9finie comme \u00e9tant le nombre de tous les mots (sans r\u00e9p\u00e9tition) qui suivent le mot w i dans le corpus.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Lissage Absolute discounting", "sec_num": "3.2.2.2" }, { "text": "EQUATION", "cite_spans": [], "ref_spans": [], "eq_spans": [ { "start": 0, "end": 8, "text": "EQUATION", "ref_id": "EQREF", "raw_str": "{ } 0 ) ( : ) ( 1 > = \u2022 + j i j i w w c w w N", "eq_num": "(7)" } ], "section": "Lissage Absolute discounting", "sec_num": "3.2.2.2" }, { "text": "\u202b\u0631\u0633\u202c \u202b\u0627\u202c \u202b\u0630\u202c \u202b\u0627\u202c comme probabilit\u00e9 de repli \u00e0 l'ordre inf\u00e9rieur, nous avons am\u00e9lior\u00e9 de deux points les performances du syst\u00e8me. Ainsi, les quatre taux d'erreurs obtenus sont de l'ordre 10% pour WER1, de 5.4% pour WER2, de 3.72% pour DER1 et de 2.09% pour DER2. Ces performances sont obtenues avec le param\u00e8tre D=0.5. Cependant, vu que ces syst\u00e8mes n'ont pas \u00e9t\u00e9 test\u00e9s sur le m\u00eame corpus, il conviendra de prendre les conclusions avec une certaine r\u00e9serve. (Schlippe et al., 2008) 13.80 9.30 4.90 3.20 (Zitouni et al., 2009) 17.30 7.20 5.10 2.20 (Al Ghamdi et al. 2010) 46.83 26.03 13.83 9.25 (Rashwan et al., 2011) 12.50 3.10 3.80", "cite_spans": [ { "start": 458, "end": 481, "text": "(Schlippe et al., 2008)", "ref_id": "BIBREF20" }, { "start": 503, "end": 525, "text": "(Zitouni et al., 2009)", "ref_id": "BIBREF21" }, { "start": 547, "end": 570, "text": "(Al Ghamdi et al. 2010)", "ref_id": null }, { "start": 594, "end": 616, "text": "(Rashwan et al., 2011)", "ref_id": "BIBREF19" } ], "ref_spans": [], "eq_spans": [], "section": "Lissage Absolute discounting", "sec_num": "3.2.2.2" }, { "text": "\u0650 \u202b\ufc60\u202c ! \u064e \u064e \u202b\u0633\u202c \u202b\ufc60\u0631\u0652\u202c \u202b\u0627\u202c \u064e \u202b\u0630\u202c \u064e %\u0652 & \u064f \u0652 \u202b\u0627'\u202c \u064e \u202b\ufc60\u202c \u064e \u064e \u0650 \u202b\ufc60\u202c ! \u064e \u202b\u0633\u064f\u202c \u202b\ufc60\u0631\u0652\u202c \u202b\u0627\u202c \u064f \u202b\u0630\u202c \u064e %\u0652 & \u064f \u0652 \u202b\u0627'\u202c \u0652 \u064f \u064e \u064f \u0650 \u202b\ufc60\u202c ! \u064e \u0650 \u202b\u0633\u202c \u202b\ufc60\u0631\u0652\u202c \u202b\u0627\u202c \u0650 \u202b\u0630\u202c \u064e %\u0652 & \u064f \u0652 \u202b\u0627'\u202c \u064e \u0650 \u064e \u0650 \u0650 \u202b\ufc60\u202c ! \u0650 \u064c \u0652 \u064e \u202b\ufc60\u202c \u064e \u064e \u0650 \u0650 \u202b\ufc60\u202c \u0650 \u064e \u202b\u0633\u202c \u202b\ufc60\u0631\u0652\u202c \u202b\u0627\u202c \u064f \u202b\u0630\u202c \u064e \u0652 \u064f \u0652 \u202b\u0627\u202c \u064e \u202b\ufc60\u202c \u064e", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Lissage Absolute discounting", "sec_num": "3.2.2.2" }, { "text": "Sans", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "M\u00e9thode de lissage WER1 (%) WER2(%) DER1(%) DER2(%)", "sec_num": null }, { "text": "Notre syst\u00e8me AlKhalil Diacritizer 10.06 5.40 3.72 2.09 Enfin, nous pouvons avancer certaines remarques expliquant les taux d'erreur de notre mod\u00e8le. La mesure WER1 telle que nous l'avons adopt\u00e9e pour \u00e9valuer le syst\u00e8me est une mesure tr\u00e8s exigeante puisque la voyellation du mot est consid\u00e9r\u00e9e correcte s'il y a concordance totale entre le mot d'origine et le mot r\u00e9sultat du syst\u00e8me de voyellation. Or, les corpus disponibles pr\u00e9sentent plusieurs erreurs orthographiques ayant comme cons\u00e9quence un impact n\u00e9gatif sur les performances de l'analyseur morphologique int\u00e9gr\u00e9. D'autre part, la diminution du taux WER2 montre que presque la moiti\u00e9 des erreurs de voyellation (5.40% sur 10.06%) sont des erreurs syntaxiques (erreur relative au dernier caract\u00e8re).", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "1.20", "sec_num": null }, { "text": "Nous avons pr\u00e9sent\u00e9 dans ce papier un programme de voyellation automatique bas\u00e9 sur une approche hybride qui combine l'analyse morphologique et les mod\u00e8les de Markov cach\u00e9s. Le mod\u00e8le a \u00e9t\u00e9 appris sur un corpus repr\u00e9sentatif constitu\u00e9 de livres arabes d'environ 57 millions de mots voyell\u00e9s. Ensuite plusieurs techniques de lissage ont \u00e9t\u00e9 appliqu\u00e9es sur les param\u00e8tres de ce mod\u00e8le pour contourner le probl\u00e8me des transitions de mots non vues dans le corpus. Les r\u00e9sultats d'\u00e9valuations obtenus sont tr\u00e8s encourageants en comparaison avec d'autres syst\u00e8mes disponibles. Nous pr\u00e9voyons de les am\u00e9liorer en agissant sur plusieurs niveaux :", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Conclusion et perspectives", "sec_num": null }, { "text": "\u2022 Au niveau des corpus : d'une part nous allons les enrichir par d'autres textes, et d'autre part nous essayerons de corriger les erreurs orthographiques. \u2022 Au niveau du dictionnaire des mots les plus fr\u00e9quents : nous essayerons de compl\u00e9ter les voyellations de certains mots partiellement voyell\u00e9s. \u2022 Au niveau de l'analyse linguistique : nous chercherons \u00e0 r\u00e9duire le taux d'erreurs relatif au signe diacritique du dernier caract\u00e8re du mot en exploitant des informations syntaxiques donn\u00e9es par l'analyseur Alkhalil Morpho Sys.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Conclusion et perspectives", "sec_num": null }, { "text": "http://sourceforge.net/projects/tashkeela/", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "", "sec_num": null } ], "back_matter": [], "bib_entries": { "BIBREF0": { "ref_id": "b0", "title": "Automatic Restoration of Arabic Diacritics: A Simple, Purely Statistical Approach", "authors": [ { "first": "M", "middle": [], "last": "Alghamdi", "suffix": "" }, { "first": "Z", "middle": [], "last": "Muzaffar", "suffix": "" }, { "first": "H", "middle": [], "last": "Alhakami", "suffix": "" } ], "year": 2010, "venue": "The Arabian Journal for Science and Engineering", "volume": "35", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "Alghamdi M., Muzaffar Z., Alhakami H. (2010), \"Automatic Restoration of Arabic Diacritics: A Simple, Purely Statistical Approach,\" The Arabian Journal for Science and Engineering, vol. 35, 2010.", "links": null }, "BIBREF1": { "ref_id": "b1", "title": "Arabic Morphological Analyzer version 2.0. LDC2004L02", "authors": [ { "first": "T", "middle": [], "last": "Buckwalter", "suffix": "" } ], "year": 2004, "venue": "", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "Buckwalter T. (2004). Arabic Morphological Analyzer version 2.0. LDC2004L02.", "links": null }, "BIBREF2": { "ref_id": "b2", "title": "An empirical study of smoothing techniques for language modeling", "authors": [ { "first": "S", "middle": [ "F" ], "last": "Chen", "suffix": "" }, { "first": "J", "middle": [], "last": "Goodman", "suffix": "" } ], "year": 1998, "venue": "", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "Chen S. F., Goodman J. (1998). An empirical study of smoothing techniques for language modeling, Harvard Univ.,Computer Science Group, Cambridge, MA, Tech. Rep. TR-10-98, August 1998.", "links": null }, "BIBREF3": { "ref_id": "b3", "title": "Vers un Voyaliseur Automatique des Textes Classiques de la Langue Arabe", "authors": [ { "first": "A", "middle": [], "last": "Chennoufi", "suffix": "" }, { "first": "A", "middle": [], "last": "Mazroui", "suffix": "" } ], "year": 2014, "venue": "", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "Chennoufi A., Mazroui A. (2014). Vers un Voyaliseur Automatique des Textes Classiques de la Langue Arabe. 1\u00e8re", "links": null }, "BIBREF4": { "ref_id": "b4", "title": "Journ\u00e9e Doctorale Nationale sur L'ing\u00e9nierie de la Langue Arabe, (JDILA'14), 8 F\u00e9vrier", "authors": [], "year": 2014, "venue": "", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "Journ\u00e9e Doctorale Nationale sur L'ing\u00e9nierie de la Langue Arabe, (JDILA'14), 8 F\u00e9vrier 2014, Rabat, Maroc.", "links": null }, "BIBREF5": { "ref_id": "b5", "title": "Voyellation automatique de l'arabe", "authors": [ { "first": "F", "middle": [], "last": "Debili", "suffix": "" }, { "first": "H", "middle": [], "last": "Achour", "suffix": "" } ], "year": 1998, "venue": "Proceedings of the workshop on Computation approaches to Semitic languages, COLING-ACL '98", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "Debili F., Achour H. (1998). Voyellation automatique de l'arabe. In Proceedings of the workshop on Computation approaches to Semitic languages, COLING-ACL '98. Montr\u00e9al.", "links": null }, "BIBREF6": { "ref_id": "b6", "title": "Semi-automatic vowelization of arabic verbs", "authors": [ { "first": "T", "middle": [], "last": "El-Sadany", "suffix": "" }, { "first": "M", "middle": [], "last": "Hashish", "suffix": "" } ], "year": 1988, "venue": "10th NC Conference", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "El-Sadany T., Hashish M. (1988). Semi-automatic vowelization of arabic verbs. In 10th NC Conference, Saudi Arabia.", "links": null }, "BIBREF7": { "ref_id": "b7", "title": "What is wrong with adding one? In Corpus-Based Research into Language", "authors": [ { "first": "W", "middle": [], "last": "Gale", "suffix": "" }, { "first": "K", "middle": [], "last": "Church", "suffix": "" } ], "year": 1994, "venue": "", "volume": "", "issue": "", "pages": "189--198", "other_ids": {}, "num": null, "urls": [], "raw_text": "Gale W., Church K.(1994). What is wrong with adding one? In Corpus-Based Research into Language, N. Oostdijk and P. D. Haan, Eds. Amsterdam, The Netherlands: Rodopi, 1994, pp. 189-198.", "links": null }, "BIBREF8": { "ref_id": "b8", "title": "An HMM Approach to Vowel Restoration in Arabic and Hebrew", "authors": [ { "first": "Y", "middle": [], "last": "Gal", "suffix": "" } ], "year": 2002, "venue": "ACL-02 Workshop on Computational Approaches to Semitic Languages", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "Gal Y. (2002). An HMM Approach to Vowel Restoration in Arabic and Hebrew. In ACL-02 Workshop on Computational Approaches to Semitic Languages.", "links": null }, "BIBREF9": { "ref_id": "b9", "title": "Arabic diacritization through full morphological tagging", "authors": [ { "first": "N", "middle": [], "last": "Habash", "suffix": "" }, { "first": "O", "middle": [], "last": "Rambow", "suffix": "" } ], "year": 2007, "venue": "Proceedings of NAACL/HLT 2007. Companion Volume, Short Papers", "volume": "", "issue": "", "pages": "53--56", "other_ids": {}, "num": null, "urls": [], "raw_text": "Habash N., Rambow O.(2007), \"Arabic diacritization through full morphological tagging,\" in Proceedings of NAACL/HLT 2007. Companion Volume, Short Papers, Rochester, New York, USA. April. 2007.pages53-56", "links": null }, "BIBREF10": { "ref_id": "b10", "title": "Restoration of arabic diacritics using dynamic programming", "authors": [ { "first": "Y", "middle": [], "last": "Hifny", "suffix": "" } ], "year": 2013, "venue": "The 8th International Conference on Computer Engineering & Systems (ICCES'2013)", "volume": "", "issue": "", "pages": "978--979", "other_ids": {}, "num": null, "urls": [], "raw_text": "Hifny Y.(2013). Restoration of arabic diacritics using dynamic programming. In The 8th International Conference on Computer Engineering & Systems (ICCES'2013), 26-28 Nov. 2013, Cairo, Egypt, pages 3-8 ISBN:978-1-4799-0078-7.", "links": null }, "BIBREF11": { "ref_id": "b11", "title": "Diacritization: A Challenge to Arabic Treebank Annotation and Parsing", "authors": [ { "first": "M", "middle": [], "last": "Maamouri", "suffix": "" }, { "first": "A", "middle": [], "last": "Bies", "suffix": "" }, { "first": "S", "middle": [], "last": "Kulick", "suffix": "" } ], "year": 2006, "venue": "Proceedings of the British Computer Society Arabic NLP/MT Conference", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "Maamouri M., Bies A., Kulick S. (2006). Diacritization: A Challenge to Arabic Treebank Annotation and Parsing. In Proceedings of the British Computer Society Arabic NLP/MT Conference.", "links": null }, "BIBREF12": { "ref_id": "b12", "title": "Foundations of Statistical Natural Language Processing", "authors": [ { "first": "C", "middle": [], "last": "Manning", "suffix": "" }, { "first": "H", "middle": [], "last": "Schutze", "suffix": "" } ], "year": 1999, "venue": "", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "Manning C. , Schutze H. (1999). Foundations of Statistical Natural Language Processing, MIT Press. Cambridge, MA.", "links": null }, "BIBREF13": { "ref_id": "b13", "title": "The LIMSI RT04 BN Arabic system", "authors": [ { "first": "A", "middle": [], "last": "Messaoudi", "suffix": "" }, { "first": "L", "middle": [], "last": "Lamel", "suffix": "" }, { "first": "J", "middle": [], "last": "Gauvain", "suffix": "" } ], "year": 2004, "venue": "Proc. Darpa RT04", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "Messaoudi A., Lamel L., Gauvain J. (2004). The LIMSI RT04 BN Arabic system. In Proc. Darpa RT04, Palisades NY.", "links": null }, "BIBREF14": { "ref_id": "b14", "title": "The Viterbi Algorithm as an Aid in Text Recognition", "authors": [ { "first": "D", "middle": [ "L" ], "last": "Neuhoff", "suffix": "" } ], "year": 1975, "venue": "IEEE Transaction on InformationTheory", "volume": "", "issue": "", "pages": "222--226", "other_ids": {}, "num": null, "urls": [], "raw_text": "Neuhoff D.L. (1975). The Viterbi Algorithm as an Aid in Text Recognition. In IEEE Transaction on InformationTheory. Pages 222-226.", "links": null }, "BIBREF15": { "ref_id": "b15", "title": "On structuring probabilistic dependences in stochastic language modeling", "authors": [ { "first": "H", "middle": [], "last": "Ney", "suffix": "" }, { "first": "U", "middle": [], "last": "Essen", "suffix": "" }, { "first": "R", "middle": [], "last": "Kneser", "suffix": "" } ], "year": 1994, "venue": "Computer, Speech, and Language", "volume": "8", "issue": "", "pages": "1--38", "other_ids": {}, "num": null, "urls": [], "raw_text": "Ney H., Essen U., Kneser R. (1994). On structuring probabilistic dependences in stochastic language modeling. Computer, Speech, and Language, vol. 8, pp. 1{38, 1994.", "links": null }, "BIBREF16": { "ref_id": "b16", "title": "Alkhali Morpho Sys", "authors": [ { "first": "Ould", "middle": [], "last": "Bebah", "suffix": "" }, { "first": "M", "middle": [ "O A" ], "last": "Mazroui", "suffix": "" }, { "first": ".", "middle": [ "A" ], "last": "Meziane", "suffix": "" }, { "first": "A", "middle": [], "last": "Lakhouaja", "suffix": "" }, { "first": "A", "middle": [], "last": "", "suffix": "" } ], "year": 2011, "venue": "International Computing Conference in Arabic. Riadh, Arabie Saoudite", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "Ould Bebah M. O. A, Mazroui. A, Meziane A., Lakhouaja A. (2011). Alkhali Morpho Sys. In International Computing Conference in Arabic. Riadh, Arabie Saoudite.", "links": null }, "BIBREF17": { "ref_id": "b17", "title": "Approche morpho-statistique pour la voyellation automatique des texts arabes", "authors": [ { "first": "Ould", "middle": [], "last": "Bebah", "suffix": "" }, { "first": "M", "middle": [ "O A" ], "last": "Mazroui", "suffix": "" }, { "first": "A", "middle": [], "last": "Lakhouaja", "suffix": "" }, { "first": "A", "middle": [], "last": "Chennoufi", "suffix": "" }, { "first": "A", "middle": [], "last": "", "suffix": "" } ], "year": 2013, "venue": "8th International Conference on intelligent system: theories and applications (SITA'13)", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "Ould Bebah M. O. A., Mazroui A ., Lakhouaja A., Chennoufi A.(2013). Approche morpho-statistique pour la voyellation automatique des texts arabes. In 8th International Conference on intelligent system: theories and applications (SITA'13), May 08-09, 2013, EMI, Rabat , Morocco.", "links": null }, "BIBREF18": { "ref_id": "b18", "title": "Automatic diacritization of Arabic for Acoustic Modeling in Speech Recognition", "authors": [ { "first": "D", "middle": [], "last": "Vergyri", "suffix": "" }, { "first": "K", "middle": [], "last": "Kirchoff", "suffix": "" } ], "year": 2004, "venue": "Proceedings of the Workshop on Computational Approaches to Arabic Script-based Languages", "volume": "", "issue": "", "pages": "66--73", "other_ids": {}, "num": null, "urls": [], "raw_text": "Vergyri D., Kirchoff K. (2004). Automatic diacritization of Arabic for Acoustic Modeling in Speech Recognition. In Proceedings of the Workshop on Computational Approaches to Arabic Script-based Languages. Geneva. Pages 66-73.", "links": null }, "BIBREF19": { "ref_id": "b19", "title": "A Stochastic Arabic Diacritizer Based on a Hybrid of Factorized and Unfactorized Textual Features", "authors": [ { "first": "M", "middle": [], "last": "Rashwan", "suffix": "" }, { "first": "M", "middle": [], "last": "Al-Badrashiny", "suffix": "" }, { "first": "M", "middle": [], "last": "Attia", "suffix": "" }, { "first": "S", "middle": [ "M" ], "last": "Abdou", "suffix": "" }, { "first": "A", "middle": [], "last": "Rafea", "suffix": "" } ], "year": 2011, "venue": "Audio, Speech, and Language Processing", "volume": "", "issue": "", "pages": "166--175", "other_ids": {}, "num": null, "urls": [], "raw_text": "Rashwan M., Al-Badrashiny M. , Attia M., Abdou S.M., Rafea A. (2011), \"A Stochastic Arabic Diacritizer Based on a Hybrid of Factorized and Unfactorized Textual Features,\" Audio, Speech, and Language Processing, pages. 166-175.", "links": null }, "BIBREF20": { "ref_id": "b20", "title": "Diacritization as a Machine Translation Problem and as a Sequence Labeling Problem", "authors": [ { "first": "T", "middle": [], "last": "Schlippe", "suffix": "" }, { "first": "T", "middle": [], "last": "Nguyen", "suffix": "" }, { "first": "S", "middle": [], "last": "Vogel", "suffix": "" } ], "year": 2008, "venue": "8th AMTA conference", "volume": "", "issue": "", "pages": "21--25", "other_ids": {}, "num": null, "urls": [], "raw_text": "Schlippe T., Nguyen T. , Vogel S. (2008). Diacritization as a Machine Translation Problem and as a Sequence Labeling Problem. In 8th AMTA conference, Hawaii. Pages 21-25.", "links": null }, "BIBREF21": { "ref_id": "b21", "title": "Arabic Diacritic Restoration Approach Based on Maximum Entropy Models", "authors": [ { "first": "I", "middle": [], "last": "Zitouni", "suffix": "" }, { "first": "R", "middle": [], "last": "Sarikaya", "suffix": "" } ], "year": 2009, "venue": "Computer Speech & Language", "volume": "23", "issue": "3", "pages": "257--276", "other_ids": {}, "num": null, "urls": [], "raw_text": "Zitouni I., Sarikaya R. (2009), \"Arabic Diacritic Restoration Approach Based on Maximum Entropy Models,\" Computer Speech & Language, vol. 23, no. 3, pp. 257-276, 2009.", "links": null } }, "ref_entries": { "FIGREF0": { "type_str": "figure", "uris": null, "text": "Aper\u00e7u du dictionnaire des mots les plus fr\u00e9quents3.2Deuxi\u00e8me phase : Analyse statistique au niveau du mot", "num": null }, "FIGREF3": { "type_str": "figure", "uris": null, "text": "de lissage pour les probabilit\u00e9s de transition du mod\u00e8le de Markov cach\u00e9 d'ordre 1 est la suivante: V est l'ensemble de tous les mots.", "num": null }, "TABREF0": { "type_str": "table", "content": "
[P-Et1.3]
3.1Premi\u00e8re phase : Analyse morphologique
Texte non voyell\u00e9
Pr\u00e9sence du mot dans
le dictionnaire des mots les plus fr\u00e9quents
OUINONAnalyse morphologique par AlKhalil Morpho Sys.1 \u00e8re \u00e9tape : analyse morphologique
Sorties possibles : mots voyell\u00e9s, Sch\u00e8mes,
types, Inconnues\u2026
Mot non analys\u00e9Mot analys\u00e9
Mod\u00e8le de Markov cach\u00e9 surMod\u00e8le de Markov cach\u00e9 sur
3 \u00e8me \u00e9tape : analyse statistique au niveau dules caract\u00e8res Choix du chemin optimal avec l'Algorithme de Viterbiles mots Lissage Choix du chemin optimal avec2 \u00e8me \u00e9tape : analyse statistique au niveau du mot
caract\u00e8resur les caract\u00e8resl'Algorithme de Viterbi sur les mots
Texte voyell\u00e9
445
", "html": null, "num": null, "text": "METHODES DE LISSAGE D'UNE APPROCHE MORPHO-STATISTIQUE POUR LA VOYELLATION AUTOMATIQUE DES TEXTES ARABES L'analyse morphologique est r\u00e9alis\u00e9e en utilisant l'analyseur open source Alkhalil Morpho Sys 1 . Ce dernier fournit des informations morpho-syntaxiques hors contexte du mot telles que les voyellations possibles du mot, les affixes qui s'ajoutent aux stems, le stem, la nature du mot (nom, verbe ou mot outil), et dans le cas des noms et des verbes le syst\u00e8me fournit le sch\u00e8me, la racine et l'\u00e9tat syntaxique (POS tags). L'int\u00e9gration de l'analyseur Alkhalil Morpho Sys dans le syst\u00e8me de voyellation automatique nous a oblig\u00e9s de faire des ajustements qui ont consist\u00e9 principalement \u00e0 l'ajout d'une base de donn\u00e9es sous la forme d'un dictionnaire contenant les mots arabes voyell\u00e9s les plus fr\u00e9quents dans les corpus arabes disponibles. Cette base a \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9e \u00e0 partir d'une base de donn\u00e9es compos\u00e9e de plus de 250 millions de mots provenant de huit corpus arabes disponibles sur Internet comprenant des livres anciens et contemporains. Le but de l'\u00e9laboration de ce dictionnaire est d'une part l'acc\u00e9l\u00e9ration du processus de l'analyse morphologique et d'autre part l'ajustement de la qualit\u00e9 de la voyellation des mots les plus fr\u00e9quents des diff\u00e9rents textes. Ce dictionnaire des mots les plus fr\u00e9quents a atteint 16369 mots accompagn\u00e9s de leurs diff\u00e9rentes voyellations possibles (voir" }, "TABREF4": { "type_str": "table", "content": "
[P-Et1.3]
METHODES DE LISSAGE D'UNE APPROCHE MORPHO-STATISTIQUE POUR LA VOYELLATION AUTOMATIQUE DES TEXTES ARABES
3.3Troisi\u00e8me phase : Analyse statistique au niveau du caract\u00e8re
4Etapes d'apprentissage et de test du mod\u00e8le
Texte non voyell\u00e9 La phase d'apprentissage a \u00e9t\u00e9 r\u00e9alis\u00e9e sur 90% d'un corpus form\u00e9 de plus de 63 millions de mots voyell\u00e9s du corpus Tashkeela 2 (56 939 523 mots). Les 10% restants (6 306 237 mots) seront utilis\u00e9s dans la phase de test. Ce corpus est Etats observ\u00e9s du mod\u00e8le compos\u00e9 de textes voyell\u00e9s tir\u00e9s d'anciens livres traitant des sujets comme la th\u00e9ologie, la grammaire, l'histoire,
de Markov cach\u00e9: mots l'\u00e9conomie et la g\u00e9ographie. Ensuite, nous avons r\u00e9alis\u00e9 certaines op\u00e9rations qui consistent \u00e0 segmenter ces textes en
non voyell\u00e9s phrases puis en d\u00e9duire les statistiques sur les voyellations des mots pour l'estimation des param\u00e8tres du mod\u00e8le.
Afin d'\u00e9valuer les performances globales de notre voyelliseur , nous avons test\u00e9 les m\u00e9thodes de lissage sur un corpus
test d\u00e9passant six millions de mots (6 306 237 mots) et choisit al\u00e9atoirement du corpus d'apprentissage Tashkeela. Les Etats cach\u00e9s du mod\u00e8le r\u00e9sultats (voir table 1) montrent que lorsque le lissage n'est pas utilis\u00e9, le taux d'erreurs au niveau des mots WER1 de Markov cach\u00e9 : (WER: Word Error Rate) est de 26.98% et baisse pour atteindre 14.02% (WER2) lorsque nous ignorons le signe voyellations possibles diacritique de la derni\u00e8re lettre du mot. De m\u00eame, le taux d'erreurs DER1 (DER: Diacritic Error Rate) relatif \u00e0 tous les
caract\u00e8res du texte est de l'ordre de 10.19% et celui qui ne tiens pas compte du signe diacritique du dernier caract\u00e8re
(DER2) est de l'ordre de 5.46%. Apr\u00e8s application de la m\u00e9thode Additive Smoothing, les quatre taux d'erreurs
diminuent et sont de l'ordre de 12% pour WER1, de 7.5% pour WER2, de 4.7% pour DER1 et 2.9% pour DER2. Il reste \u00e0 signaler que cette m\u00e9thode donne les meilleurs scores pour \u03b4=0.1. En utilisant la forme interpol\u00e9e de la m\u00e9thode Texte voyell\u00e9 Absolute Discounting et ) ( j MLE w P
447
", "html": null, "num": null, "text": "Durant la phase de test, nous avons rencontr\u00e9 une autre contrainte li\u00e9e aux mots non analys\u00e9s par Alkhalil Morpho Sys et pour lesquels nous avons associ\u00e9 l'\u00e9tiquette \"unkown\". De ce fait, la troisi\u00e8me phase d'AlKhalil Diacritizer ne concerne que ces cas. Ces derniers ne sont pas voyell\u00e9s par la 2 \u00e8me phase de notre syst\u00e8me. Ainsi, pour chaque mot non analys\u00e9, nous utilisons un autre mod\u00e8le de Markov cach\u00e9 dont les observations sont les lettres arabes et les \u00e9tats cach\u00e9s sont les signes diacritiques. L'algorithme de Viterbi est utilis\u00e9 \u00e9galement pour le choix de la solution optimale." }, "TABREF6": { "type_str": "table", "content": "", "html": null, "num": null, "text": "R\u00e9sultats de l'\u00e9valuation d'AlKhalil Diacritizer avec les diff\u00e9rentes techniques de lissageIl ressort de ces r\u00e9sultats que l'utilisation des techniques de lissage am\u00e9liore consid\u00e9rablement les performances du syst\u00e8me de vocalisation automatique des textes arabes AlKhalil Diacritizer. La m\u00e9thode Absolute Discounting affiche les taux d'erreurs les plus faibles comparativement \u00e0 la m\u00e9thode Additive Smoothing. D'autre part, pour comparer nos r\u00e9sultats \u00e0 ceux des autres syst\u00e8mes de la litt\u00e9rature, nous donnons dans la table 2 les diff\u00e9rents taux d'erreurs." }, "TABREF7": { "type_str": "table", "content": "
", "html": null, "num": null, "text": "Comparaison des performances d'AlKhalil Diacritizer avec certains voyelliseurs de la litt\u00e9rature" } } } }