Difference between revisions of "HFST ile yeni bir dile başlamak"
Line 97: | Line 97: | ||
==Lexicon== |
==Lexicon== |
||
Küçük bir tanıtımdan sonra, lexicon ile başlayalım. Yapacağımız dosyanın ismi <code>apertium-tr-tk.tk.lexc</code>, ve o dönüştürücümüzün lexicon'unu içerecek. Şimdi text editörünü açınız. |
|||
===Temeller=== |
|||
So, after going through the little description above, let's start with the lexicon. The file we're going to make is called <code>apertium-tr-tk.tk.lexc</code>, and it will contain the lexicon of the transducer. So open up your text editor. |
|||
===The basics=== |
|||
The first thing we need to define are the tags that we want to produce. In [[lttoolbox]], this is done through the <code><sdefs></code> section of the <code>.dix</code> file. |
The first thing we need to define are the tags that we want to produce. In [[lttoolbox]], this is done through the <code><sdefs></code> section of the <code>.dix</code> file. |
Revision as of 12:28, 10 December 2011
- HFST'nin kurulumu hakkında bilgi için, HFST'ye bakınız.
Bu sayfa HFST ile yeni bir dile nasıl başlanılacağını hakkında bilgi verecek. Burada lexc ve twol biçimciliklerine bazı referanslar var, örneğin FSMBook, ana bunların çoğu özel Xerox uygulamalarıyla ilgilidir, ücretsiz HFST uygulamasıyla ilgili değildir.
Güncel biçimcilikler daha çok veya daha az farklı iken, onları derlemek için kullanılar komutların aynı olması şart değil. HFST Unix ile daha çok uyumlu bir felsefeye sahip. Bu yüzden bunun avantajlarını kullanacağız. Hint-Avrupa dillerinin çoğuyla ve yalınlayan dillerle lttoolbox ile kurallara uygun bir şekilde ve kolayca uğraşılabilir. biz ise bu dil ailelerinden olmayan bir dil ile uğraşacağız, ve karışık bir morpolojiye(yapı bilimine) sahip lttoolbox ile kolayca uğraşılamacak bir dil.
Başlangıç
Diğer dosya twol
veya xfst
dosyası olabilir.
Bir morfolojik dönüştürücü olan HFST iki temel ilkeye sahiptir, bunlardan biri lexc
dosyası. Bu, bu dildeki morfemlerin(anlambirimler) biçim dizgeleriyle birlikte nasıl katılacağını, ekleneceğini tanımlar. Diğer dosya twol
veya xfst
dosyası olabilir. These describe what changes happen when these morphemes are joined together, morphographemics or morphophonology . For example,
Bu, morfemler morphographemics (veya "morphophonology") ile birlikte eklenildiğinde gerçekleşecek değişiklikleri tanımlar.
- Morphotactics:
wolf<n><pl>
→wolf + s
- Morphographemics:
wolf + s
→wolves
Burada twol
ile ilişkilendireceğiz. Eğer xfst
ile ilgileniyorsan, Foma'nın sitesinde güzel bir öğretici ders var.
Bir sonraki bölümde lexicon ile (lexc
dosyası ile) başlayacağız ve morphographemics (twol
dosyası) ile devam edeceğiz.
Bunun için HFST3'ü derlediğinizden emin olmasınız.
Dil
Üzerinde çalışacağımız dil çifti Türkçe--Türkmence. Şimdi modelleyeceğimiz dil Türkmence, Türkmenistan'da konuşulan bir dil. Üzerinde çalışacağımız dil çifti Türkçe--Türkmence. İsim kategorisin basit bir çekimlemesini yapacağız. Türkmen isimlerinin basit çekimlemesi şöyledir: Altı isim hali, iki çoğul eki, ve iyelik hali. Ekler kelimenin sonundaki bir ünlü ya da ünsüz harfe bağlı olarak farklı durumlarda olabilirler.
Ünlü Uyumu
Çok basitleştirecek olursak,[1] Türkmence'deki kelime kökleri iki tür olabilir, kalın ünlü kelimesi gövdesi, ya da ince ünlü gövdesi. Kalın ünlü gövdesi, örneğin "mugallym" "öğretmen" sadece kalın ünlüsü olan bir kelime, ve ince ünlü gövdesi, örneğin kädi "kabak" sadece ince ünlüsü olan bir kelime.Türkmence'deki kalın ünlüler: "a, y, o" ve "u". İnce ünlüler: ä, e, i, ö, ve ü.
Kelimenin gövdesine bir ek ekleneceği zaman, eke koyacağımız doğru ünlüyü seçmek için gövdedeki hangi ünlülerin olduğunu bilmemiz gerekiyor.
Çoğul Eki
Türkmence'de kelime ya tekildir(ek olmadığı yerde) ya da çoğuldur -lar" yada -ler ekinin olduğu yerde. İlki kalın ünlüler ile kullanılır, ikincisi de ince ünlüler ile kullanılır.
Durum Halleri
Durum hallerini için ekleri göstermenin altında daha sıkı ve kısa bir gösterim kullanırız. { ve } aralarında eklerdeki ünlü değişimleri, ( ve ) aralarında ise ünlü türemelerini gösteririz.
Durum | Ek | Kullanım | Örnek | ||
---|---|---|---|---|---|
V | C | V | C | ||
Yalın | Cümlenin öznesini belirtir | pagta | gazan | ||
Sahiplik | -n{y,i,u,ü}ň | -{y,i,u,ü}ň | Şahıs belirtir | pagtanyň | gazanyň |
Yönelme | -{a,ä} , -n{a,e} | -{a,e} | Dolaylı tümleç | pagta | gazana |
Belirtme | -n{y,i} | -{y,i} | Nesne | pagtany | gazany |
Bulunma | -(n)d{a,e} | -d{a,e} | Yer/Zaman | pagtada | gazanda |
Ayrılma | -(n)d{a,e}n | -d{a,e}n | Nereden çıktığını belirtir | pagtadan | gazandan |
Çekim Örneği
Not: Bu iyelik halini içermiyor.
maşgala "aile" | ||
---|---|---|
Durum | Tekil | Çoğul |
Yalın | maşgala | maşgalalar |
Sahiplik | maşgalanyň | maşgalalaryň |
Yönelme | maşgala | maşgalalara |
Belirtme | maşgalany | maşgalalary |
Bulunma | maşgalada | maşgalalarda |
Ayrılma | maşgaladan | maşgalalardan |
esger "asker" | ||
---|---|---|
Durum | Tekil | Çoğul |
Yalın | esger | esgerler |
Sahiplik | esgeriň | esgerleriň |
Yönelme | esgere | esgerlere |
Belitme | esgeri | esgerleri |
Bulunma | esgerde | esgerlerde |
Ayrılma | esgerden | esgerlerden |
Lexicon
Küçük bir tanıtımdan sonra, lexicon ile başlayalım. Yapacağımız dosyanın ismi apertium-tr-tk.tk.lexc
, ve o dönüştürücümüzün lexicon'unu içerecek. Şimdi text editörünü açınız.
Temeller
The first thing we need to define are the tags that we want to produce. In lttoolbox, this is done through the <sdefs>
section of the .dix
file.
Multichar_Symbols %<n%> ! Noun %<nom%> ! Nominative %<pl%> ! Plural
The symbols <
and >
are reserved in lexc
, so we need to escape them with %
We also need to define a Root
lexicon, which is going to point to a list of stems in the lexicon NounStems
. The Root
lexicon is analagous to the <section id="main" type="standard">
in lttoolbox:
LEXICON Root NounStems ;
Now let's add our two words:
LEXICON NounStems maşgala Ninfl ; ! "family" esger Ninfl ; ! "soldier"
First we put the stem, then we put the paradigm (or continuation class) that it belongs to, in this case Ninfl
, and finally, in a comment (the comment symbol is !
) we put the translation.
And define the most basic of inflection, that is, tagging the bare stem with <n>
to indicate a noun:
LEXICON Ninfl %<n%>: # ;
This LEXICON
should go before the NounStems
lexicon. The #
symbol is the end-of-word boundary. It is very important to have this, as it tells the transducer where to stop.
Compiling
So, now we've got our basic lexicon, let's compile it and test it. We compile with hfst-lexc
:
$ hfst-lexc apertium-tr-tk.tk.lexc -o tk-tr.lexc.hfst
(If you do not have hfst-lexc
installed, you have a problem -- probably you need to compile with --enable-lexc
, but in the meantime you can use hfst-lexc2fst
in place of hfst-lexc
)
And we can test it both with hfst-fst2strings
:
$ hfst-fst2strings tk-tr.lexc.hfst maşgala<n>:maşgala esger<n>:esger
Continuation lexica
So, we've managed to describe that maşgala and esger are nouns, but what about the inflection. This is where continuation lexica come in. These are like paradigms in lttoolbox.
The basic morphotactics of the Turkmen noun is:
- stem plural? possessive? case copula?
Where ?
denotes optionality. We're just working with number and case here, so let's describe the inflection, first we can start with number. In the section of the file LEXICON Ninfl
, add the following line:
%<n%>%<pl%>:%>l%{A%}r # ;
Phew, that looks pretty complicated!! Well, perhaps, but each part has it's reason, let's describe them:
Part | Description |
---|---|
%<n%>%<pl%> |
The part on the left side defines the analysis, in this case noun, plural. Note, this is in contrast to lttoolbox, where the analysis is usually on the right side. |
: |
The symbol : delimits the left and right sides (or surface side, and lexical side)
|
%>%>l%{A%}r |
This is the surface form, which is split into: |
%> |
The morpheme boundary delimiter (we'll talk about this later, but you put it in between morphemes where changes might happen. |
l%{A%}r |
The surface morpheme, in this case -lar or -ler |
%{A%} |
An "archivowel"... a placeholder for a vowel that can be either a or e |
# |
The end of word boundary |
; |
End of line |
Part of the reason it looks complicated is all of the %
symbols. If we remove them it looks far more readable:
<n><pl>:>l{A}r # ;
(You need to have them though)
For comparison, in lttoolbox (using · for morpheme boundary and for the {A}) for , this would look something like:
<e><p><l>·l<s n="A"/>r</l><r><s n="n"/><s n="pl"/></e>
So, we've added the first of our inflections, the plural. We need to do two things before we can test it. First we need to add %{A%}
to the Multichar_Symbols
section of the file, so scroll to the top and add it, you should get something like:
Multichar_Symbols %<n%> ! Noun %<nom%> ! Nominative %<pl%> ! Plural %{A%} ! Archivowel 'a' or 'e'
Now save the file. The next thing we need to do is compile again:
$ hfst-lexc apertium-tr-tk.tk.lexc > tk-tr.lexc.hfst
And then we can test:
$ hfst-fst2strings tk-tr.lexc.hfst maşgala<n><pl>:maşgala>l{A}r maşgala<n>:maşgala esger<n><pl>:esger>l{A}r esger<n>:esger
Ok, so this is cool, but it also kind of sucks, these aren't real surface forms. We'll never see esger>l{A}r in any text. The surface form we're looking for is esgerler. So how do we get that ?
Enter twol
The idea of twol
is to take the surface forms produced by lexc and apply rules to them to change them into real surface forms. So, this is where we change -l{A}r into -lar or -ler.
What we basically want to say is "if the stem contains front vowels, then we want the front vowel alternation, if it contains back vowels then we want the back vowel alternation". And at the same time, remove the morpheme boundary. So let's give it a shot.
We're going to make a new file apertium-tr-tk.tk.twol
.
First we need to define the alphabet:
Alphabet A B Ç D E Ä F G H I J Ž K L M N Ň O Ö P R S Ş T U Ü W Y Ý Z a b ç d e ä f g h i j ž k l m n ň o ö p r s ş t u ü w y ý z %{A%}:a ;
You don't have to define the upper and lower case on separate lines, but it can help make it clearer.
We also want to define at this point, that whatever happens, we want to remove the morpheme boundaries %>
from the surface forms, so add the following line just below the last line of lower case letters, and before the ;
:
%>:0
Here, the left side is the morphotactic form, and the right side is the surface form. Doing %>:0
changes %>
into 0
, which is the same as deleting it. The 0
symbol is not output.
So, the final alphabet section will look like this:
Alphabet A B Ç D E Ä F G H I J Ž K L M N Ň O Ö P R S Ş T U Ü W Y Ý Z a b ç d e ä f g h i j ž k l m n ň o ö p r s ş t u ü w y ý z %{A%}:a %>:0 ;
Next we need to define some "sets" to work with, these are basically for giving mnemonics to features, like "front vowel" and "back vowel" which we want to refer to later in the rules:
Sets Consonant = B Ç D F G H J Ž K L M N Ň P R S Ş T W Z b ç d f g h j ž k l m n ň p r s ş t w z ; Vowel = A E Ä I O Ö U Ü Y Ý a e ä i o ö u ü y ý ; FrontVowel = Ä E I Ö Ü ä e i ö ü ; BackVowel = A Y O U a y o u ; NonBack = Consonant FrontVowel %> ; NonFront = Consonant BackVowel %> ;
So now we've got everything set up, to add the rule, there is a new section, Rules
:
Rules "Front harmony in suffixes" %{A%}:e <=> FrontVowel: NonBack:* %>: NonBack:* _ ;
The rule is basically saying: "Substitute {A} with e if the previous letters are anything except back vowels, then there is a morpheme boundary, then there are no back vowels, and at some point there is a front vowel"
Next up, to compile the rule and test it:
$ hfst-twolc -R -i apertium-tr-tk.tk.twol -o tk-tr.twol.hfst Reading input from tk.twol. Writing output to tk.twol.hfst. Reading alphabet. Reading sets. Reading rules and compiling their contexts and centers. Compiling and storing rules. Compiling rules. Storing rules.
With the power of intersecting composition!
In order to get the final transducer, what we need to do is combine the morphotactic model (lexc
) with the morphographemic model (twol
). There is a way of doing this called "intersecting composition" which is fairly efficient. There is also a tool in HFST called hfst-compose-intersect
which is what we'll be using.
$ hfst-compose-intersect -1 tr-tk.lexc.hfst -2 tr-tk.twol.hfst -o tr-tk.autogen.hfst
Now we can test the final transducer:
$ hfst-fst2strings tr-tk.autogen.hfst maşgala<n>:maşgala maşgala<n><pl>:maşgalalar esger<n>:esger esger<n><pl>:esgerler
Great!! We have the desired forms.
Analysis and generation
The transducer we made above was for generation, but we can't yet use it with hfst-proc
because of the format. If we want to use it with hfst-proc
, all we need to do is change the format, with the following command:
$ hfst-fst2fst -O -i tr-tk.autogen.hfst -o tr-tk.autogen.hfst.ol
Now we should be able to generate both of our plurals:
$ echo "^maşgala<n><pl>$" | hfst-proc -g tr-tk.autogen.hfst.ol maşgalalar
and
$ echo "^esger<n><pl>$" | hfst-proc -g tr-tk.autogen.hfst.ol esgerler
But what if we want to analyse some words ? Well, then we need to invert the transducer. This is changing the left side to the right side, and the right side to the left side, let's do it in two stages so we can see the results:
$ hfst-invert -i tr-tk.autogen.hfst -o tk-tr.automorf.hfst $ hfst-fst2strings tk-mor.hfst maşgala:maşgala<n> maşgalalar:maşgala<n><pl> esger:esger<n> esgerler:esger<n><pl>
As we can see, now the left side is the surface form, and the right side the analysis. Now just to convert the analyser to optimised lookup format:
$ hfst-fst2fst -O -i tk-tr.automorf.hfst -o tk-tr.automorf.hfst.ol
And do some analysis:
$ echo "maşgalalar" | hfst-proc tk-tr.automorf.hfst.ol ^maşgalalar/maşgala<n><pl>$ $ echo "esgerler" | hfst-proc tk-tr.automorf.hfst.ol ^esgerler/esger<n><pl>$
Troubleshooting
Here is a brief troubleshooting checklist for when you do something, but it isn't working:
- Are all your multicharacter symbols defined ? Including archivowels/consonants. If you think you added them, triple check. This goes for problems in
twol
as well as inlexc
.
Notes
- ↑ Bu aslında çok karışıktır, bu didaktik örnek için, böyle diyoruz