Курсы машинного перевода для языков России/Раздел 1

From Apertium
Jump to navigation Jump to search

Данный раздел имеет две цели. Первая цель - дать теоретический обзор морфологии, как слова склоняются и как формируются новые слова. И вторая цель - показать, как происходит анализ и морфологический разбор в системе Apertium.

Tеория

Данный теоретический раздел разбит на три подраздела. В первом разделе речь пойдет о "морфотактике", т.е.как морфемы (части слова) возникают и затем соединяются. Во втором разделе более подробно будет говориться о "морфофонологии", т.е. о том, какие изменения происходят в морфемах в результате их соединения. И в последнем подразделе речь пойдет о том, как с этими процессами работает компьютер.

Морфотактика

Морфотактика языка это способ, которым морфемы в данном языке соединяются для формирования слов. Морфемы - это наименьшие смыслообразующие части. Морфемы могут быть свободными или связанными. Свободные морфемы - это морфемы, которые могут встречаться сами по себе, а связанные - которые должны быть связаны с другим словом. Одна морфема может иметь несколько алломорфов, которые обозначают одно и то же, но пишутся или произносятся по-разному. Например, дательные падеж (обозначает направление по отношению к предмету)в Чувашском языке имеет несколько алломорфов, употребление которых зависит от качества гласного в основе слова, после которой он употребляется.

aчама ача·м·а "to my child"
ачамсене ача·м·сен·е "to my children"
ӗҫӗме ӗҫ·ӗм·е "to my work"
каҫмана каҫма·на "переходу"

Дальше морфемы могут быть разделены на два подтипа,флективные и деривационные. В примерах, · указывает на деривационный стык, и » - на флективный стык.

ӗҫ ӗҫ "работ·а"
ӗҫсем ӗҫ·сем "работ·ы"
ĕçчен ĕç»чен "работ»ник"
ĕçченсем ĕç»чен·сем "работ»ник·и"
ӗҫле ӗҫ»ле "работа»ть"
ӗҫле ӗҫ»ле»тер "to make (someone) work"

Флексия (изменение формы слова)

Флективные морфемы являются носителями грамматических категорий, таких как число, падеж, время, и тд.,но не не изменяют категорию слова (часть речи), не изменяют основного семантического значения. Например в чувашском языке ӗҫ и ӗҫсем имеют одно и тоже основное семантическое значение, но если добавить деривационный аффикс -лЕ, ӗҫле, тогда значение изменится и станет "do ӗҫ".

Примерами флективных морфем являются -lar, -сем и plurals (kitap·lar (tr), ача·сем (cv), книг·и (ru)), and case endings -ран (ablative), -ті (translative), and -де (locative): уй·ран (cv), кань·ті (kv), үй·де (kk))

При переводе часто именно форма слова подвергается обработке, а именно, существуют правила, которые определяют как различные окончания слова изменяются при переводе. In translation, inflection is very frequently treated as a productive process, meaning there are rules to determine how the different inflections of a word change in translation.

Деривация

Деривационные морфемы в свою очередь изменяют основное семантическое значение слова, а также могут изменять категорию слова. В зависимости от языковой пары, деривационные морфемы обычно подвергаются меньшей обработке, чем флективные, так как семантические изменения, вызываемые разными деривационными морфемами, более непредсказуемы. Derivational morphemes change the basic semantic meaning of a word, and can also change word category. Depending on the language pair involved, derivation is usually treated less than inflectional morphology, as the semantic changes caused by derivational morphemes can be more unpredictable.

Следующие слова могут служить примерами деривации -LIK в Киргиз (ай "месяц" + LIK = айлык "месячная оплата"), -LA in Kyrgyz (ай "месяц" + LA = айла- "for a month to go by / пройти месяц"), и -ja на финском (kirjoitta+ja "писать" + "действующее лицо" = "писатель").

Словосложение

Словосложение - это процесс, при котором два или более слов соединяются и образуют одно слово. Среди языков Европы, наиболее часто этот процесс заметен в германских языках и не индоевропейских языках.

Примеры словосложений:

  • Tietokoneanimaatioelokuva = Tietokone+animaatio+elo+kuva (fi)
  • Kontaktlinsenverträglichkeitstest = Kontakt+Linsen+Verträglichkeit(s)+Test (de)
  • Geassevuoddjinbiila = Geasse+vuoddjin+biila (se)
  • Giellamovttidanplána = Giella+movttidan+plána (se)

В языках, где словосложение очень развито, желательно, чтобы составные слова анализировались и автоматически переводились. Это позволяет сократить морфемный лексикон, а также работать с ранее не встречающимися формами.

Clitics

Клитика (A clitic) - это синтаксически независимое слово, которое фонологически ведет себя как аффикс другого слова. Для целей машинного перевода между письменными языками, нас особенно интересует аффиксы, которые либо пишутся орфографически вместе с другим словом, либо отдельно, но их форма определяется другим словом. For the purposes of machine translation between written languages, we are particularly interested in affixes which are either written orthographically together with another word, or are written separately but their form is conditioned by another word.

В тюркских языках (в некоторых угорских языках) есть вопросительное слово (иногда его называют частица), в турецком mA, Kyrgyz -BI, казахском MA, финском -kO, северо-саамском North Sámi -go. Примеры: келесің бе? (kk) келесиңби? (ky) tuletko? (fi) boađátgo? (se) "ты идешь?". Данная фонема является клитикой (a clitic) потому что ее фонологическая форма зависит от предыдущего слова, но синтаксически (а иногда орфографически) она самостоятельна.

In Tajik, there is a variant of the word for "and" which, even though it functions syntactically as a conjunction, attaches to the preceding word, whatever that may be. Its forms are (after consonants) and -ву (after vowels). An example would be be the alternative to чой ва шароб "tea and wine": чою шароб.

Морфофонология

Морфофонология изучает фонологические изменения, которые происходят с морфемами при присоединении. Морфофонология четко прослеживается в любом наборе морфем любого языка, но в данном разделе мы объясним этот процесс на примере суффикса множественного числа в татарском языке, -/LAr/.

Суффикс имеет четыре формы, выбор которых зависит от существительного, к которому он присоединяется: -лар, -ләр, -нар, -нәр. Например, алма·лар "яблоки", тел·ләр "языки", урам+нар "улицы", көн·нәр "дни". В данных примерах, первый согласный это /л/ или /н/ в зависимости от звука, на который заканчивается слово; /н/ если суффикс следует непосредственно после носового согласного (м, н, ң), a /л/ после других звуков. Гласный /A/ изменяется в зависимости от последней гласной слова: после гласных заднего ряда "back/твёрдые vowels" (а, о, ы, у) это /а/, а после гласных переднего ряда "front/мягкие vowels" (ә, э, ө, и, ү) это /ә/.

Компьютерные представления representations

Компьютерные морфологические модели обычно пользуются инструментами под названием "конечные преобразователи" (finite-state transducers) для создания морфотактики и морфофонологии to model both morphotactics and morphophonology. Конечный преобразователь немного похож на схему ( flowchart), где в зависимости от части слова которую вы видите вы уже решаете какая у него флексия или деривация where depending on the part of the word you are reading, you make different decisions as to what inflection or derivation it has. В отличии от обыкновенной схемы, решение может привести к более чем одному заключению! Unlike the typical flowchart however, a decision may lead to more than one conclusion!

Конечный преобразователь моделирует основные категории морфотактики трех имен существительных на башкирском языке te transducer modelling the basic nominal morphotactics (множественное число, принадлежность, падеж) of three words in Bashkir. Заметьте, как используются архифонемы (буквы в { и }) для репрезентации букв, которые могут изменяться согласно правилам фонологии.

The above transducer, once expanded is too big to easily read through, but if we remove the possessives, we can take a closer look at how it works.

A finite-state transducer modelling the case and number inflection of the Bashkir word мәктәп "school".

Consider the example of the word мәктәп "school" in Bashkir, it declines for number (singular, plural) and case (nominative, genitive, dative, accusative, locative and ablative). If we look at the transducer above, each arc in the graph has a label. The label has two parts, a left side (on the left of :) and a right side (on the right of :). If we read from left to right, we can analyse a word.

Singular Plural
Nominative мәктәп мәктәптәр
Accusative мәктәпте мәктәптәрҙе
Genitive мәктәптең мәктәптәрҙең
Locative мәктәптә мәктәптәрҙә
Ablative мәктәптән мәктәптәрҙән
Dative мәктәпкә мәктәптәргә

You can try doing this with one word from the declension table on the right. For example мәктәптәрҙән "from (the) schools". We should get the analysis мәктәп<n><pl><abl>. The process goes something like as follows:

  • read м, write м (input: м, оutput: м)
  • read ә, write ә (input: мә, оutput: мә)
  • read к, write к (input: мәк, оutput: мәк)
  • read т, write т (input: мәкт, оutput: мәкт)
  • read ә, write ә (input: мәктә, оutput: мәктә)
  • read п, write п (input: мәктәп, оutput: мәктәп)
  • read 0, write <n> (input: мәктәп0, оutput: мәктәп<n>)
  • read т, write <pl> (input: мәктәп0т, оutput: мәктәп<n><pl>)
  • read ә, write 0 (input: мәктәп0тә, оutput: мәктәп<n><pl>0)
  • read p, write 0 (input: мәктәп0тәp, оutput: мәктәп<n><pl>00)
  • read 0, write <abl> (input: мәктәп0тәp0, оutput: мәктәп<n><pl>00<abl>)
  • read ҙ, write 0 (input: мәктәп0тәp0ҙ, оutput: мәктәп<n><pl>00<abl>0)
  • read ә, write 0 (input: мәктәп0тәp0ҙә, оutput: мәктәп<n><pl>00<abl>00)
  • read н, write 0 (input: мәктәп0тәp0ҙән, оutput: мәктәп<n><pl>00<abl>000)

Note that reading or writing 0 is like reading or writing nothing.

Practice

There are two handouts for this practical,

Further reading