Difference between revisions of "Курсы машинного перевода для языков России/Раздел 0"
| Line 34: | Line 34: | ||
There can be differences in the level of abstraction of the intermediate representation. We can distinguish two broad groups, shallow transfer, and deep transfer. In shallow-transfer MT the intermediate representation is usually either based on morphology or shallow syntax. In deep-transfer MT the intermediate representation usually includes some kind of parse tree or graph structure (see images on the right). |
|||
Различия могут быть в уровне абстракции этой промежуточной репрезентации. Можно выделить две большие группы: неглубокая передача и глубокая передача. При неглубоком переносе машинного перевода промежуточная репрезентация, как правило, основывается или на морфологии или на поверхностном синтаксисе. При глубокой передачи MT промежуточная репрезентация обычно включает в себя что-то похожее на дерево разбора или графическую структуру (см. изображение справа) |
Различия могут быть в уровне абстракции этой промежуточной репрезентации. Можно выделить две большие группы: неглубокая передача и глубокая передача. При неглубоком переносе машинного перевода промежуточная репрезентация, как правило, основывается или на морфологии или на поверхностном синтаксисе. При глубокой передачи MT промежуточная репрезентация обычно включает в себя что-то похожее на дерево разбора или графическую структуру (см. изображение справа) |
||
| Line 42: | Line 41: | ||
===Язык-посредник=== |
|||
===Межязыковой=== |
|||
| ⚫ | В машинном переводе, основанного на переносе, правила написаны на основе пара-на-пару, что делает их особенными для языковой пары. В подходе "язык-посредник", промежуточная репрезентация полностью независимым от языка. Есть ряд преимуществ такого подхода, но также и недостатки. Преимущества в том, что есть возможность добавить новый язык в существующую систему MT, необходимо лишь написать анализатор и генератор для нового языка, а не правила переноса между новым языком и всех существующих языков. Недостаток в том что очень трудно определить язык-посредник, который может действительно представлять все нюансы всех естественных языках, и на практике, язык-посредник используются только для ограниченных областей перевода. |
||
In transfer-based machine translation, rules are written on a pair-by-pair basis, making them specific to a language pair. In the interlingua approach, the intermediate representation is entirely language independent. There are a number of benefits to this approach, but also disadvantages. The benefits are that in order to add a new language to an existing MT system, it is only necessary to write an analyser and generator for the new language, and not transfer rules between the new language and all the existing languages. The drawbacks are that it is very hard to define an interlingua which can truely represent all nuances of all natural languages, and in practice, interlingua systems are only used for limited translation domains. |
|||
| ⚫ | В машинном переводе, основанного на переносе, правила написаны на основе пара-на-пару, что делает их |
||
==Проблемы машинного перевода== |
==Проблемы машинного перевода== |
||
| Line 51: | Line 49: | ||
===Анализ=== |
===Анализ=== |
||
<center>''' |
<center>'''Форма не полностью определяет содержание.'''</center> |
||
Это также называется проблемой омонимии. Проблема состоит в том, что многие предложения на одном языке могут иметь более чем одну интерпретацию и эти интерпретации могут быть переведены по разному на разные языки. |
Это также называется проблемой омонимии. Проблема состоит в том, что многие предложения на одном языке могут иметь более чем одну интерпретацию и эти интерпретации могут быть переведены по разному на разные языки. Рассмотрим следующий пример: |
||
:ПРИМЕР 3 |
:ПРИМЕР 3 |
||
| Line 59: | Line 57: | ||
:Вот друг Саша, которого я вчера встретил. |
:Вот друг Саша, которого я вчера встретил. |
||
=== |
===Синтаксис=== |
||
<center>''' |
<center>'''Содержание не полностью определяет форму.''' </center> |
||
Проблема в том, что в данном языке есть не один способов для передачи одного и того же значения. |
|||
This is the problem that in a given language there is usually more than one way to communicate the same meaning for any given meaning. |
|||
:ПРИМЕР 4 |
|||
:EXEMPLE 4 |
|||
:Эсир мӗнле пурӑнатӑр? |
:Эсир мӗнле пурӑнатӑр? |
||
:Мӗнле пурнӑҫсем? |
:Мӗнле пурнӑҫсем? |
||
| Line 69: | Line 67: | ||
:Мӗнле еҫсем? |
:Мӗнле еҫсем? |
||
Все эти вопросы требуют одинакового ответа, но их частота и место употребления могут различаться. |
|||
All of these questions demand the same answer (how are you), but they may be more or less frequently used, or emphasise different things. |
|||
В Apertium, на каждое введенное предложение, предлагается один вариант. От создателя системы зависит, какой вариант перевода будет предлагать система. Часто мы рекомендуем чтобы это был наиболее литературный перевод, так как это снижает необходимость в правилах переноса. |
|||
In Apertium, for a given input sentence, one output sentence is produced. It is up to the designer of the translation system to choose which translation they want the system to produce. Often we recommend the most literal translation possible, as this reduces the necessity of transfer rules. |
|||
=== |
===Перенос=== |
||
<center>''' |
<center>'''Одно и тоже содержание по разному представлено в разных языках. '''</center> |
||
В языках существуют различные способы передачи одного и того же значения. И эти значения обычно несовместимы между языками. Рассмотрите следующие примеры предложений, которые выражают одно и то же значение: |
В языках существуют различные способы передачи одного и того же значения. И эти значения обычно несовместимы между языками. Рассмотрите следующие примеры предложений, которые выражают одно и то же значение: |
||
| Line 79: | Line 77: | ||
:ПРИМЕР 5 |
:ПРИМЕР 5 |
||
В системе Apertium, применяются правила, которые трансформируют структуру языка источника в структуру целевого языка, используя последовательность лексических форм в качестве |
В системе Apertium, применяются правила, которые трансформируют структуру языка источника в структуру целевого языка, используя последовательность лексических форм в качестве промежуточной репрезентации. Более подробная информация в разделе 5: Основы структурного переноса. |
||
===Описание=== |
===Описание=== |
||
<center>''' |
<center>'''Как отразить информация о процессе перевода на языке компьютера.'''</center> |
||
Последней проблемой является проблема описания. Чтобы создать систему машинного перевода люди со знанием обоих языков должны сесть и систематизировать-кодировать свои знания в таком виде, чтобы компьютер смог их обработать. |
Последней проблемой является проблема описания. Чтобы создать систему машинного перевода люди со знанием обоих языков должны сесть и систематизировать-кодировать свои знания в таком виде, чтобы компьютер смог их обработать. |
||
While translation is often an unconscious process, we translate without reflecting on the rules that we use to translate, the machine does not have this unconsciousness, and must be told exactly what operations to perform. If these operations rely on information that the machine does not have, or cannot have, then a machine translation will not be possible. |
|||
Так как перевод часто является бессознательным процессом, мы переводим не задумываясь о правилах, которыми мы пользуемся. Компьютеры не имеют такой способности, им нужны конкретные инструкции что именно нужно делать. Перевод не получится, если в компьютер не будет занесена информация по переводу. |
Так как перевод часто является бессознательным процессом, мы переводим не задумываясь о правилах, которыми мы пользуемся. Компьютеры не имеют такой способности, им нужны конкретные инструкции что именно нужно делать. Перевод не получится, если в компьютер не будет занесена информация по переводу. |
||
| Line 98: | Line 95: | ||
===Установка=== |
===Установка=== |
||
Для руководства по установке Apertium, HFST и |
Для руководства по установке Apertium, HFST и грамматике ограничений, смотрите раздаточный материал. |
||
===Применение=== |
===Применение=== |
||
Чтобы пользоваться системой Apertium, сначала откройте first open up a terminal. |
Чтобы пользоваться системой Apertium, сначала откройте first open up a terminal. Теперь <code>cd</code> в раздел языковой пары, которую хотите протестировать. |
||
<pre> |
<pre> |
||
| Line 121: | Line 118: | ||
</pre> |
</pre> |
||
===Структура раздела=== |
|||
===Directory layout=== |
|||
Ниже приведена таблица, в которой дано описание основных файлов с данными, которые присутствуют в типичной языковой паре и ссылки на разделы в которых они описаны. |
Ниже приведена таблица, в которой дано описание основных файлов с данными, которые присутствуют в типичной языковой паре и ссылки на разделы в которых они описаны. |
||
Below is a table which gives a description of the main data files that can be found in a typical language pair, and links to the sessions where they are described. |
|||
<center> |
<center> |
||
{|class=wikitable |
{|class=wikitable |
||
! |
! Файл !! Вид !! Описание !! Раздел (ы) |
||
|- |
|- |
||
| <code>apertium-tr-ky.ky.lexc</code> || Dictionary || Kyrgyz morphotactic dictionary, used for analysis and generation || [[Машинный перевод для языков России/Session 1|1]] [[Машинный перевод для языков России/Session 2|2]] |
| <code>apertium-tr-ky.ky.lexc</code> || Dictionary || Kyrgyz morphotactic dictionary, used for analysis and generation || [[Машинный перевод для языков России/Session 1|1]] [[Машинный перевод для языков России/Session 2|2]] |
||
Revision as of 20:52, 16 January 2012
В данном разделе будет дан краткий обзор такого метода перевода как машинный перевод, основанного на использовании введенных правил и представлена работа открытой платформы свободного машинного перевода Apertium
Существуют два принципиально отличающихся друг от друга вида машинного перевода:
- Машинный перевод, основанный на правилах (Rule Based Machine Translation), его также называют символьным машинным переводом; Apertium как раз относится к данному виду и этот раздел посвящен подвиду машинного перевода, основанного на правилах
- Корпусный машинный перевод; при таком переводе для перевода новых предложений переводчик обращается к пулу из ранее переведенных предложений.
Если кратко представить корпусный МП, то его можно разделить на две главные подгруппы: подгруппа, в основе которой лежат статистические данные, и подгруппа, основанная на примерах. Теоретически, основной принцип работы статистического машинного перевода заключается в следующем: берется набор ранее переведенных предложений (параллельный корпус) и подсчитывается какие символы совпадают наиболее часто. Всем символам, которые совпадают, присваивается признак вероятности. При переводе нового предложения переводчик рассматривает все слова (символы), которым присвоен признак вероятности, их вероятности комбинируется, делается несколько вариантов возможных переводов и затем выбирается вариант перевода с самой высокой степенью вероятности. Первые системы статистического МП учитывали только совпадение слов, но более новые системы могут учитывать совпадения последовательных рядов слов (фраз) и иерархических деревьев.
В противовес этому, машинный перевод, основанный на анализе примеров, может быть назван переводом по аналогии. В нем также используется параллельные корпуса, но, вместо того чтобы обращаться к признакам вероятности слов, переводчик учится делать анализ на основе примеров. Например, если будет дана пара предложений (A la chica le gustan los gatos(es) → Das Mädchen mag Katzen(de) и A la chica le gustan los elefantes → Das Mädchen mag Elefanten) переводчик может дать следующий пример перевода (A la chica le gustan X → Das Mädchen mag X). При переводе нового предложения, переводчик обращается и анализирует данные части предложения и заменяет их.
Автоматическое применение большего пула переводных текстов (переводной памяти) к переводному тексту может быть также названо видом машинного перевода с использованием корпуса. На самом деле, границы между статистическим машинным переводом и переводом, которые использует и анализирует примеры достаточно размыты. И в том и в другом методе есть свои недостатки и преимущества. При использовании методов машинного перевода с использованием корпуса, переводной текст обычно выглядит более естественным, но может страдать сам смысл перевода, при использовании систем, которые используют метод, основанный на применении правил, перевод выглядит не таким гладким, но более точно передавать смысл с языка оригинала.
Системы, основанные на правила, и системы, в которых используются корпус, могут быть объединены различными способами и представлять собой смешанную систему. Например, можно создать смешанную систему, где корпусный машинный перевод помогает найти эквиваленты, а затем применяется метод, основанный на правилах, в случае, если не найдено ни одного совпадающего образца.
Виды систем машинного перевода
Прямой
Прямой, или пословный машинный перевод осуществляется следующим образом: из языка источника считывается по одному слову за один раз, затем слово ищется в двуязычном списке слов произвольной формы. Слова могут быть удалены или не учтены, и, могут быть переведены одним или несколькими словами. Грамматический анализ не проводится, так что даже такие простые ошибки, как соглашение в роде и числе между существительным и определением к нему останется в языке перевода на выходе.
- ПРИМЕР 1
- Heinrich köpeğine bir parça et verir.
- << TXUVAIX AQUÍ >>
- Генрих сетö яй кусöк аслас понлы.
- Heinrich antoi lihapalan koiralleen.
- Генрих даёт кусок мяса своей собаке.
Перенос
Машинный перевод, основанный на переносе, работает таким образом, что, сначала язык-источник преобразовывается в зависимую от языка промежуточную репрезентацию, а затем правила применяются уже к этой промежуточной репрезентации с целью преобразования структуры языка-источника в структуру языка перевода. Перевод осуществляется с этой репрезентации с использованием как двуязычных словарей, так и грамматических правил.
Различия могут быть в уровне абстракции этой промежуточной репрезентации. Можно выделить две большие группы: неглубокая передача и глубокая передача. При неглубоком переносе машинного перевода промежуточная репрезентация, как правило, основывается или на морфологии или на поверхностном синтаксисе. При глубокой передачи MT промежуточная репрезентация обычно включает в себя что-то похожее на дерево разбора или графическую структуру (см. изображение справа)
- ПРИМЕР 2
Машинный перевод, основанный на переносе обычно работает следующим образом: сначала текст перевода анализируется и снимается морфологическая неоднозначность (а в случае глубокой передачи, синтаксическая) с целью получения промежуточной репрезентации исходного языка. Процесс переноса затем преобразует эту финальную репрезентацию (все еще на языке оригинала) в репрезентацию на том же уровне абстракции в языке перевода. Из репрезентации языка перевода, генерируется язык перевода.
Язык-посредник
В машинном переводе, основанного на переносе, правила написаны на основе пара-на-пару, что делает их особенными для языковой пары. В подходе "язык-посредник", промежуточная репрезентация полностью независимым от языка. Есть ряд преимуществ такого подхода, но также и недостатки. Преимущества в том, что есть возможность добавить новый язык в существующую систему MT, необходимо лишь написать анализатор и генератор для нового языка, а не правила переноса между новым языком и всех существующих языков. Недостаток в том что очень трудно определить язык-посредник, который может действительно представлять все нюансы всех естественных языках, и на практике, язык-посредник используются только для ограниченных областей перевода.
Проблемы машинного перевода
Анализ
Это также называется проблемой омонимии. Проблема состоит в том, что многие предложения на одном языке могут иметь более чем одну интерпретацию и эти интерпретации могут быть переведены по разному на разные языки. Рассмотрим следующий пример:
- ПРИМЕР 3
- Здесь нужен пример синтаксической неоднозначности на русском или на чувашском языке (чем проще, тем лучше)
- Вот друг Саша, которого я вчера встретил.
Синтаксис
Проблема в том, что в данном языке есть не один способов для передачи одного и того же значения.
- ПРИМЕР 4
- Эсир мӗнле пурӑнатӑр?
- Мӗнле пурнӑҫсем?
- Мӗнле халсем?
- Мӗнле еҫсем?
Все эти вопросы требуют одинакового ответа, но их частота и место употребления могут различаться. В Apertium, на каждое введенное предложение, предлагается один вариант. От создателя системы зависит, какой вариант перевода будет предлагать система. Часто мы рекомендуем чтобы это был наиболее литературный перевод, так как это снижает необходимость в правилах переноса.
Перенос
В языках существуют различные способы передачи одного и того же значения. И эти значения обычно несовместимы между языками. Рассмотрите следующие примеры предложений, которые выражают одно и то же значение:
- ПРИМЕР 5
В системе Apertium, применяются правила, которые трансформируют структуру языка источника в структуру целевого языка, используя последовательность лексических форм в качестве промежуточной репрезентации. Более подробная информация в разделе 5: Основы структурного переноса.
Описание
Последней проблемой является проблема описания. Чтобы создать систему машинного перевода люди со знанием обоих языков должны сесть и систематизировать-кодировать свои знания в таком виде, чтобы компьютер смог их обработать.
Так как перевод часто является бессознательным процессом, мы переводим не задумываясь о правилах, которыми мы пользуемся. Компьютеры не имеют такой способности, им нужны конкретные инструкции что именно нужно делать. Перевод не получится, если в компьютер не будет занесена информация по переводу.
Но для многих предложений данная информация необязательна:
- ПРИМЕР 6
Практика
Установка
Для руководства по установке Apertium, HFST и грамматике ограничений, смотрите раздаточный материал.
Применение
Чтобы пользоваться системой Apertium, сначала откройте first open up a terminal. Теперь cd в раздел языковой пары, которую хотите протестировать.
$ cd apertium-aa-bb
Вы можете протестировать это при помощи следующей команды:
$ echo "Text that you want to translate" | apertium -d . aa-bb
Например, из турецкого в киргизский:
$ echo "En güzel kız evime geldi." | apertium -d . tr-ky Эң жакшынакай кыз үйүмө келди.
Структура раздела
Ниже приведена таблица, в которой дано описание основных файлов с данными, которые присутствуют в типичной языковой паре и ссылки на разделы в которых они описаны.
| Файл | Вид | Описание | Раздел (ы) |
|---|---|---|---|
apertium-tr-ky.ky.lexc |
Dictionary | Kyrgyz morphotactic dictionary, used for analysis and generation | 1 2 |
apertium-tr-ky.ky.twol |
Phonological rules | Kyrgyz morphophonological rules | 1 2 |
apertium-tr-ky.tr.lexc |
Dictionary | Turkish morphotactic dictionary, used for analysis and generation | 1 2 |
apertium-tr-ky.tr.twol |
Phonological rules | Turkish morphophonological rules | 1 2 |
apertium-tr-ky.tr-ky.dix |
Dictionary | Turkish—Kyrgyz bilingual dictionary, used for lexical transfer | 4 |
apertium-tr-ky.tr.rlx |
Tagging rules | Turkish constraint grammar, used for morphological disambiguation | 3 |
apertium-tr-ky.ky.rlx |
Tagging rules | Kyrgyz constraint grammar, used for morphological disambiguation | 3 |
apertium-tr-ky.tr-ky.t1x |
Transfer rules | Turkish→Kyrgyz first-level rule file, for structural transfer | 5 6 |
apertium-tr-ky.ky-tr.t1x |
Transfer rules | Kyrgyz→Turkish first-level rule file, for structural transfer | 5 6 |
