Курсы машинного перевода для языков России/Раздел 8

Основная задача данного раздела показать, что создание новой системы перевода с системой Apertium не обязательно должно стоить несколько миллионов евро и занимать несколько лет. Значительное количество систем Apertium была разработана несколькими людьми всего за несколько месяцев за счет использования существующих ресурсов, и подвижного движка системы.

While more time and money is often an effective way of making a better machine translation system, a lot can be said for realistic expectations, careful planning and effective contributions by volunteer developers. Хотя наличие денег и времени часто является предпосылкой для создания лучшей системы машинного перевода, многое можно сделать имея реалистичные ожидания, детальное планирование и эффективно используя вклад добровольцев-разработчиков.

Примеры из практики

Следующие примеры показывают 4 успешных, но отличных путей создания систем машинного перевода

Испанский и каталонский

Долгосрочное государственное финансирование, несколько разработчиков. На каталонском говорят около девяти миллионов человек.

Машинный переводчик с испанского на каталонский является старейшим переводчиком в Apertium. Он был переписан и расширен на основе переводчика interNOSTRUM, разработанного в Университете д'Алакант. В общей сложности, он создавался в течение 12 лет. Начальная версия interNOSTRUM была выпущена в начале 2000 года и заняла около 72 человеко-месяцев (четыре человека, 18 месяцев), которые создали движок и лингвистические данные. Он широко использовался, насчитывая около тысячи запросов в день.

В 2004 году Apertium, при финансовой поддержке Министерства науки, промышленности и торговли Испании, запустил проект по переписки кода для общего доступа, а также по преобразованию лингвистических данных. После одного человеко-года, была выпущена первая версия испано-каталонского переводчика.

Переводчик очень высокого качества, выдерживает сравнение с коммерческими проектами - более 95% охвата словаря (около 5 неизвестных слов из 100), и процент ошибочных слов между 3-7% (из 100 слов около 3 - 7 нужно заменить для получения адекватного перевода). Это второй по популярности переводчик на сайте Apertium, и основной машинный переводчик для ряда университетов в Испании при работе с этой языковой парой.

Новонорвежский язык (нюнорск, Nynorsk) и норвежский бокмал (Bokmål)

Краткосрочное финансирование на конкурсной основе, один разработчик. Нюнорск - считается предпочитаемым литературным языком для 580,000 норвежцев.

Переводчик с языка Нюнорск на Бокмал - самый популярный на нашем сайте. Его начали разрабатывать в 2008 году Фрэнсис Таерз и Трун Тростерюд, используя имеющиеся данные, такие как Norsk Ordbank (большой список полных слов на языках нюнорск и бокмал) и маркировщик слов Осло-Берген (грамматика ограничений, основанная на инструменте разрешения неоднозначности для обоих видов норвежского языка).

The original implementation was never completed, but the project was taken up again in 2009 during the Google Summer of Code competition by Kevin Unhammer, a masters' student in computational linguistics at the University of Bergen. Over a period of three months, Kevin completely remade the conversion of both the Ordbank, and the constraint grammar, and wrote a series of transfer rules. Начальная версия не была завершена, но проект был подхвачен в 2009 году во время летних соревнований по коду Google Кевином Унхаммером, студентом компьютерной лингвистики Университета Бергена. В течение трех месяцев Кевин полностью переделал преобразование обоих списков Ordbank, грамматику ограничений и написал серию правила переноса.

Он потратил 2 недели на преобразование списков Ordbank в формат Apertium, затем еще неделю на преобразование маркировщика Осло-Берген. Три недели на правила переноса, а потом еще три недели на расширение словарей. Затем две недели были потрачены на тестирование работы задач, например, на тестирование чтобы только слова из всех трех словарей были включены. И последняя неделя была посвящена оценке.

Итоговый охват системы составляет около 90%, т.е. на основе корпуса около 10 неизвестных слов из 100 слов в среднем. Ошибочные слова - около 17%, что означает, что из 100 слов 17 должны быть изменены для получения адекватного перевода. Эта система выдерживает конкуренцию с другими имеющимися системами для перевода пары нюнорск-бокмал (Nynorsk-Bokmål). Сегодня на систему приходится более трети всех переводов на сайте Apertium.

Бретонский и французский

Среднесрочный волонтерский проект при очень коротком государственном и частном финансировании, несколько разработчиков. На бретонском говорят около 200,000 людей.

Work on the Breton--French translator was started in 2008 by Francis Tyers in his spare time. After three months, a proof-of-concept system, using transfer rules from the French--Spanish pair was presented at Ofis ar Brezhoneg in December. It was decided that funding would be found to support another month of development to finish a prototype system which would be useful for assimilation purposes. Работа над бретон-французским переводчиком была начата в 2008 году Фрэнсисом Таерзом в его свободное время. После трех месяцев, систем подтверждения концепции, используя правила переноса из пары французский - испанский была представлена ​Офис ар Брежонег в декабре. Было решено, что будет найдено финансирование чтобы в течение месяца доработать прототип системы, которая была бы полезна для определенных целей.

В конце концов, финансирование поездки носителя бретонского языка в Алакант была организована Офис ар Брежонег, университет Далакант оплатил месячную зарплату бретонского носителя и компания инженерной лингвистики Промпзит оплатила работу Фрэнсиса Таерза. Еще на два месяца. В общей сложности стоимость проекта составила около € 3000. Первая версия переводчика был выпущена в мае 2009 года.

Первая версия имела охват около 85%, высокий процент ошибочных слов, что все же позволяло переводчику быть полезным для определенных целейи. Сегодня система Доступна на главной странице Офис ар Brezhoneg, и обновляется сотрудниками Офис, в том числе его директором, Фулупом Якезом.

Испанский и арагонский

Среднесрочный волонтерский проект без государственного финансирования, два разработчика. На арагонском говорит около 10,000 человек.

Работа над испанско-арагонским переводчиком была начата разработчиком Apertium Джимом O'Реганом, по просьбе носителя арагонского языка Хуан Пабло Мартинеса. Три недели усилий, растянутых в течение года, и последняя интенсивная неделя работы привели к выпуску первой версии прототипа, переводчика только с арагонского на испанский язык.

Первая двунаправленная версия переводчика была завершена Хуаном Пабло после еще ​​6 недель работы, растянутых на год. Единственными доступными ресурсами в начале этой работы на арагонском языке были арагонская версия Википедии и несколько шаблонов глаголов в английском издании Викисловаря. Арагонско-испанский словарь был создан с нуля, но морфологический анализатор испанского языка и маркировщик частей речи были взяты из испанско-каталонской пары. Создание системы никак не финансировалось.

Вспомогательные факторы

Существующие ресурсы

Когда языковые ресурсы, такие как корпуса, словари, грамматики, морфологические анализаторы, списки лемм и т.д. находятся в свободном доступе / с лицензией на возможность свободного использования, они могут быть использованы повторно и сократить время разработки. Тем не менее, количество времени, необходимого для переформатирования не следует недооценивать.

Морфологический преобразователь, предназначенный для проверки орфографии, может быть очень хорошим для проверки орфографии, но его может быть не так-то легко адаптировать для анализа / генерации в системе машинного перевода. Для разных целей разные требования и это должно быть учтено при принятии решения повторного использования существующих ресурсов: стоит ли адаптировать имеющийся ресурс или создать его с нуля.

Цели

При запуске проекта, важно ответить для себя на следующие вопросы и обозначить цели, например,

• Кто является целевой аудиторией?
  • Система будет предназначена для пользования профессиональными переводчиками, переводчиками-любителями или просто обывателями ?
• Для чего будет использоваться система?
  • Цель: получить общее представление о чем текст
  • Применение: получить примерный перевод
  • Область: будет ли система использоваться для перевода новостей, энциклопедической информации, юридических текстов, погоды и т.д.?
• Какие существующие языковые ресурсы могут быть повторно использованы?
  • Существуют ли хорошие бесплатные словари?
• Сколько у нас есть времени для построения системы?
  • возможно 6 месяцев недостаточно чтобы создать идеальную многоцелевую систему машинного перевода дл всех языковых пар средней Волги....,
    • ... но этого будет достаточно чтобы разработать прототип системы для перевода прогноза погоды.

Если система будет предназначаться для перевода текстов с государственной информацией для ознакомления, она обязательно будет иметь характеристики, отличные от системы для перевода статей в Википедии.

Например, создание системы с высоким объем словаря, открытой системой для усвоения и распространения данных может быть хорошей идеей, но практически это невозможно при ограниченных ресурсах.

Время

Количество времени, необходимого для создания новой языковой пары на платформе Apertium во многом зависит от целей проекта, существующих ресурсов и опыта разработчиков. Прототип или образец системы могут быть созданы в период от 10 дней до 3 месяцев. В то время как полноценная работающая система может занять от 3 месяцев (как в случае пары нюнорск-бокмал) до нескольких лет.

В следующей таблице приведены данные развития языковых пар в Apertium за последние шесть лет.

Год	Всего пар	Новые пары	Языковые пары
2005	3	3	es-ca, es-gl, es-pt
2006	6	3	es-ca, es-gl, es-pt, en-ca, fr-ca, oc-ca
2007	8	2	es-ca, es-gl, es-pt, en-ca, fr-ca, oc-ca, es-ro, fr-es
2008	18	10	es-ca, es-gl, es-pt, en-ca, fr-ca, oc-ca, es-ro, fr-es, oc-es, en-gl, cy-en, eo-ca, eo-es, eu-es, pt-gl, eo-en, en-es, pt-ca
2009	21	3	es-ca, es-gl, es-pt, en-ca, fr-ca, oc-ca, es-ro, fr-es, oc-es, en-gl, cy-en, eo-ca, eo-es, eu-es, pt-gl, eo-en, en-es, pt-ca, nn-nb, sv-da, br-fr
2010	23	2	es-ca, es-gl, es-pt, en-ca, fr-ca, oc-ca, es-ro, fr-es, oc-es, en-gl, cy-en, eo-ca, eo-es, eu-es, pt-gl, eo-en, en-es, pt-ca, nn-nb, sv-da, br-fr, es-ast, mk-bg
2011	33	10	es-ca, es-gl, es-pt, en-ca, fr-ca, oc-ca, es-ro, fr-es, oc-es, en-gl, cy-en, eo-ca, eo-es, eu-es, pt-gl, eo-en, en-es, pt-ca, nn-nb, sv-da, br-fr, es-ast, mk-bg, is-en, ca-it, eo-fr, mk-en, es-an, eu-en, es-it, sh-mk, tr-az, tr-ky

Финансирование

Как мы увидели из конкретных примеров, языковые пары в Apertium создавались и финансировались разными способами. В таблице приведены способы финансирования "стабильных" систем машинного перевода в Apertium. Самые популярные выделены жирным.

Спонсор	Вид	Языковая пара(ы)
Google Лето кода	Конкурс	mk-bg, nn-nb, sh-mk, sv-da, tr-az, tr-ky
—	Волонтеры	eo-fr, es-an, mk-en, ca-it, eo-en
Generalitat de Catalunya	Местное правительство	oc-ca, oc-es, en-ca,
—	Диссертация	cy-en, fr-ca, pt-ca
Universitat d'Alacant	Образовательное учреждение	eu-es, (br-fr), es-pt
Министерство промышленности, торговли и туризма	Правительство страны	es-ca, es-gl
ABC Enciklopedioj	Организация	eo-es, eo-ca
imaxin|software	Организация	en-gl, pt-gl
Universidá d'Uviéu	Образовательное учреждение	es-ast
Prompsit	Организация	es-it, (br-fr), (fr-es)
Eleka Ingenieritza Linguistikoa	Организация	fr-es
Исследовательский совет Исландии	Правительство страны	is-en
Ofis ar Brezhoneg	Quasi общественная организация	br-fr
Европейская ассоциация машинного перевода	Некоммерческая организация	eu-en

Практика

• Найдите существующие языковые ресурсы для вашей языковой пары и отметьте, какими документами они регламентируются.
• Разработайте реалистичный рабочий план для разработки нового переводчика для данной языковой пары в системе Apertium, принимая во внимание:
  • Существующие ресурсы
  • Цель перевода
  • Человеческие ресурсы
  • Политическую финансовую и общественную поддержку