•  ИНФОРМАЦИОННАЯ  БЕЗОПАСНОСТЬ  ГОСУДАРСТВЕННОГО  СЕКТОРА  ЭКОНОМИКИ,  БИЗНЕСА,  ЧАСТНОЙ  ЖИЗНИ  ГРАЖДАН  РОССИЙСКОЙ  ФЕДЕРАЦИИ
Microsoft улучшает свои переводы AI с помощью Z-Code

Microsoft улучшает свои переводы AI с помощью Z-Code

Microsoft сегодня объявила об обновлении своих услуг перевода, которое благодаря новым методам машинного обучения обещает значительно улучшить переводы между большим количеством языковых пар. Основываясь на своем проекте Z-Code, который использует подход “запасной смеси экспертов”, эти новые модели теперь часто набирают от 3% до 15% лучше, чем предыдущие модели компании во время слепых оценок. Z-Code является частью более широкой инициативы Microsoft XYZ-Code, которая рассматривает объединение моделей текста, видения и звука на нескольких языках для создания более мощных и полезных систем AI.

“Смесь экспертов” не является совершенно новой техникой, но она особенно полезна в контексте перевода. По своей сути система в основном разбивает задачи на несколько подзадач, а затем делегирует их более мелким, более специализированным моделям, называемым “экспертами”. Затем модель решает, какую задачу делегировать какому эксперту, основываясь на своих собственных прогнозах. Значительно упрощенный, вы можете думать об этом как о модели, которая включает в себя несколько более специализированных моделей.

график результатов нового класса Z-code смеси экспертных моделей

Новый класс моделей Z-Code Mixed of Experts повышает производительность Translator, когнитивной службы Microsoft Azure. Кредиты изображения:“С Z-Code мы действительно добиваемся потрясающего прогресса, потому что мы используем как трансферное обучение, так и многозадачное обучение на основе одноязычных и многоязычных данных, чтобы создать современную языковую модель, которая, по нашему мнению, имеет лучшее сочетание качества, производительности и эффективности, которое мы можем предоставить нашим клиентам”. сказал Сюэдун Хуан, технический сотрудник Microsoft и технический директор Azure AI.

С помощью Z-Code мы действительно добиваемся потрясающего прогресса, потому что используем как трансфертное обучение, так и многозадачное обучение на основе одноязычных и многоязычных данных для создания современной языковой модели, которая, по нашему мнению, обладает наилучшим сочетанием качества, производительности и эффективности, которые мы можем предоставить нашим клиентам”. сказал Сюэдун Хуан, технический сотрудник Microsoft и технический директор Azure AI.

Результатом этого является новая система, которая теперь может, например, напрямую переводить между 10 языками, что устраняет необходимость в нескольких системах. Microsoft также недавно начала использовать модели Z-Code для улучшения других функций своих систем AI, в том числе для распознавания сущностей, суммирования текста, пользовательской классификации текста и извлечения ключевых фраз. Однако это первый раз, когда он использовал этот подход для службы перевода.

Традиционно модели перевода чрезвычайно велики, что затрудняет их внедрение в производственную среду. Однако команда Microsoft выбрала “разреженный” подход, который активирует только небольшое количество параметров модели на задачу, а не всю систему. “Это делает их гораздо более экономичными для запуска, точно так же, как дешевле и эффективнее обогревать свой дом зимой только в то время суток,когда вам это нужно, и в помещениях, которые вы регулярно используете, вместо того, чтобы постоянно держать печь на полную мощность,” команда объясняет в сегодняшнем объявлении.

Материал подготовлен  Microsoft
 




Нажимая на кнопку, вы даете согласие на обработку персональных данных и соглашаетесь с политикой конфиденциальности

Ваши контактные данные не публикуются на сайте.

Нажимая на кнопку, вы даете согласие на обработку персональных данных и соглашаетесь с политикой конфиденциальности

Популярное

Мы используем куки (cookies) с целью повышения удобства вашей работы с сайтом.

Продолжая работу с сайтом, вы соглашаетесь с нашей политикой конфиденциальности.