Intel OpenVINO 2025.0: новый уровень для генеративного ИИ

Расширение возможностей ИИ: Intel анонсирует OpenVINO 2025.0

Intel представила первое крупное обновление своего флагманского продукта OpenVINO за этот год, сосредоточив внимание на улучшении производительности, расширении поддержки генеративных моделей и оптимизации работы с нейропроцессорами (NPU).

Ключевым нововведением OpenVINO 2025.0 является интеграция поддержки FLUX.1, передовой модели для генерации изображений, которая теперь может эффективно функционировать на процессорах и графических ускорителях Intel через GenAI Pipeline. Это обновление дает разработчикам возможность использовать Optimum-Intel для экспорта моделей FLUX и интегрировать их с Text2ImagePipeline. Кроме того, в обновление включены функции Image2Image для трансформации изображений на основе текстовых и визуальных данных и Inpainting для замены определенных участков изображений по заданной маске.

В сфере обработки текста OpenVINO 2025.0 внедрило предварительную поддержку функции декодирования поиска подсказок в LLMPipeline API, что значительно уменьшает время задержки при ответах на многократные запросы, что особенно важно для обработки больших текстов и в интерактивных приложениях. Расширена также поддержка моделей Mistral-7B-Instruct-v0.2, Qwen2.5 и новых дистилляционных моделей DeepSeek на базе LLaMA и Qwen.

Значительные улучшения коснулись аппаратного ускорения: впервые OpenVINO 2025.0 поддерживает работу на NPU и интегрируется с PyTorch через torch.compile, что обеспечивает высокую производительность для моделей машинного обучения. Это позволяет OpenVINO эффективно использовать ресурсы процессоров, графических и нейропроцессоров, повышая возможности разработчиков и уменьшая вычислительные затраты, пишет pepelac.news.

Эти улучшения делают OpenVINO еще более мощным инструментом для разработчиков, занимающихся генеративным ИИ, обработкой изображений и работой с нейросетями, подтверждая репутацию Intel как лидера в инновациях в области искусственного интеллекта.