Составьте краткое изложение этой истории. Вот краткое изложение содержания истории, основанное на фактах: Вот упрощенная версия содержания истории: Вот беззаботный взгляд на содержание истории: Исследуйте другую точку зрения: Покажите мне факты Объясните это так, будто мне 5 лет Дайте мне беззаботный пересказ
Большие языковые модели (LLM) — это то, о чем говорят все, но малые языковые модели также важны для определенных задач, особенно на устройствах с ограниченной мощностью, таких как телефоны и ноутбуки. Microsoft только что представила свою новую языковую модель Mu, и она уже поддерживает некоторые функции Windows 11.
Microsoft уже использует небольшую языковую модель Phi Silica в Windows 11, что позволяет функциям ПК Copilot+ работать без замедлений на таких чипсетах, как Snapdragon X Plus. Популярные чат-боты на основе ИИ, такие как ChatGPT, Copilot и Gemini, используют более продвинутые LLM, которым требуются мощные графические процессоры, но более мелкие модели, такие как Phi Silica и Mu, могут достигать аналогичных результатов с меньшей вычислительной мощностью, но ценой меньшей универсальности.
Mu — это «микроразмерная, специфичная для задач языковая модель», разработанная для эффективной работы на нейронном процессоре (NPU), подобном тем, что используются в последних компьютерах Copilot+ PC. Microsoft использовала множество различных методов оптимизации для достижения высокой производительности при ограниченной мощности, включая архитектуру преобразователя-кодера-декодера, распределение веса в определенных компонентах для уменьшения общего количества параметров и использование только аппаратно-ускоренных операций. Microsoft утверждает, что Mu может работать со скоростью более 200 токенов в секунду на Surface Laptop 7, что является более быстрым откликом, чем вы обычно получаете от бесплатных версий ChatGPT или Gemini в веб-браузере.
Модель Mu сначала используется для строки поиска в приложении настроек Windows 11, которое недавно было развернуто для участников программы Windows Insiders на ПК с процессором Snapdragon. Она может понимать подсказки типа «как управлять моим ПК голосом» или «указатель мыши слишком мал» и находить правильные настройки. Пока не ясно, будет ли Mu использоваться для других функций ПК Copilot+.
Microsoft заявила в своем блоге: «Управление обширным массивом настроек Windows создавало свои собственные проблемы, особенно с перекрывающимися функциями. Например, даже простой запрос, такой как «Увеличить яркость», может ссылаться на несколько изменений настроек — если у пользователя два монитора, означает ли это увеличение яркости основного монитора или дополнительного монитора? Чтобы решить эту проблему, мы уточнили наши обучающие данные, чтобы расставить приоритеты для наиболее используемых настроек, поскольку мы продолжаем совершенствовать опыт для более сложных задач».
Легкие языковые модели, работающие локально, являются одними из лучших применений генеративного ИИ, поскольку отзывчивость и конфиденциальность данных намного проще, когда нет задействованных облачных серверов. Однако это не помешало Recall стать почти катастрофой безопасности.
Источник: Блог Windows.
