Microsoft выпустила AI Toolkit для Visual Studio Code (VS Code) — удобный набор инструментов, который упрощает разработку приложений с генеративным ИИ. Этот Toolkit объединяет лучшие AI-модели и технологии из каталогов Azure AI Foundry и Hugging Face, позволяя разработчикам быстро тестировать, обучать и внедрять модели прямо из редактора кода.
Что умеет AI Toolkit:
- Запуск моделей локально — доступна поддержка Windows 11 с DirectML, CPU, NPU на Windows 11 Copilot+ устройствах, а также на Linux. Поддержка MacOS появится скоро.
- Интерактивное тестирование — модели можно быстро проверить в удобной «песочнице» (Playground) или через REST API в собственных приложениях.
- Тонкая настройка (fine-tuning) — можно адаптировать модели локально или в «облаке», чтобы улучшить ответы, изменить стиль и добавить новые навыки. Поддерживаются популярные языковые модели (SLM), такие как Phi-3 и Mistral.
- Развертывание — готовые AI-функции можно запустить как в «облаке», так и на локальных устройствах.
- Пакетная обработка — запускайте сразу несколько запросов к модели в Playground.
Особенности и поддерживаемые модели:
- Оптимизированная модель DeepSeek R1 Distilled работает на NPU и доступна для устройств на базе чипов Snapdragon с Windows 11 Copilot+.
- Возможность использовать подход Bring Your Own Model (BYOM) — загружайте свои модели из сторонних каталогов (например, Ollama) и запускайте их локально через AI Toolkit.
Почему это важно?
AI Toolkit значительно упрощает процесс создания интеллектуальных приложений, устраняя необходимость работать с отдельными сложными инструментами и библиотеками. Всё, что нужно — это Visual Studio Code и желание экспериментировать с AI-моделями.
