AI Toolkit for Visual Studio Code(VS Code)是一个 VS Code 扩展,通过将 Azure AI Foundry 目录 和其他目录(如 Hugging Face)的前沿人工智能开发工具和模型组合在一起,简化了生成式AI应用开发。
注意
VS Code AI 工具包的额外文档和教程可以在 VS Code 文档中找到:适用于 Visual Studio Code 的 AI 工具包。 你将找到有关 Playground、使用 AI 模型、微调本地模型和基于云的模型等的指导。
AI Toolkit 功能
AI Toolkit for VS Code (AI Toolkit) 使你能够:
- 在本地下载并运行 AI 模型。 AI Toolkit 提供对以下平台和硬件的高度优化模型的访问:
- 使用 DirectML 加速运行的 Windows 11
- 直接在 CPU 上运行的 Windows 11
- 在 NPU 上运行的 Windows 11 Copilot+ PC
- 使用 NVIDIA 加速的 Linux
- 直接在 CPU 上运行的 Linux
- MacOS 支持即将推出
- 使用 REST API 在直观的操场或应用程序中测试模型。
- 在本地或云端(虚拟机上)微调 AI 模型,以创建新技能,提高响应的可靠性,设定响应的语调和格式。 AI 工具包提供引导式演练,用于微调常用的小型语言模型(如 Phi-3 和 Mistral)。
- 将 AI 功能部署到云端或在设备上运行的应用程序。
- 批处理运行提示,用于 Playground 中选定的 AI 模型。
注意
Deepseek R1 Distilled 模型针对神经处理单元(NPU)进行了优化,可在运行 Windows 11 的 Snapdragon 驱动的 Copilot+ PC 上下载。 有关详细信息,请参阅 在由 Windows AI Foundry 提供支持的 Copilot+ 电脑上本地运行的轻量化 DeepSeek R1 模型。
AI Toolkit 现在支持自带模型方法。 可以使用 AI 工具包从 Ollama 等目录下载自己的模型(如 DeepSeek-R1),并在本地运行它们。
想要了解有关 AI Toolkit for VS Code 的详细信息? Dona Sarkar 和 John Lam 在 Microsoft Build 2024 的这段视频中概述了 AI Toolkit:
有关最新文档以及下载和使用 AI 工具包,请访问 VS Code 文档。