什么是 AI Toolkit for Visual Studio Code?

AI Toolkit for Visual Studio Code(VS Code)是一个 VS Code 扩展,通过将 Azure AI Foundry 目录 和其他目录(如 Hugging Face)的前沿人工智能开发工具和模型组合在一起,简化了生成式AI应用开发。

注意

VS Code AI 工具包的额外文档和教程可以在 VS Code 文档中找到:适用于 Visual Studio Code 的 AI 工具包。 你将找到有关 Playground、使用 AI 模型、微调本地模型和基于云的模型等的指导。

AI Toolkit 功能

AI Toolkit for VS Code (AI Toolkit) 使你能够:

  • 在本地下载并运行 AI 模型。 AI Toolkit 提供对以下平台和硬件的高度优化模型的访问:
    • 使用 DirectML 加速运行的 Windows 11
    • 直接在 CPU 上运行的 Windows 11
    • 在 NPU 上运行的 Windows 11 Copilot+ PC
    • 使用 NVIDIA 加速的 Linux
    • 直接在 CPU 上运行的 Linux
    • MacOS 支持即将推出
  • 使用 REST API 在直观的操场或应用程序中测试模型。
  • 在本地或云端(虚拟机上)微调 AI 模型,以创建新技能,提高响应的可靠性,设定响应的语调和格式。 AI 工具包提供引导式演练,用于微调常用的小型语言模型(如 Phi-3Mistral)。
  • 将 AI 功能部署到云端或在设备上运行的应用程序。
  • 批处理运行提示,用于 Playground 中选定的 AI 模型。

注意

Deepseek R1 Distilled 模型针对神经处理单元(NPU)进行了优化,可在运行 Windows 11 的 Snapdragon 驱动的 Copilot+ PC 上下载。 有关详细信息,请参阅 在由 Windows AI Foundry 提供支持的 Copilot+ 电脑上本地运行的轻量化 DeepSeek R1 模型

AI Toolkit 现在支持自带模型方法。 可以使用 AI 工具包从 Ollama 等目录下载自己的模型(如 DeepSeek-R1),并在本地运行它们。

想要了解有关 AI Toolkit for VS Code 的详细信息? Dona Sarkar 和 John Lam 在 Microsoft Build 2024 的这段视频中概述了 AI Toolkit:

有关最新文档以及下载和使用 AI 工具包,请访问 VS Code 文档