微软在Windows上推出一款称为Windows AI Studio的人工智能开发工具,供企业和开发人员可以便捷地在Windows上,开始本地端的人工智能开发和部署。 由于Windows AI Studio结合了来自Azure AI Studio的工具和模型,方便开发者在Windows选择并运用小语言模型,进而高效地开发和优化人工智能应用程序。
微软表示,现在有许多人工智能开发工具、框架和开源模型,但是开发者很难选出适合的工具集测试、微调和优化模型,况且要针对不同业务需求,选择适合的模型本身也是困难的工作。 Windows AI Studio汇集了来自Azure AI Studio、Hugging Face等平台工具和模型,可以简化生成式人工智能应用程序开发,使开发人员能够简单地微调、自定义和部署小语言模型,供Windows应用在本地端使用。
Windows AI Studio提供了一个全面的端到端指引工作环境,包括模型配置用户界面和开发指南,可在开发者完成小语言模型微调后,利用整合的Prompt Flow和Gradio模板快速测试模型。 微软推出Windows AI Studio的用意,在于促进混合循环开发模型,赋予开发者根据不同情境,在Azure云端和本地的Windows装置间自由选择并执行模型的能力,实现高效且灵活的人工智能开发流程。
微软还强调Windows AI Studio未来将提供专门针对Windows GPU和NPU优化的新模型,诸如 Llama 2-7B、Mistral-7B、Falcon-7B和Stable Diffusion XL。 被微软视为Windows AI入口的高性能推论引擎ONNX Runtime,以及Windows本地端机器学习的API DirectML,在本地端人工智能开发扮演重要角色,两者结合以提供开发者简单且高效的人工智能开发体验。
除此之外,开发者也可以使用Olive(ONNX Live)模型优化工具,来进一步提高于Windows执行模型的效能。 Olive原本是针对在云和边缘装置上运作模型所设计,其整合了模型压缩、最佳化和编译技术,能够根据模型和目标硬件,采用最适合的技术优化模型。 因此Olive与ONNX Runtime成为一个端到端推论优化解决方案,而且Olive也与DirectML紧密整合,藉以在整个Windows生态系实现模型硬件加速。
在数周内,开发者就可以在VS Code的扩充套件开始使用Windows AI Studio,在熟悉的界面中进行本地端人工智能应用开发。
