微软已将上个月宣布的小型语言模型 Phi-4 以开源许可证发布。该模型已在 HuggingFace 上发布,并可通过此步骤在第三方程序中使用。开源发布的时间比预期晚,在去年 12 月的公告中,微软表示将在一周内发布。此次发布采用 MIT 许可证。Phi-4 的规模大于前身 Phi-3 mini,后者拥有 38 亿个参数,而 Phi-4 截至去年 6 月拥有 140 亿个参数。许多较小的模型保持在数十亿个参数,因为这样可以在手机和迷你计算机等低功耗硬件上运行。微软称,该模型经过针对性训练,使用了其他模型的输出和选定的文档,如学术书籍和问答。此外还进行了大量的微调,以更好地响应提示并遵循规则。微软表示,该模型主要以英语为主,较不适合用于其他语言。
https://huggingface.co/microsoft/phi-4/resolve/main/LICENSE