Foundations

大模型应用开发常用的平台

ChatGPT、DeepSeek、通义千问 主流的大模型平台,相信大家都用过,都可以直接到他们的网站上面去使用这些模型。 HuggingFace https://huggingface.co/ Hugging Face是一个非常重要…

TL;DR

ChatGPT、DeepSeek、通义千问 主流的大模型平台,相信大家都用过,都可以直接到他们的网站上面去使用这些模型。 HuggingFace https://huggingface.co/ Hugging Face是一个非常重要…

ChatGPT、DeepSeek、通义千问

主流的大模型平台,相信大家都用过,都可以直接到他们的网站上面去使用这些模型。

HuggingFace

https://huggingface.co/ Hugging Face是一个非常重要的网站,他就像是AI界的GitHub,它是一个开源的社区和平台,集模型库、数据集、协作工具和社区于一体。 里面有很多开源的模型、数据集以及工具等等,都可以快速的获取和使用。

Ollama

https://ollama.com/ Ollama 是一个轻量级、开源的本地大语言模型(LLM)服务框架,旨在帮助开发者和用户快速部署和运行自己的大语言模型。它支持多种主流模型(如 Llama、Qwen、ChatGLM 等),并提供简单易用的命令行工具和 API 接口,实现模型的快速启动、推理和交互。 它并不强依赖 GPU,而是可以基于 CPU 直接运行经过优化和量化的大模型,让个人开发者在普通硬件条件下,也能较低成本地完成本地推理和使用。

ModelScope

https://modelscope.cn/home HuggingFace在国内存在无法访问,访问慢等问题,ModelScope是阿里巴巴达摩院推出的国内大模型社区,功能和huggingface差不多,上面也有很多开源模型和应用可供选择。 上面同样也有数据集可以直接拿来用。 MCP:

百炼

https://bailian.console.aliyun.com/?tab=home#/home 百炼,是阿里云推出的大模型服务与应用开发平台。 - 大模型服务:提供了百余款通义系列大模型和国内优质的开源第三方大模型。 - 应用开发平台:提供大模型应用构建的全链路工具,包括MCP、智能体搭建、工作流等。 huggingface和modelscope就像是github和gitee一样,是开源模型的汇聚地,百炼就显示一个LLMaaS平台,提供基于模型的一站式服务。

硅基流动

https://siliconflow.cn/ 硅基流动,是一个AI模型能力提供商,可以理解为是个中介,他继承了很多模型,你可以通过硅基流动直接调用。 调用的方式可以是通过API调用,所以它的好处是可以帮你快速地接入第三方模型,并且可以做到无缝切换。

FastGPT&Dify&RAGFlow&n8n

都是比较知名的RAG/LLM 工作流平台,可以在上面做RAG检索、搭建workflow等,其实功能大差不差,网上有很多资料对比他们的区别,但是因为现在AI发展很迅猛,很多工具之间也在互相"对齐",所以最后看下来差别真不太大。 目前有的比较多的是dify和n8n,很多公司内部的工作流也都是基于dify搭建的。 n8n的话他的知识库能力相比dify是稍微弱一点的,他比较强的是流程编排。

coze

Coze是字节推出的一个智能体搭建平台,但是他的受众并不是开发者,更适合普通用户来用,可以用coze快速的做一个小应用。 他的低代码做的很好,但是他不是开源的,是字节的商业化产品。

版本提示

模型、框架与接口会持续变化。涉及版本号、参数与生产配置时,请在实践前对照对应官方文档。

LLMentor系统化学习大模型应用工程

内容来自个人课程知识库备份,并经过结构化整理。技术版本持续演进,生产使用前请结合官方文档验证。