利用ollama部署7b参数的llama模型，利用websoket实现数据流式输出。
网站首页 文章专栏
共有文章【53】篇，请查阅！
GPT 是 Generative Pretrained Transformer（生成式预训练变换器）的缩写，是一种基于 Transformer 架构的大型语言模型。它的主要功能是生成类人文本，广泛应用于自然语言处理（NLP）任务，如文本生成、翻译、摘要、问答等。
k8s的pod中的pause容器是干什么的呢？本文结合源码，进行介绍......
我们配置nginx反向代理时，没有深究各个参数，到实际生产环境时，就会出现各种问题，本文介绍自己的踩坑过程。
当我们遇到业务网络不通时，我们要去查看微服务网络，这时候需要了解容器网络基本知识。本人很久未从事容器相关研发工作，如今业务上遇到网络问题，为了解决相关问题，重新梳理了一下docker容器、calico网络（见上一篇）。