
用Fastapi和React实现http流式响应
2024/5/29 · Admin
随着ChatGPT等AI大语言模型的普及,人们对于流式响应也越来越理解和认可。本质上讲,流式响应就是服务器处理一点就返回一点,由于LLM处理起来相对慢一些(即使有海量的服务器资源),为了避免用户等待太长时间,就把数据逐步返回。

2024/5/29 · Admin
随着ChatGPT等AI大语言模型的普及,人们对于流式响应也越来越理解和认可。本质上讲,流式响应就是服务器处理一点就返回一点,由于LLM处理起来相对慢一些(即使有海量的服务器资源),为了避免用户等待太长时间,就把数据逐步返回。

2024/5/6 · Admin
随着AI和LLM大模型的发展和成熟,在本机运行大模型已经比较普及,今天我们主要是用Docker来安装ollama前端并且调用ollama3模型。

2024/5/3 · Admin
手把手教学:在Ubuntu上安装Nginx反向代理和Let‘sEncrypt进行SSL加密

2024/4/14 · Admin
微信已经成为重要的沟通工具,为了平衡工作和生活,很多人会有多个微信号。在电脑上登录微信来处理讯息、发送文件也很便捷,但是有没有办法不安装任何额外的软件实现微信多开呢?

2024/4/1 · Admin
老婆喜欢听歌,而且很多是在Youtube上下载,像封面那种几十个歌曲放在一起的一个长视频,首先,这个视频是静止的,其实我只想要音频就好了,mp3格式或者acc格式完全可以了,其次,这些歌曲如果能下载下来就好了,最后,我希望能分割成短的歌曲,是多个mp3文件。


2024/2/6 · Admin
跟很多人一样,我也有很多理由和原因需要穿透内网,最主要的是我建立了一个私有部署的密码保管箱(可以搜我的博客或者点击这里/post),需要随时从外网访问。
