浅析 MemGPT

MemGPT 针对 LLM 上下文有限的困境,参考操作系统的虚拟内存管理,提出了虚拟上下文的概念,分为主上下文和外部上下文,实现了无限 token。
2024/07/04 21:59 下午 posted in  大模型

详解 SELF-RAG 框架

自我反思检索增强生成(SELF-RAG)是一种通过检索和自我反思提高 LLM 质量和事实准确性的框架,而不损害 LLM 的原始创造力和多功能性。
2023/12/27 21:53 下午 posted in  大模型

非特权 Pod 如何运行用户态文件系统

在 Kubernetes 环境中,如果需要在 Pod 中运行 FUSE daemon,通常是将其设置为特权容器。当 Pod 为特权时,自然所有的权限都会有,甚至也直接享用宿主机的设备。但非特权 Pod 想要运行用户态的文件系统有点困难,本文讲述在没有特权的情况下,如何在 Pod 中运行用户态文件系统。
2023/03/19 14:56 下午 posted in  Kubernetes

如何使用 AppArmor 限制应用的权限

Linux 内核安全模块 AppArmor 补充了基于标准 Linux 用户和组的权限,将程序限制在一组有限的资源中,同时也是对 Pod 的保护,使其免受不必要的攻击。本文讲述如何在容器中使用 AppArmor。
2023/03/17 22:27 下午 posted in  Kubernetes

如何实现一个 Kubernetes CSI Driver

本篇文章介绍如何快速开发自己的 Kubernetes CSI Driver,本篇是 CSI 系列第二篇。
2022/10/31 17:28 下午 posted in  Kubernetes