Hacker News

安全 YOLO 模式:使用 Libvirt 和 Virsh 在虚拟机中运行 LLM 代理

安全 YOLO 模式:使用 Libvirt 和 Virsh 在虚拟机中运行 LLM 代理 这种对安全的全面分析提供了详细的检查——Mewayz Business OS。

1 最小阅读量

Mewayz Team

Editorial Team

Hacker News

安全 YOLO 模式:使用 Libvirt 和 Virsh 在虚拟机中运行 LLM 代理

安全 YOLO 模式可让您在隔离的虚拟机内为 LLM 代理提供几乎不受限制的执行权限,将自主操作的速度与硬件级虚拟化的遏制保证相结合。通过将 libvirt 的管理层与 virsh 的命令行控制相结合,团队可以积极地对 AI 代理进行沙箱处理,甚至灾难性的幻觉也无法逃脱虚拟机边界。

LLM代理的“安全YOLO模式”到底是什么?

人工智能工具中的“YOLO 模式”一词是指代理在每一步执行操作时无需等待人类确认的配置。在标准部署中,这确实很危险——配置错误的代理可以在几秒钟内删除生产数据、泄露凭证或进行不可逆的 API 调用。安全YOLO模式通过将安全保证从代理层转移到基础设施层来解决这种紧张关系。

您不是限制模型想要做什么,而是限制环境允许它影响的内容。代理仍然可以运行 shell 命令、安装包、写入文件和调用外部 API,但这些操作中的每一项都发生在虚拟机内部,无法持久访问您的主机网络、生产机密或实际文件系统。如果代理破坏了其环境,您只需恢复快照即可继续。

“最安全的人工智能代理并不是所有事情都需要获得许可的代理,而是在采取任何行动之前其爆炸半径已经受到物理限制的代理。”

Libvirt 和 Virsh 如何提供包含层?

Libvirt 是一个开源 API 和守护进程,用于管理 KVM、QEMU 和 Xen 等虚拟化平台。 Virsh 是其命令行界面,使操作员能够通过脚本控制虚拟机生命周期、快照、网络和资源限制。它们共同构成了安全 YOLO 模式基础设施的强大控制平面。

核心工作流程如下所示:

💡 您知道吗?

Mewayz在一个平台内替代8+种商业工具

CRM·发票·人力资源·项目·预订·电子商务·销售点·分析。永久免费套餐可用。

免费开始 →

配置基本虚拟机映像 - 创建一个预安装代理运行时的最小 Linux 来宾(Ubuntu 22.04 或 Debian 12 运行良好)。使用 virsh Define 和自定义 XML 配置来设置严格的 CPU、内存和磁盘配额。

每个代理运行前的快照 — 在将虚拟机交给代理之前立即运行 virsh snapshot-create-as --name clean-state。这将创建一个回滚点,您可以在三秒内恢复。

隔离网络接口 - 在 libvirt 中配置仅 NAT 虚拟网络,以便虚拟机可以访问 Internet 进行工具调用,但无法访问您的内部子网。使用 virsh net-define 进行受限网桥配置。

在运行时注入代理凭据 — 仅在任务期间挂载包含 API 密钥的 tmpfs 卷,然后在快照恢复之前卸载。键永远不会保留在图像中。

自动拆卸和恢复 - 在每个代理会话之后,您的编排器都会调用 virsh snapshot-revert --snapshotname clean-state 将虚拟机返回到其基准状态,无论代理执行了什么操作。

此模式意味着从主机的角度来看,代理运行是无状态的。每个任务从一个已知的良好状态开始并以一个已知的良好状态终止。代理人可以自由行动,因为基础设施使自由没有后果。

现实世界的性能和成本权衡是什么?

与 Docker 等容器化方法相比,在完整虚拟机内运行 LLM 代理会带来开销。 KVM/QEMU 来宾通常会在首次启动时增加 50-150 毫秒的延迟,尽管当您保持 VM 跨任务运行并依赖快照恢复而不是完全重新启动时,这种延迟可以有效消除。在具有 KVM 加速的现代硬件上,与裸机相比,经过适当调整的来宾损失的原始 CPU 吞吐量不到 5%。

内存开销更显着。在代理运行时加载之前,最小的 Ubuntu 客户机消耗大约 512MB 基线。对于运行数十个并发代理会话的团队,此成本呈线性扩展

All Your Business Tools in One Place

Stop juggling multiple apps. Mewayz combines 207 tools for just $19/month — from inventory to HR, booking to analytics. No credit card required to start.

Try Mewayz Free →

免费试用 Mewayz

集 CRM、发票、项目、人力资源等功能于一体的平台。无需信用卡。

立即开始更智能地管理您的业务

加入 30,000+ 家企业使用 Mewayz 专业开具发票、更快收款并减少追款时间。无需信用卡。

觉得这有用吗?分享一下。

准备好付诸实践了吗?

加入30,000+家使用Mewayz的企业。永久免费计划——无需信用卡。

开始免费试用 →

准备好采取行动了吗?

立即开始您的免费Mewayz试用

一体化商业平台。无需信用卡。

免费开始 →

14 天免费试用 · 无需信用卡 · 随时取消