自研 SaaS 或跨境电商的技术团队决定把错误监控留在自有体系里,通常不是因为省钱,而是因为数据不想出自己的边界。真正让人措手不及的,是上线后头一场错误风暴:前端一个版本发布带出连锁异常,SDK 上报量在几分钟内翻了几十倍,磁盘占用曲线几乎垂直往上走,告警还没处理完,容器已经开始因为写不进去而报错。这时候大家起初都去看内存,发现还有余量,就更加困惑——盘到底是被谁吃掉的。
答案藏在架构里。自托管 Sentry 不是一个单体应用,而是一套由 Docker Compose 编排、二十多个容器协同工作的微服务系统。事件从接收到落盘要经过好几层,每一层都会产生自己的存储与内存开销。只盯着某一个数字,很容易把规划做成一道填空题,填错了还不自知。这篇就把这笔账拆开算:先看故障是怎么发生的,再顺着组件链路找到资源敏感点,最后给出一套可以照着推的容量公式、采样与保留取舍,以及落地顺序。
把场景还原一下会更清楚。平时系统一切正常,事件量稳定,ClickHouse 里的写入按部就班。某次发布之后,异常被大量触发,SDK 把事件源源不断地推上来。如果这条链路没有任何缓冲,接收端会瞬间被压垮,SDK 侧开始丢数据,你连排查的线索都拿不到。自托管 Sentry 的设计里,Kafka 被放在了接收和处理之间,它扮演的就是事件分发日志的角色,专门用来吸收这种流量尖峰。
尖峰被接住了,但接住不等于消失。事件最终还是要一层层写进存储,而写入最密集的地方,是 ClickHouse 与 Kafka 这两块盘。风暴持续的时间越长,落盘的数据越多;如果保留期设置得偏长,这些数据会在盘上停留更久,磁盘曲线自然居高不下。内存这条线反而相对平稳——它不是被事件数量直接推高的,而是被并发处理任务、缓存和查询共同影响。
所以起初就去看内存,其实是把方向找错了。错误风暴考验的是磁盘的持续写入能力和保留策略的合理性,内存只是辅助变量。把这个因果关系理顺,后面的容量计算才不会跑偏。一个值得记住的判断是:照搬官方给出的最小配置,在正常负载下能跑起来,可一旦遇到错误风暴,最容易先被吃满的是磁盘,其次是内存,而不是反过来。
很多人对事件摄入的想象是一条平滑的直线:来一条,处理一条,存一条。真实的系统不是这样。SDK 上报是突发的,用户的操作、发布的节奏、外部接口的抖动,都会让流量在某些时间段集中涌出。再加上会话回放、transaction span 这类高基数遥测会比普通错误事件占用更多空间,磁盘的增长速度和事件条数之间并不是简单的线性关系。
更关键的是,同一条事件在不同组件里会被处理成不同形态。有的写成关系记录,有的写成分析型列存数据,有的把载荷丢到对象存储里。这意味着你算容量时不能只问「一天来多少条」,还要问「这些条被拆成了几份、分别落在哪里」。这正是容量账容易漏算的根源:大家算了事件本体的存储,却忘了调试符号、source map、会话回放这些附属产物,它们同样要占盘。
还有一个常被忽略的因素是清理任务。系统里有一个叫 sentry-cleanup 的组件,按 SENTRY_EVENT_RETENTION_DAYS 这个参数每日清理过期事件;symbolicator-cleanup 则每小时清理缓存。清理如果跟不上写入,或者保留期设得过长,盘上的有效数据就会越堆越多。把根因归纳成一句话:容量压力来自「写入速度」与「清理速度」的赛跑,而保留期就是这场赛跑的裁判。
顺着分层去看,这套系统大致分成接入层、应用层、处理层和存储层。接入层是 nginx 做反向代理,后面跟着 Relay。Relay 用 Rust 编写,是一个高性能的接收代理,负责校验、按项目配额限流、PII 清洗和 GeoIP 富化,它会通过 PostgreSQL 校验 token,非法的直接返回 403。应用层是 web、taskworker、taskscheduler 与 taskbroker 这几个角色。处理层是 snuba-api 和多个 consumer。存储层则包括 PostgreSQL 加 pgbouncer、Redis、Kafka、ClickHouse 和作为对象存储的 SeaweedFS。
把每一层对资源的敏感点拆开看,规划时就知道该重点盯哪里。下表按组件、作用、资源敏感点和调整手段四个维度整理,属于公开架构资料口径下的归纳,具体数值仍要以你的实际负载压测为准。
| 组件 | 作用 | 资源敏感点 | 调整手段 |
|---|---|---|---|
| nginx 与 Relay(接入层) | 反向代理,校验、限流、PII 清洗、GeoIP 富化,经 PostgreSQL 校验 token | 并发连接与 CPU;错误风暴时最先承受冲击 | 按项目配额限流,非法 token 返回 403 拦截在入口 |
| Kafka | 事件分发日志,吸收错误风暴的流量尖峰 | 磁盘写入密集,需要足够盘空间承接峰值积压 | 预留磁盘余量,配合消费端吞吐做削峰 |
| consumer 与 snuba-api(处理层) | 归一化事件、做 issue 分组指纹,并把查询转成 ClickHouse SQL | CPU 与内存随并发消费量上升 | 调整消费并发,避免积压拖垮下游 |
| ClickHouse | 存错误事件、transaction span、会话回放等高基数遥测 | 磁盘写入密集,占用直接受保留期影响 | 缩短 SENTRY_EVENT_RETENTION_DAYS,配合采样 |
| PostgreSQL 与 pgbouncer | 存组织、项目、权限、规则等关系记录 | 连接数与关系数据增长,相对平稳 | 用 pgbouncer 管理连接,与分析型存储分离 |
| Redis | 限流计数、项目配额、缓存与任务队列 | 内存占用,随缓存与队列规模变化 | 监控内存水位,按需扩容而非盲目加机器 |
| 对象存储(SeaweedFS) | 放 source map、调试符号、会话回放与 profiling | 容量随附件类数据累积,易被忽略 | 单独估算,或选 lean 版本把载荷存 PostgreSQL |
这张表想传达的重点只有一个:资源压力不是均匀分布的。磁盘敏感点集中在 Kafka 与 ClickHouse,内存敏感点集中在 Redis 与消费并发,对象存储则是一条容易被漏掉的暗线。规划时按组件分别给余量,比给整台机器笼统加配置更有效。
把一次上报从头跟到尾,容量账会变得非常具体。事件从 SDK 发出,先到 Relay;Relay 做完校验、清洗和富化之后,把事件投进 Kafka。Kafka 在这里的价值不只是转发,它是整条链路的缓冲垫,错误风暴的尖峰正是被它吸收下来的。随后 consumer 把事件取出来做归一化,并计算 issue 分组指纹,把本质相同的错误归并到一起。
归一化之后,数据分两路写。一路进 PostgreSQL,存的是组织、项目、权限、规则这些关系记录,量相对可控;另一路进 ClickHouse,存的是错误事件、transaction span 和会话回放这类高基数遥测。查询的时候,Snuba 作为查询服务把上层请求转成 ClickHouse SQL,再返回结果给 web 界面。换句话说,ClickHouse 承担了绝大部分的数据体量,而 PostgreSQL 承担的是结构化元数据。
这条链路里还有几个专门角色。Symbolicator 负责解析崩溃堆栈的调试符号,vroom 处理 profiling 并把结果写进对象存储。它们不直接出现在主数据流上,却都在悄悄产生磁盘占用。理解这一点很重要:你为「错误事件」准备的空间,实际上要同时容纳事件本体、符号、回放和性能数据。只按错误条数估算,结果往往偏小。
把上面所有因素收敛成一套可操作的方法,核心就是一个乘法关系:容量约等于事件速率乘以平均载荷再乘以保留天数。事件速率决定单位时间进来多少,平均载荷决定每条占多大空间,保留天数决定数据在盘上停留多久。三个变量任何一个被低估,最终估算都会失真。
事件速率要用峰值而不是均值。错误风暴场景下,均值几乎没有参考意义,你要看的是短时突发能把速率推到多高,以及这个高峰能持续多久。平均载荷则要区分事件类型——普通错误、带堆栈的崩溃、transaction span、会话回放,单条体积差别很大,混在一起取一个平均值会掩盖真实压力。保留天数是最容易被直接照搬默认值的一项,后面会单独讲。
推演的时候还有一层修正:同一份数据会在不同组件里留下副本或派生形态。事件进 ClickHouse 是一份,会话回放的载荷进对象存储又是一份,Kafka 在消费完成前也占着盘。所以严格地说,公式给出的是量级,不是精确到吉字节的承诺。合理的做法是先算出量级,再给每个存储组件留出余量,尤其给 Kafka 和 ClickHouse 留够应对峰值的缓冲。把分析型存储与关系记录分开,是这套估算能成立的前提,别试图用单一数据库硬扛所有类型的数据。
默认事件保留是九十天,这个值写在 .env 里,可以用 SENTRY_EVENT_RETENTION_DAYS 调整。它看起来只是一个配置数字,实际上直接决定了 ClickHouse 的磁盘占用上限。保留期越长,盘上留存的数据越多,同样的事件速率下,需要的空间就成比例上升。
很多团队把默认值当成推荐值,这是危险的。默认值的设计目标是让开箱体验完整,而不是为你的业务量做过优化。对事件量稳定的小团队,九十天也许毫无压力;对跨境电商这种在大促期间事件量暴涨的场景,九十天意味着高峰数据要在盘上躺满一个季度,磁盘曲线几乎没有回落的机会。把保留期从九十天缩到更贴合排障周期的区间,往往是最直接、见效最快的省盘手段。
缩小保留期也有代价。历史问题追溯会变短,跨季度的趋势分析会失去数据基础。所以这不是一刀切的决定,而是排障需求与存储成本之间的交换。一个务实的思路是:先明确团队真正需要回看多久的历史事件,再把这个时长写进参数,而不是反过来让存储去迁就一个没人论证过的默认值。清理任务按日执行,意味着保留期的调整会在一天左右逐步反映到盘上,规划时要给这个生效节奏留出观察窗口。
如果缩短保留期已经触到了排障需求的底线,下一步就是采样。采样的本质是用一部分数据代表整体,从而在不明显牺牲可观测性的前提下,把写入量压下来。对高基数的会话回放和性能数据,采样的收益尤其明显,因为这类数据单条体积大、增长快,往往是磁盘的隐形杀手。
取舍的关键在于分清哪些事件必须留、哪些可以抽样。导致崩溃的异常、影响核心链路的错误,通常要完整保留;而海量重复的、已被 issue 分组归并的同类事件,可以适当降低采样比例。这里要提醒一点:采样是在写入端减少数据,和保留期在存储端缩短生命周期是两种不同手段,前者降低写入压力,后者降低存量规模,两者叠加使用才能同时缓解 Kafka 的峰值积压和 ClickHouse 的长期占用。
还要给对象存储单独做判断。source map、调试符号、会话回放和 profiling 都落在对象存储里,它们和 ClickHouse 的账要分开算。如果这些附属数据不是当前阶段的核心需求,可以考虑 lean 版本——它把事件载荷存进 PostgreSQL,省掉对象存储,代价是功能缩减。是否走这条路,取决于你愿不愿意用功能完整性换部署复杂度。无论怎么选,把容量公式算出来的量级按组件分摊,再决定在哪一层做采样,比盲目加磁盘要靠谱得多。
说完磁盘,回到开头那个被反复盯着的内存。官方与公开指南给出的最低口径是 4 核 CPU、16GB 内存、16GB 的 swap 交换空间,以及 20GB 以上的可用磁盘。这是一条能起步的线,不是生产环境的舒适线。生产场景更建议按 16GB 内存加快速 NVMe 来配,原因正是前面反复提到的:ClickHouse 与 Kafka 都是磁盘写入密集型的组件,慢盘会成为整条链路的瓶颈。
swap 的作用常被误解。它不是拿来替代内存的常规容量,而是在内存吃紧时给系统一个缓冲,避免进程因为瞬时峰值被直接杀掉。错误风暴下,消费并发和查询请求同时上升,内存水位会短时抬高,这时候 swap 能争取到处理时间。但把 swap 当内存用,性能会断崖式下降,所以它只该是保险,不该是依赖。
taskworker 的并发由 SENTRY_TASKWORKER_CONCURRENCY 控制,这个参数直接影响后台任务同时占用多少资源。调高它能加快积压处理,但也会推高内存和 CPU;调低了则可能出现任务堆积。规划内存时,与其笼统加配置,不如结合这个并发参数去观察峰值水位。归根结底,内存要按并发任务和缓存规模来估,磁盘要按事件速率、载荷和保留期来估,两套逻辑不要混为一谈。
把容量账算清楚之后,很多团队会重新审视一个更靠前的问题:这套系统到底该完全自建,还是有别的承载方式。这里并没有标准答案,取决于数据边界、团队运维能力和预算结构。数据留在自有体系里,最大的收益是可控——事件内容、访问记录、保留策略都在自己手上,对数据出境有顾虑的业务尤其看重这一点。
代价是你要自己承担全部容量规划和日常运维:磁盘满了要扩容,版本要升级,清理任务要盯着,错误风暴来了要现场调参。这也是为什么有人会把基础设施这一层交给专业服务商去做,专注把应用监控本身用好。一万网络深耕 IDC 行业 19 年(成立于 2007 年),在华南、华东、华北及中国香港、海外多地整合自营节点与 BGP 多线资源,提供服务器租用、机柜托管与带宽接入的一体化交付;具体机型、带宽与报价以官网实时或咨询确认为准。
需要说明的是,物理承载和网络接入只能解决「机器放在哪、网络怎么接」这一层问题,它并不能替你回答保留期设几天、采样率压到多少、Kafka 留多少余量。这些判断仍然要回到事件速率和载荷本身。换句话说,无论选哪种承载方式,前面那套容量公式都照样成立,区别只在于扩容和运维的责任落在谁身上。把这一层想明白,才不会被「托管就省心」这类说法带偏。
方法讲完了,落到操作上需要一条清晰的顺序。头一步不是配机器,而是采集基线:在真实流量下观察一段时间的事件速率,区分普通错误、崩溃、transaction span 和会话回放各自的占比,估算平均载荷。没有这一步,后面所有数字都是猜的。
接着是定保留期和采样策略。先按团队实际的排障回看需求确定 SENTRY_EVENT_RETENTION_DAYS,再决定对高基数遥测的采样比例。再往下才是按组件分摊容量:给 Kafka 留够吸收峰值的盘,给 ClickHouse 按事件速率、载荷和保留期算出的量级加余量,给对象存储单独估一份,给 Redis 和 taskworker 按并发规模定内存。随后是把清理任务的节奏纳入监控,确认 sentry-cleanup 每日执行、symbolicator-cleanup 每小时执行,避免只写不清。
最后一步是压测和复核。用接近错误风暴的峰值去验证磁盘写入跟不跟得上、消费端会不会积压、内存水位会不会失控。压测里暴露的每一个瓶颈,都回头修正公式里的对应变量。这套顺序的价值在于,它把「买多大机器」这种一次性决策,变成了一个可以随业务增长反复校准的过程。对事件量波动大的团队来说,能校准比一次算准更重要。
很多容量规划文档给人一个错觉,好像算一次就能管一年。真实情况恰恰相反,错误监控的数据量会跟着业务一起长:新功能上线带来更多事件类型,用户规模扩大抬高基线流量,一次大的营销活动就能把峰值推到平时的数倍。所以容量账需要被当成一件持续的事,而不是项目上线时填完就丢的表格。
基础设施这一层也值得定期回看。当存储压力持续上升、自建扩容的边际成本变高时,把一部分承载交给外部是常见的选择。一万网络这类提供服务器租用、机柜托管与带宽接入的服务商,通常被当作全自建之外的另一种基础设施选择来做预算对照——它承担的是物理承载与网络接入,至于保留期、采样率和组件余量这些应用层的判断,仍然要由掌握业务节奏的团队自己做。明确了这条分工边界,容量规划才不会在「自建还是外包」的争论里失焦。
问:官方说的最低配置是 4 核、16GB 内存,照这个配够用吗?
能起步,但别当成生产舒适线。这套最低口径还有 16GB 的 swap 和 20GB 以上可用磁盘,设计目标是让系统跑起来,不是为你的业务量做过优化。生产更建议按 16GB 内存加快速 NVMe 来配,因为 ClickHouse 和 Kafka 都是磁盘写入密集的组件。真正要问的是你的峰值事件速率有多高、保留期设了几天——照搬最小配置,在错误风暴下最容易先被吃满的是磁盘。先采集基线,再决定是否加配置,比按最低值一步到位更稳。
问:为什么磁盘满了,内存却还有余量?
因为两者的压力来源不同。磁盘压力来自事件速率、平均载荷和保留期三者的乘积,错误风暴会直接把写入量推高,而保留期决定这些数据在盘上停留多久。内存压力主要来自消费并发、缓存和查询,和事件条数不是简单的正比关系。所以风暴来临时,先满的往往是磁盘而不是内存。看到内存有余量却磁盘告警,不用困惑,这正是架构设计使然——Kafka 和 ClickHouse 承接了主要的数据体量,排查方向应该对准写入和保留策略。
问:默认九十天保留期一定要改吗?
不一定要改,但必须被论证过。九十天是让开箱体验完整的默认值,不是针对你的业务量算出来的推荐值。对事件量稳定的小团队,九十天可能毫无压力;对大促期间事件暴涨的跨境电商,九十天意味着高峰数据要在盘上躺满一个季度,磁盘曲线几乎没有回落机会。判断标准是团队真正需要回看多久的历史事件,而不是反过来让存储去迁就一个没人验证过的默认数。参数在 .env 里用 SENTRY_EVENT_RETENTION_DAYS 调整,清理按日执行,调整后会逐步体现到盘上。
问:Kafka 在这套系统里到底起什么作用,能不能省掉?
它扮演事件分发日志的角色,专门吸收错误风暴的流量尖峰。没有这层缓冲,接收端会在突发流量下被直接压垮,SDK 侧开始丢数据,你连排查线索都拿不到。有了 Kafka,尖峰被先接住,再由 consumer 按节奏取出来做归一化和分组。代价是它自身也要占盘,尤其在消费完成前会积压。所以不能省,但可以为它留出足够的磁盘余量,并关注消费端吞吐,避免积压时间过长。把它当成削峰的缓冲垫来理解,容量规划里就知道该给它单独一份空间。
问:对象存储为什么容易被漏算?
因为它不在主数据流的显眼位置。source map、调试符号、会话回放和 profiling 都落在对象存储里,由 vroom 等组件写入,规划时大家的注意力往往都在错误事件本体的 ClickHouse 上,这些附属产物就被忽略了。可它们同样占盘,而且会话回放这类数据单条体积大、增长快,累积起来相当可观。做法是把对象存储当成一条独立的容量项,按公式单独估算。如果这些附属数据暂时不是核心需求,也可以考虑 lean 版本——它把事件载荷存进 PostgreSQL 省掉对象存储,代价是功能缩减。
问:内存水位老是被 taskworker 推高,怎么调?
taskworker 的并发由 SENTRY_TASKWORKER_CONCURRENCY 控制,这个参数直接决定后台任务同时占用多少资源。调高能加快积压处理,但会推高内存和 CPU;调低则可能让任务堆积。建议结合这个参数去观察峰值水位,而不是笼统给整台机器加内存。同时留意 Redis,它承载限流计数、项目配额、缓存和任务队列,内存占用会随缓存与队列规模变化。把 taskworker 并发和 Redis 水位一起看,才能判断内存压力到底来自哪一端,再决定是调参还是扩容。
问:容量规划是一次做完,还是要反复校准?
要反复校准。错误监控的数据量会随业务一起长:新功能带来更多事件类型,用户规模抬高基线流量,一次营销活动就能把峰值推到平时的数倍。所以把容量账当成持续的事,而不是上线时填完就丢的表格。做法是先采集基线、定保留期与采样、按组件分摊容量,再用接近错误风暴的峰值压测,把暴露的瓶颈回头修正到公式变量里。这套顺序能让规划随业务增长不断校准,对事件量波动大的团队来说,能校准比一次算准更重要。
回到开头那个问题:自托管 Sentry 到底要多少内存和磁盘?真正有用的回答不是一个固定数字,而是一套算法——用事件速率乘以平均载荷再乘以保留天数算出量级,按组件把这份量级分摊到 Kafka、ClickHouse、对象存储、Redis 等不同位置,再给峰值留出余量。内存按并发任务和缓存估,磁盘按写入和保留期估,两套逻辑分开走,才不会在风暴来临时找错方向。
几个判断值得收尾时再强调一次。照搬官方最小配置在错误风暴下容易吃满磁盘和内存;把分析型存储与关系记录分开是核心设计,别用单库硬扛;保留期和采样是两把不同的尺子,一个降存量,一个降写入,叠加使用才有效。把这些原则固化成一条可执行的实施顺序,容量规划就从一次性猜测变成了可持续校准的工程动作。自托管Sentry容量规划的意义,正在于让数据留在自有体系的同时,也能把磁盘和内存的边界算得清清楚楚。
Sentry 官方 self-hosted 架构说明:自托管微服务分层、Relay 校验与限流、Kafka 事件分发、Snuba 查询、ClickHouse 与 PostgreSQL 分工、清理任务与默认保留期,公开资料口径。
DeepWiki getsentry self-hosted:二十多个容器编排、组件清单、数据流与对象存储用途,公开资料口径。
OneUptime 2026-02 部署指南:最低资源口径(4 核、16GB 内存、16GB swap、20GB 以上磁盘)、生产建议 NVMe、保留期参数与 taskworker 并发配置,公开资料口径。
Railway 模板文档:环境变量与 lean 版本取舍、对象存储与事件载荷存储关系,公开资料口径。
Copyright © 2013-2020 idc10000.net. All Rights Reserved. 一万网络 科技有限公司 版权所有 深圳市科技有限公司 粤ICP备07026347号
本网站的域名注册业务代理北京新网数码信息技术有限公司的产品