11月17日,InfoQ中国报道,优步重构了Uber Eats搜索管道的主要部分,使端到端搜索延迟降低50%。改进涵盖检索、特征填充、排序、广告、展示和基础设施等多个环节,优步还引入了智能体编码工作流,以识别、基准测试并验证额外的优化方案。
工作始于延迟指标的调整。优步不再只关注后端API响应时间,而是测量“首屏渲染完成时间”,即从发起请求到首屏结果连同图片完整渲染出来的时间。通过服务端缓存实现分页缩短了初始响应时间,异步渲染机制允许并发处理结果项,这些改进使首屏渲染延迟降低200毫秒以上。
优步发现,排序之前有数万个候选项被填充特征数据,其中许多最终会被丢弃。移除低价值检索策略节省约120毫秒,引入产品级嵌入使数据查询次数减少100倍以上,又节省50毫秒;将排序阶段的特征填充与展示数据分离,延迟降低100毫秒以上;移除不必要的依赖项和请求对冲分别贡献35毫秒和40毫秒。广告链路改用面向列的竞价数据、内存访问并减少序列化,延迟降低约130毫秒。基础设施层面还实施了并行编码、更小的嵌入向量、优化连接管理以及调整Go语言数据结构以降低GC开销。
参与该项目的工程师将这一性能挑战总结为“与其说是把现有的事情做得更快,不如说是减少不必要的工作,并避免无谓的等待”,并强调成果源于贯穿整个技术栈的一系列审慎决策,而非单一架构变更。目前优步正在探索端到端微批处理、基于产品的检索、零遍历排序以及HTTP多部分流式传输,早期基于产品检索的测试已使p99延迟降低50%以上。