aimgowin
本站致力于IT相关技术的分享
开始阅读
在Astro SSR中集成动态服务发现与熔断机制以构建弹性前端网关 在Astro SSR中集成动态服务发现与熔断机制以构建弹性前端网关
一个Astro SSR应用在微服务架构中承担的角色远不止是渲染UI。它实质上是一个面向用户的聚合层，或称之为前端网关(Frontend Gateway)。当一个页面需要来自多个后端服务的数据来完成渲染时——比如产品详情、用户评论和推荐列表—
2023-11-20 后端架构
Astro 微服务 服务发现 SSR 弹性设计
构建基于 Laravel、Weaviate 和 Styled-components 的向量检索流式响应系统 构建基于 Laravel、Weaviate 和 Styled-components 的向量检索流式响应系统
最初的 RAG (检索增强生成) 系统原型是一个阻塞式的请求-响应模型。用户提交一个问题，前端显示一个加载动画，后端去查询向量数据库，构建提示词，然后等待大语言模型（LLM）返回完整的答案。整个过程耗时5到15秒不等，最终呈现给用户的是一大
2023-11-15 后端架构
Styled-components Laravel Weaviate RAG Server-Sent Events
基于 CircleCI、Kubeflow 与 Grafana 构建 MLOps 管道的 DORA 指标可观测性实践 基于 CircleCI、Kubeflow 与 Grafana 构建 MLOps 管道的 DORA 指标可观测性实践
我们团队的机器学习模型迭代流程正面临一个典型的“黑盒”困境。模型在 Kubeflow Pipelines 上运行，触发机制是手动的，CI/CD 过程仅限于 CircleCI 构建一个 Docker 镜像。我们能交付模型，但我们无法回答关键问
2023-10-27 MLOps
Grafana Kubeflow CircleCI DevOps Observability DORA
构建基于 Paxos 的分布式状态机以纳管 Milvus 与 OpenFaaS 向量处理工作流 构建基于 Paxos 的分布式状态机以纳管 Milvus 与 OpenFaaS 向量处理工作流
我们面临一个棘手的状况：一个由 OpenFaaS 函数驱动的向量索引流水线，需要以高可用的方式管理 Milvus 集合的元数据和加载状态。数据批次的到达由 AWS SQS 消息触发，整个系统通过 容器化 部署。问题在于，流水线的控制平面——
2023-10-27 分布式系统
Paxos 算法 AWS SQS Milvus OpenFaaS 容器化
构建支持AI模型的实时特征管道 Ktor Flink与Prometheus的生产实践 构建支持AI模型的实时特征管道 Ktor Flink与Prometheus的生产实践
为机器学习模型提供毫秒级新鲜度的特征，是许多实时AI应用（如在线推荐、实时风控）成功的关键。然而，构建一个兼具高吞吐、低延迟和高可用性的实时特征管道，是一项复杂的系统工程挑战。我们需要处理源源不断的数据流，进行有状态的计算，将结果存储在低延
2023-10-27 数据工程
Ktor Apache Flink Prometheus Jotai 大数据
构建基于 SQL Server 状态管理的跨技术栈文档智能解析管道 构建基于 SQL Server 状态管理的跨技术栈文档智能解析管道
一个看似明确的需求：允许用户上传任意格式的文档（图片、扫描版PDF），系统自动提取内容、理解语义、并结构化存储。这个流程必须容忍长时间运行的AI任务、处理偶发性失败，并为前端提供近乎实时的状态更新。当技术栈横跨Python (OpenCV,
2023-10-27 架构设计
OpenCV LLM SQL Server Astro
1 / 5