亚马逊AWS官方博客

Category: Artificial Intelligence

使用开源身份提供商 Keycloak 实现 Amazon Quick 多端 SSO——从部署到SAML + OIDC 双协议集成与验证

在智能建筑和物业管理领域，IoT 设备的稳定运行对业务连续性至关重要。物业公司通常通过 IoT 平台管理大楼的设施设备，实时采集并记录设备报送的各类指标数据（如温度、湿度、压力等）。然而，设备离线、网络故障、平台问题等异常情况时有发生，传统的监控方式往往只能提供统计图表，关联分析比较困难，难以快速定位问题根源，影响了问题发现和处理的效率。本文以某客户智能建筑管理场景为例，介绍如何利用亚马逊云科技的无服务器（Serverless）来构建一套近实时（分钟级）的 IoT 设备异常检测系统，实现从数据采集、实时分析到告警的全流程自动化，面对大量 IoT 设备数据能够在数分钟内识别出设备的异常，为物业企业提供可靠的设备监控能力。

接入 Amazon Bedrock 新一代推理引擎 Mantle：用 LiteLLM 网关统一调用 GPT-5.6 与 Claude

Mantle 是 Amazon Bedrock 的新一代推理引擎，OpenAI 的 GPT-5.6（Sol / Terra / Luna）等模型由它提供服务，通过 OpenAI 兼容的 bedrock-mantle 端点对外暴露。它与承载 Claude 的经典 bedrock-runtime 端点在协议上并不一致：前者用 Chat Completions / Responses，后者用 Converse / InvokeModel。本文用一台 EC2 上的 LiteLLM 网关（测试形态，生产化建议见文中）把两个端点收敛到同一个入口，实测供出 9 个模型（GPT-5.6 三变体、GPT-5.5、GPT-5.4、gpt-oss 两款、Claude 两款），客户端只认一个地址、一个 key，网关侧完全用 EC2 实例角色做 SigV4 认证，不落盘任何 API key。文中还给出一个 92 行的 pre-call 钩子，解决 Codex 客户端与 Mantle 的请求体不兼容问题，让 Codex 和 opencode 共用同一套网关。

Text-only LLM SFT 训练数据预处理：从收集到数据打包的完整指南

本文将系统介绍 Text-only LLM SFT 训练数据预处理的完整流程，涵盖从数据收集到最终打包的每一个环节，并结合真实客户案例给出实操建议。这里需要说明的是，本文聚焦于纯文本场景，且不涉及代码生成和 SQL 相关的场景。从 2025 年的行业趋势来看，代码和 SQL 相关场景基本上都是基于开源模型权重或闭源模型来构建实现的，需要针对代码和SQL相关场景做post training 的客户相对要少很多。此外，SFT 和 RFT（Reinforcement Fine-Tuning）的训练数据预处理存在差异，本文只讨论 SFT 的部分。虽然 SFT 本身又分为全参数 SFT 和 PEFT（主要是 LoRA 及其变体），但数据集的预处理流程对两者是一致的。

← Older posts