# Amazon Bedrock为Kimi K3增加印度境内推理，Ultrahuman称Jade借助提示缓存将LLM成本降低80%

> AWS在11月3日的机器学习博客中宣布，Amazon Bedrock为Moonshot AI的Kimi K3新增印度境内推理选项，面向数据驻留要求严格的印度本地工作负载。Ultrahuman工程副总裁Aditya Patawari在博客的客户引述中称，应用内健康助手Jade每天处理超过1.4万次对话；同一引述称，借助提示缓存，其LLM成本降低80%，多轮聊天速度提升85%。

- 栏目：人工智能/云计算
- 本站发布：2026-11-04 22:43（北京时间）
- 原始消息发布：2026-11-04 00:32（北京时间）
- 消息来源：AWS 机器学习博客 (https://aws.amazon.com/blogs/machine-learning/introducing-india-based-inference-for-kimi-k3-on-amazon-bedrock/)
- 本页网址：https://jecy.cloud/news/articles/2026-11-03-6e0198d0875e.html

## 印度境内推理选项

Amazon Bedrock为Kimi K3新增印度境内推理，AWS在11月3日的机器学习博客中公布了这一选项。Kimi K3是Moonshot AI的多模态开放权重基础模型，此前已支持全球和美国推理；印度选项面向对数据驻留要求严格的本地工作负载。Bedrock通过跨区域推理配置文件提供该模型：调用方从一个AWS区域发起请求，Bedrock将请求转到配置文件允许的目标区域处理。印度配置文件in.moonshotai.kimi-k3把推理限定在印度区域。[^1][^2]

## Ultrahuman的Jade助手

Ultrahuman已在生产中使用这一组合。其工程副总裁Aditya Patawari在AWS博客的客户引述中表示，Ultrahuman应用内的AI健康与保健助手Jade会结合每位用户自己的Ring和血糖数据，用自然语言回答问题，每天处理超过1.4万次对话。Kimi K3通过Ultrahuman已在使用的API接入；健康数据留在AWS内，并以孟买区域作为回退。同一引述还称，借助提示缓存，他们将LLM成本降低了80%，多轮聊天速度提升了85%。这些数字来自Ultrahuman在AWS博客中的自述，不是AWS的独立测试结果。[^3]

## 示例场景与适用范围

AWS还给出一个示例：读取扫描的印地语文档，抽取结构化数据，再用印地语和英语混合的Hinglish追问。AWS称，这类需求常见于印度金融服务和公共部门，KYC表单、水电账单等文档往往需要数字化。Kimi K3可以直接读取并理解包含多语言文字的图像，可能不需要单独的光学字符识别（OCR）或翻译服务。AWS将其作为示例和潜在方案，并未说明这是已验证的生产部署。[^4][^5]

---

## 原文摘录

[^1]: "In addition to global and US-based inference, Amazon Bedrock now supports in-country inference in India for Kimi K3: unblocking local workloads with strict data residency requirements." — AWS 机器学习博客 (https://aws.amazon.com/blogs/machine-learning/introducing-india-based-inference-for-kimi-k3-on-amazon-bedrock/)
[^2]: "The inference profile in.moonshotai.kimi-k3 ensures that inference is processed in Indian Regions only." — AWS 机器学习博客 (https://aws.amazon.com/blogs/machine-learning/introducing-india-based-inference-for-kimi-k3-on-amazon-bedrock/)
[^3]: "Kimi K3 on Amazon Bedrock let us add a leading open-weight model through the API we already use, with health data staying inside AWS and Mumbai as a fallback Region." — AWS 机器学习博客 (https://aws.amazon.com/blogs/machine-learning/introducing-india-based-inference-for-kimi-k3-on-amazon-bedrock/)
[^4]: "Example walkthrough: Indic-language document understanding Let’s consider an example use case: reading a scanned Hindi document, extracting structured data, and answering follow-up questions in mixed Hindi and English (Hinglish)." — AWS 机器学习博客 (https://aws.amazon.com/blogs/machine-learning/introducing-india-based-inference-for-kimi-k3-on-amazon-bedrock/)
[^5]: "It offers a potential solution with no separate OCR or translation service required." — AWS 机器学习博客 (https://aws.amazon.com/blogs/machine-learning/introducing-india-based-inference-for-kimi-k3-on-amazon-bedrock/)

---

说明：本文由 AI 依据信源整理，并经事实核对；文中数字与成绩均为来源方公布的口径，未经本站独立验证，原文更新后以原文为准。欢迎 AI 与读者引用，请注明来源并链接回本页。
