跳到正文

内容类型

教程实践 最新动态

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

15 条精选近 30 天 12 条共收录 28 条

更新

教程实践的精选

11月21日周六第 1–15 条
  1. The Decoder76

    OpenAI 发布 GPT-6.2 Astra 与 Sol 提示词优化指南

    OpenAI 发布了针对 GPT-6.2 Astra 和 Sol 的新提示词模板,旨在解决模型回答过于简洁或频繁反问的问题。指南建议开发者调整写作风格指令,在代码生成中减少不必要的抽象与测试,并更新了 API 中关于推理内容处理的机制,以提升任务执行效率。

    推荐理由:原文整理了针对 GPT-6.2 Astra 和 Sol 的最新提示词模板与 API 调整建议,开发者可据此优化模型在写作、代码生成及任务执行中的表现。

  2. AWS Machine Learning Blog68

    如何使用 Skyflow 和 Amazon Bedrock AgentCore Gateway 保护智能体工具调用

    AWS 官方博客介绍了通过在 Amazon Bedrock AgentCore Gateway 中集成 Skyflow 拦截器,实现对智能体工具调用中敏感数据的去标识化处理。

    推荐理由:本文介绍了如何利用 Skyflow 和 Amazon Bedrock AgentCore Gateway 为智能体工具调用增加数据保护层,通过拦截器实现敏感数据的去标识化与还原,无需修改现有智能体代码。

  3. AWS Machine Learning Blog68

    利用 Accenture 的分阶段方法优化 Amazon Bedrock 上的 AI 经济性

    本文介绍了在 Amazon Bedrock 上优化 AI 成本的六种杠杆,涵盖从配置调整到架构优化及基础设施投资的三个阶段。Accenture 通过在电信、保险等行业的四个案例验证了这些方法,实现了 40% 至 85% 的 token 成本削减,并强调了通过成本分配标签和业务交易成本框架进行持续治理的重要性。

    推荐理由:文章通过 Accenture 的实际案例,系统性地介绍了在 Amazon Bedrock 上优化 AI 成本的六种技术手段与治理框架,为企业规模化部署 AI 提供了可落地的经济性优化路径。

  4. AWS Machine Learning Blog68

    AWS Quick 发布 Selling Partner 插件并开启免费订阅优惠

    AWS Quick 推出 Selling Partner 插件,允许卖家将销售数据、库存信号和市场情报直接接入 AI 助手,实现对话式业务分析与自动化决策。该插件目前处于 Beta 测试阶段,亚马逊为全球卖家提供 12 个月的免费 AWS Quick Plus 订阅及 10 个协作账号,用户需在 2026 年 12 月 31 日前完成注册。

    推荐理由:亚马逊通过 AWS Quick 推出 Selling Partner 插件,将销售数据与 AI 助手集成,为卖家提供了一种无需编码即可自动化处理库存和运营决策的新路径。

  5. AWS Machine Learning Blog72

    宝马集团如何管理数千名开发者使用的数百个 AI 智能体

    宝马集团通过构建分层架构(MCP 工具、技能、流程)和基础设施即代码(IaC)实践,实现了对大规模智能体集群的治理。该方案通过 CI/CD 流水线强制执行确定性治理规则,并利用中央注册表与持续评估机制,在保障合规性与安全性的同时,支持开发团队高效构建并扩展智能体应用。

    推荐理由:宝马集团分享了其在企业级规模下治理数百个 AI 智能体的架构模式,为开发者提供了可复用的治理框架与 CI/CD 实践参考。

  6. AWS Machine Learning Blog68

    AWS 推出分布式 KV 缓存 Agent 技能以降低自托管 LLM 成本与延迟

    AWS 发布了用于 Agent Toolkit 的分布式 KV 缓存技能,旨在通过 Amazon ElastiCache 共享缓存层减少 GPU 重复计算,从而降低自托管 LLM 的推理成本并缩短首字延迟。该技能支持 Kiro、Claude Code 等 Agent,可引导用户完成工作负载评估、缓存集群配置及故障排查,并提供 KVTrace 工具用于预测性能收益。

    推荐理由:本文介绍了如何利用 AWS Agent Toolkit 中的分布式 KV 缓存技能优化自托管模型推理,通过自动化诊断、成本评估与配置引导降低延迟。

  7. AWS Machine Learning Blog62

    Standard Bank Group 如何实现生成式 AI 的风险评估自动化

    Standard Bank Group 与 AWS 合作开发了一套自动化风险评估系统,通过预评估智能体收集证据,并利用 Amazon Bedrock 上的大模型作为“裁判”对 AI 用例进行合规性评分。该方案将传统的两周人工审核缩短至约两小时,实现了从静态文档审核向持续性自动化合规治理的转变。

    推荐理由:本文展示了银行如何通过自动化评估流程将合规政策转化为可执行的测试,为企业在快速迭代中实现 AI 风险治理提供了可参考的架构思路。

11月20日周五
  1. Hugging Face Blog82

    Hugging Face 发布智能体适配器训练方案以提升模型性能与效率

    Hugging Face 介绍了如何通过在特定智能体框架内进行强化学习训练 LoRA 适配器,从而显著提升模型在软件工程任务中的表现与效率。该方案支持将多个适配器合并为单一的超级适配器,并提供了完整的训练配方、数据集构建流程及工具调用安全插件,帮助开发者在自定义任务中复现该优化效果。

    推荐理由:原文提供了一套通过强化学习训练智能体适配器以提升模型在特定框架下表现的完整方案,开发者可参考此配方优化自定义任务的执行效率与准确性。

  2. NVIDIA Blog68

    NVIDIA 开发者如何利用前沿 AI 智能体将创意转化为仿真应用

    NVIDIA 官方介绍了开发者如何通过自然语言指令引导 AI 智能体,结合 NVIDIA Omniverse 库与 Isaac Sim 框架,完成从 3D 资产组装、物理属性配置到交互式仿真环境构建的全过程。文中通过机器人拾取、VR 场景搭建、数字孪生测试及工业自动化等多个实战案例,展示了智能体在提升仿真开发效率与验证复杂场景中的应用价值。

    推荐理由:文章通过多个 NVIDIA 内部及生态开发者的实操案例,展示了如何利用前沿 AI 智能体结合 Omniverse 库构建物理仿真环境,为开发者提供了可参考的 Agent 辅助开发工作流。

11月19日周四
  1. OpenAI News77

    OpenAI 如何利用 Performance Factory 保持 ChatGPT 的运行速度

    OpenAI 介绍了其内部的 Performance Factory 系统,该系统利用 Codex 智能体自动调查、诊断并修复 ChatGPT 的性能回归问题。通过将性能工程工作流模块化,该系统实现了从告警触发到修复验证的全流程自动化,并引入了对抗性审查机制以提高诊断准确性。

    推荐理由:OpenAI 详细介绍了其内部自动化性能工程系统 Performance Factory 的架构与工作流,为开发团队构建生产级智能体系统提供了可参考的工程范式。

11月18日周三
  1. Hugging Face Blog68

    在 Transformers 中实现 MoE 模型专家流式传输以突破推理限制

    作者通过在 Transformers 中引入专家流式传输(Expert Streaming)机制,成功在 32GB 内存的 Mac 上运行 180B 参数的 MoE 模型。该方案通过将专家权重卸载至磁盘、利用 LRU 缓存及 Metal 内核优化,使推理速度达到 14 tok/s,性能表现已接近专用推理引擎 Strata。

    推荐理由:作者通过在 Transformers 中实现 MoE 模型专家流式传输,展示了如何在有限内存设备上运行超大模型,并对比了不同推理引擎的性能优化路径。

11月13日周五
  1. GitHub Blog · AI & ML74

    GitHub 指南:构建一次,在任意 Agent 上运行的技能

    GitHub 官方发布了关于构建可复用 Agent 技能的实践指南,建议将重复性指令封装为版本化的 SKILL.md 文件。通过将项目配置与技能逻辑分离、统一执行路径并设置人工审核节点,开发者可以实现跨不同 Agent 客户端的技能迁移与协同工作。

    推荐理由:本文介绍了如何通过标准化定义 Agent 技能实现跨平台复用,为开发者提供了构建可维护、模块化智能体工作流的实践指南。

10月13日周二
  1. GitHub Blog · AI & ML64

    GitHub Copilot 初学者指南:如何让 Copilot 学习你的代码库

    GitHub 官方介绍了四种定制 Copilot 以适应项目特定规范的方法:使用自定义指令(Custom instructions)设定编码规范,利用智能体技能(Agent skills)封装重复流程,通过自定义智能体(Custom agents)处理复杂任务,以及利用 MCP 服务器连接外部工具与数据源。开发者可以根据项目需求组合使用这些功能,从而减少重复解释标准和工作流的负担。

    推荐理由:文章详细介绍了四种定制 GitHub Copilot 的方法,帮助开发者通过配置代码库上下文来提升 AI 在特定项目中的协作效率。

7月29日周三
  1. Berkeley AI Research78

    从 CUDA 到 MLX:K-Search 如何将 GPU 内核优化经验迁移至 Apple Silicon

    研究团队扩展了 K-Search 框架,通过引入 CUDA 到 MLX 的结构化翻译层,使 AI 能够自动将 NVIDIA 平台的内核优化经验适配至 Apple Silicon。实验结果显示,该方法在 Attention 内核上实现了近专家级性能,并在 Mamba SSM 内核的预填充任务中取得了比社区实现快 20 倍的吞吐量。

    推荐理由:该研究展示了如何通过结构化翻译层将 CUDA 核心优化经验迁移至 Apple Silicon,为非 NVIDIA 硬件上的高性能算子开发提供了可复用的自动化路径。

5月8日周五
  1. Berkeley AI Research78

    自适应并行推理:高效推理扩展的新范式

    本文探讨了自适应并行推理(APR)这一新兴范式,即模型根据问题复杂度自主决定何时并行、如何分配线程及协调任务。文章对比了固定并行与自适应控制的差异,分析了基于引擎修改(如 Multiverse)与引擎无关(如 ThreadWeaver)的两种执行路径,并讨论了如何通过强化学习激励模型实现高效的并行推理控制。

    推荐理由:本文系统梳理了自适应并行推理的范式演进与技术实现,为理解如何通过模型自主决策并行结构来优化推理效率提供了深度参考。