7 月 23 日，Meta 正式发布 Llama 3.1 模型，包含 8B、70B 和 405B 三种参数规模。其中 405B 是目前最大开源模型之一，拥有 4050 亿参数，支持多语言输入输出，在复杂数学和即时生成内容方面表现出色。 为了给企业、开发者提供更多元的模型选择，腾...
当有人问我，“AI 对企业构成什么风险？”时，我会反问：“你担心哪种 AI？” 许多领导者不知道AI有多种形式，所以我需要确保我们谈论的是同一件事。 Naveen Joshi 在一篇很好的《福布斯》文章中讨论了定义或分类 AI 的七种方式，他描述了四种主要的...
将人工智能技术集成到低代码和无代码开发中，可以利用自动代码生成和智能助手等功能加速应用程序的创建。 大型语言模型(LLM)的出现导致人们争相将人工智能(AI)技术集成到每个有意义的产品中，甚至包括许多毫无意义的产品。但有一个领域，人工智能已...
不知你是否听说过由人工智能（AI）来生成正则表达式（Regex）。这是一个有趣的领域，鉴于人工智能在文本分析方面优异的表现，它们足以开始“整理”各种现有表达式工具了。 作为开发人员，我们可能更希望将人工智能作为开发系统的一部分，从日常自己...
你可能已听说过LLM强势亮相，至少ChatGPT就是代表。 大语言模型(LLM)指语言处理模型。这类模型经过训练，可以执行各种各样的语言任务：翻译、文本生成和问题回答等。 有几个LLM家族和架构，最著名的是GPT(生成式预训练Transformer)。每种 LLM都有...
在深度学习中，优化模型性能至关重要，特别是对于需要快速执行和实时推断的应用。而PyTorch在平衡动态图执行与高性能方面常常面临挑战。传统的PyTorch优化技术在处理动态计算图时效果有限，导致训练时间延长和模型性能不佳。TorchDynamo是一种为PyTorc...
本文将介绍模块化Prompt，目前在实际应用中对效果提升比较大，本文首先介绍什么是模块化Prompt，然后给出GLM各种应用场景下的推荐prompt，也适用于其它大模型哦。 什么是模块化Prompt 结构化的思想很普遍，结构化内容也很普遍，我们日常写作的文...
大模型理解、推理Excel，现在变得更加精准了。 这就是来自微软的一项最新研究——SPREADSHEETLLM，主打的就是让大模型有条不紊地处理各种电子表格任务。 例如在下面这张图中，如果用传统的大模型方法，会直接忽略掉“R5:R14”这列数据。 然而...
开发基于大型模型的应用时，选择合适的应用框架不仅能显著提高开发效率，还能增强应用的质量属性。这类似于在Windows上开发传统软件服务时从MFC过渡到.NET Framework，或在Linux服务器端使用Java语言时采用Spring及Spring Boot框架，以及在Web前端开发...
如果你尝试过像ChatGPT这样的LLM，就会知道它们几乎可以为任何语言或包生成代码。但是仅仅依靠LLM是有局限的。对于数据可视化的问题我们需要提供一下的内容。 描述数据：模型本身并不知道数据集的细节，比如列名和行细节。手动提供这些信息可能很麻...
Zero-Shot提示的局限性 在日前举办的Snowflake数据云峰会上，LandingAI公司创始人兼首席执行官Andrew Ng博士进行精彩的演讲。他分享了他对人工智能代理工作流程的潜力的见解，以彻底改变人工智能领域。Andrew Ng博士认为，这些迭代的、多步骤的方法...
AI搜索正在向更深处走去。 AI搜索的领头羊——Perplexity 最近对其 Pro Search 人工智能工具进行了升级。主要改进是启动了多步骤推理， 这使得AI搜索可以解决更复杂的问题。Perplexity能理解问题何时需要规划，逐步实现目标，并更高效地合成综合答案...
1. 推理系统和训练系统的区别 最简单的一句话是: 推理系统没有所谓的DP并行. 背后隐藏的一个含义是两个系统的Workload是完全不一样的. 1.1 训练系统 到达速率和服务速率为确定性分布。 在训练系统中数据以Batch的方式到达, 然后计算时间也...
有同学觉得 copilot 和 Agent 没啥区别，核心原因是认为，Copilot是传统软件使用AI 增强，这时被包裹成为copilot，另种形式 Agent 是AI系统（目前常见各种对话）包裹传统系统API，这时称为Agent。这两者没有明显区别，同样的实现逻辑。 其实这个是有...
我们与开发人员进行了交流，了解他们对 AI 的创造性使用方式，包括 PR 审查、创建学习路径和生成数据模型。 译自5 Creative Ways Developers Are Using AI，作者 Jeff James。 随着 AI 在科技领域的广泛应用，以及随之而来的人工智能驱动的编码平...
前言 在过去的几年里，人工智能（AI）和机器学习（ML）技术的发展突飞猛进，成为科技领域最具革命性的进步之一。随着这一技术的普及，关于AI模型的开源与闭源的争论也逐渐升温。本文将深入探讨AI模型的开源与闭源，分析其优缺点，并讨论哪个更适合当...
大型语言模型（LLM）已经证明是一种非常宝贵的思考工具。经过大量文本、代码和其他媒体数据集的训练，它们能够创作出接近人类水平的文章、翻译语言、生成图像，还能以信息丰富的方式回答人们提出的问题，甚至可以编写不同类型的创意内容。但是，尽管它...
只有让LLM（大模型）学会使用工具，才能做出一系列实用的AI Agent，才能发挥出LLM真正的实力。本篇，我们让AI Agent使用更多的工具，比如：外部搜索、分析CSV、文生图、执行代码等。 一、使用工具的必要性 LLM（大模型）如果没有使用工具的能力，...
近日，苹果公司在HuggingFace上发布了20个新的Core ML模型和4个数据集，字节大模型团队的单目深度估计模型 Depth Anything V2入选其中。 CoreML是苹果公司的机器学习框架，将机器学习模型集成到iOS，MacOS等设备上高效运行，可在无需互联网连接的情...
如今，许多开发人员和产品团队使用生成式人工智能（GenAI）代理来帮助构建软件或应用程序——真正的创新出现在多代理系统上。就像管弦乐队可以演奏出丰富复杂的交响乐，独奏音乐家只能在一个维度发出声音，多代理系统不仅限于以任务为导向的角色，真正...
