微软推出 XOT 方法,提升语言模型推理能力

发表于:2023-11-17 09:27

字体: | 上一篇 | 下一篇 | 我要投稿

 作者:故渊    来源:IT之家

  微软近日推出了名为“Everything of Thought”(XOT)的方法,灵感来自谷歌 DeepMind 的 AlphaZero,利用紧凑的神经网络,来增强 AI 模型推理能力。
  微软和佐治亚理工学院、华东师范大学合作开发了该算法,整合了强化学习(reinforcement learning)和蒙特卡洛树搜索 (MCTS) 能力,在复杂决策环境中,进一步提高解决问题的有效性。
  微软研究团队表示 XOT 方法可以让语言模型扩展到不熟悉的问题上,在 Game of 24、8-Puzzle 和 Pocket Cube 严苛测试中提升明显。结果表明,XOT 明显优于其他方法,甚至解决了其他方法失败的问题。但是,XOT 并没有达到 100% 的可靠性。
  XOT 框架包括以下关键步骤:
  ·预训练阶段:MCTS 模块在特定任务上进行预训练,以学习有关有效思维搜索的领域知识。轻量级策略和价值网络指导搜索。思想搜索: 在推理过程中,预训练的 MCTS 模块使用策略 / 价值网络来有效地探索和生成 LLM 的思想轨迹。
  · 思想修正:LLM 审查 MCTS 的思想并识别任何错误。修正的想法是通过额外的 MCTS 模拟产生的。
  · LLM 推理: 将修改后的想法提供给 LLM 解决问题的最终提示。
  本文内容不用于商业目的,如涉及知识产权问题,请权利人联系51Testing小编(021-64471599-8017),我们将立即处理
《2023软件测试行业现状调查报告》独家发布~

关注51Testing

联系我们

快捷面板 站点地图 联系我们 广告服务 关于我们 站长统计 发展历程

法律顾问:上海兰迪律师事务所 项棋律师
版权所有 上海博为峰软件技术股份有限公司 Copyright©51testing.com 2003-2024
投诉及意见反馈:webmaster@51testing.com; 业务联系:service@51testing.com 021-64471599-8017

沪ICP备05003035号

沪公网安备 31010102002173号