<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom">
  <channel>
    <title>Claude3 on GbyAI</title>
    <link>https://blog.gby.ai/tags/claude3/</link>
    <description>Recent content in Claude3 on GbyAI</description>
    <generator>Hugo -- gohugo.io</generator>
    <language>zh</language>
    <copyright>Content under license [CC BY-NC-SA 4.0](https://creativecommons.org/licenses/by-nc-sa/4.0/)</copyright>
    <lastBuildDate>Thu, 07 Mar 2024 00:00:00 +0000</lastBuildDate>
    <atom:link href="https://blog.gby.ai/tags/claude3/index.xml" rel="self" type="application/rss+xml" />
    <item>
      <title>LLM越来越长上下文的一些简单思考</title>
      <link>https://blog.gby.ai/long-context/</link>
      <pubDate>Thu, 07 Mar 2024 00:00:00 +0000</pubDate>
      <guid>https://blog.gby.ai/long-context/</guid>
      <description>最近发布的 claude 3 支持 200 k 的上下文，简单回顾了一下到 2024 年 3 月 7 号为止超过 100 k 上下文窗口的大模型。
模型名 最大上下文 大海捞针通过率 Claude 3 系列 100-200 K &amp;gt;99% Claude 2.1 200 K &amp;gt;50% GPT 4 128 K &amp;gt;95% Yi-34B 200 K 无 Baichuan 2 200 K &amp;gt;90% ChatGLM 4 192 K &amp;gt;99% kimi chat 192 K &amp;gt;99% XVERSE-Long 256 K 无 InternLM 200 K 无 Gemini 100 K 无 长上下文带来的益处 模型性能的提升
大型语言模型的上下文窗口扩大到200K tokens，意味着模型可以在单个输入中处理更长的文本。这对于理解长篇文章、书籍、编写更长的内容或进行深入的话题分析具有显著优势。模型能够捕捉到更长文本中的细微联系和结构，从而提高了语言理解和生成的质量。 应用场景的扩展</description>
    </item>
  </channel>
</rss>
