如你所见这只是一个日记本而已
#赛博鸡蛋 一些羊毛
#光与影 摄影作品或创作过程记录
#吃点好 吃啥了
#面基
#活动
#灵感菇 一些 MVP 的 demo 或 idea 记录
点击讨论区进群
友情链接：@stvgateway
联系Steven：@stvlynn_bot
#赛博鸡蛋 一些羊毛
#光与影 摄影作品或创作过程记录
#吃点好 吃啥了
#面基
#活动
#灵感菇 一些 MVP 的 demo 或 idea 记录
点击讨论区进群
友情链接：@stvgateway
联系Steven：@stvlynn_bot
#优质博文 #AI #LLM #Context
How AI Remembers and Why It Forgets: Part 1. The Context Problem：介绍大语言模型（LLM）如何通过上下文（Context）模拟记忆，以及为何大量信息会导致“上下文腐烂”（Context Rot）现象。
author Nadia Makarevich
How AI Remembers and Why It Forgets: Part 1. The Context Problem：介绍大语言模型（LLM）如何通过上下文（Context）模拟记忆，以及为何大量信息会导致“上下文腐烂”（Context Rot）现象。
AI 摘要：文章揭示了 AI 并没有持久记忆，其所谓的“记忆”完全依赖于对话中反复发送的上下文（Context）。作者通过实验证明，即使在模型宣称的上下文窗口（Context Window）限制内，大量信息也会导致“上下文腐烂”（Context Rot），引发性能下降、信息遗漏及幻觉。
author Nadia Makarevich
Developer Way
How AI Remembers and Why It Forgets: Part 1. The Context Problem
How does AI actually remember things between messages, and why does it forget halfway through? I ran a few experiments on Claude Sonnet and GPT-5 and wrote down what I saw.
Nanocode: The best Claude Code that $200 can buy in pure JAX on TPUs https://github.com/salmanmohammadi/nanocode/discussions/1
GitHub
Introducing nanocode: The best Claude Code that $200 can buy. · salmanmohammadi nanocode · Discussion #1
I'm so excited to share nanocode. This is a library showing you how to speedrun your own Claude Code end-to-end: from pretraining, to SFT, and RLHF using DPO. To a first approximation, we will ...
