Tag: #transformer

2026

6 posts

  1. PHOTON を読んで、手元でミニチュア再現する — 475 倍をスループット×メモリに分解し、チャンク階層を自分で測る

    #llm #transformer #python #benchmark

  2. 小さな言語モデルをゼロから学習する — nanoGPT 級を MPS で回し、PPL・速度・メモリを自分で測る

    #llm #transformer #python #open-source

  3. サンプリングは賭けだ — 1 回の正解 vs N 回の多数決、self-consistency で精度を買う代償を実測する

    #llm #transformer #python #evaluation

  4. KVキャッシュは記憶のコスト — 文脈が伸びるほど decode が重くなる理由を実測する

    #llm #transformer #python #open-source

  5. Attention は過去を読み直している — Q/K/V と O(T²) の壁を最小実装で覗く

    #llm #transformer #python #open-source

  6. LLM はトークンを1つずつ予測している — 自己回帰ループを手元で覗く

    #llm #transformer #python #open-source
© 2026 ZeroZawa. All Rights Reserved. / About / お問い合わせ / Privacy / RSS / Sitemap / Changelogs
Powered by Astro & Fuwari