SUMMARY AI summary by gpt-5-mini
このリポジトリは NeetCode ML コースを通じて作者が一から実装した GPT 系モデルの学習用コード一式です。目的は基礎から Transformer/GPT を手で追って理解することで、機械学習や NLP を学ぶ学生・研究者・エンジニアが対象です。 主な構成と機能: - model/: 自己注意(attention)ヘッド、多頭注意、Transformer ブロック、GPT モデル、本稿で使う各種正規化(Layer/Batch/RMS)、埋め込み、位置エンコーディング、KV キャッシュ、Grouped Query Attention などの実装。 - data/: BPE トークナイザや文字レベル語彙、データローダ、データセット準備、前処理ユーティリティ。 - foundations/: ニューロン・逆伝播・MLP・活性化・損失・学習ループなど、ニューラルネットの素朴なプリミティブを自作。 - train.py / generate.py: 学習ループとテキスト生成スクリプト。README にある通り pip install 後に実行可能。 コース内容(勾配降下法〜Transformer〜GPT)に沿った学習実装が含まれ、教材の実践的なリファレンスとして使えます。
Language breakdown (by bytes)
Owner
Dates
| Created on GitHub | 2026-05-05 |
| Last push | 2026-05-09 |
| First seen here | 2026-05-09 |
| Last fetched | 2026-05-09 18:11 |
Similar repos (same language)
AI Agent 中文學習地圖 — 從零開始的結構化學習路徑,每階段有必做練習跟必修閱讀。三語對照(繁中/简中/English)。歡迎社群一起貢獻、優化內容。
lonr-6/cc-desktop-switchLightweight desktop tool for configuring DeepSeek, Kimi, Zhipu GLM and Bailian providers in Claude Desktop.
TomSolid/myPKAMy whole life. One folder. No vendor. myPKA is a Personal Knowledge Architecture with a 4-person AI team baked in. Plain markdown files on your machine. ICOR® methodology. Works in Claude Code, Codex, Gemini, Cursor, Obsidian.
linora-u/AgentLoomSimple, flexible workflow orchestration for multi-agent AI apps, with YAML configuration, runtime safety, observability, and resume support.
oodadoudou/TransoriaAI desktop toolkit for novel translation, glossary management, and batch text replacement.
hieuchaydi/MemoryFeedLocal-first social memory search engine with browser capture, hybrid AI retrieval, and optional C++ acceleration.
alias8818/enoch-agentic-research-systemAgentic research control plane with local proof, provenance packaging, and explicit audit-status reporting.
helderpgoncalves/feedbotTurn community chat into a structured product backlog — Telegram + dashboard + MCP for Claude Code.