SUMMARY AI summary by gpt-5-mini
このリポジトリは、NeetCode ML コースの学習成果として作者(Stefano)がゼロから実装した GPT 系モデル一式のコード集です。問題は勾配降下や活性化関数といった基礎から始まり、バックプロパゲーションでのニューラルネットワーク実装、PyTorch の基礎、トークナイザや埋め込み、自己注意・トランスフォーマー構成を経て最終的に動作する GPT とテキスト生成器へと段階的に構築されています。 主な構成は model/(attention、multi-head、transformer、gpt、各種正規化、埋め込み、KVキャッシュなど)、data/(BPE トークナイザ、語彙、データローダ、前処理)、foundations/(neuron、backprop、MLP、活性化、損失、学習ループ等の素朴な実装)、および train.py/generate.py といった実行用スクリプトです。学習目的で内部挙動を理解したい学習者や教育者、トランスフォーマーを基礎から実装して動かしたい開発者に向いています。README にある通り、requirements を入れて train.py/generate.py で動作確認できます。
Language breakdown (by bytes)
Owner
SWE @Uber | ex-Amazon
Dates
| Created on GitHub | 2026-05-08 |
| Last push | 2026-05-09 |
| First seen here | 2026-05-09 |
| Last fetched | 2026-05-09 18:15 |
Similar repos (same language)
AI Agent 中文學習地圖 — 從零開始的結構化學習路徑,每階段有必做練習跟必修閱讀。三語對照(繁中/简中/English)。歡迎社群一起貢獻、優化內容。
lonr-6/cc-desktop-switchLightweight desktop tool for configuring DeepSeek, Kimi, Zhipu GLM and Bailian providers in Claude Desktop.
TomSolid/myPKAMy whole life. One folder. No vendor. myPKA is a Personal Knowledge Architecture with a 4-person AI team baked in. Plain markdown files on your machine. ICOR® methodology. Works in Claude Code, Codex, Gemini, Cursor, Obsidian.
linora-u/AgentLoomSimple, flexible workflow orchestration for multi-agent AI apps, with YAML configuration, runtime safety, observability, and resume support.
oodadoudou/TransoriaAI desktop toolkit for novel translation, glossary management, and batch text replacement.
hieuchaydi/MemoryFeedLocal-first social memory search engine with browser capture, hybrid AI retrieval, and optional C++ acceleration.
alias8818/enoch-agentic-research-systemAgentic research control plane with local proof, provenance packaging, and explicit audit-status reporting.
helderpgoncalves/feedbotTurn community chat into a structured product backlog — Telegram + dashboard + MCP for Claude Code.