SUMMARY AI summary by gpt-5-mini
local-ai-serverは、ローカルで動くOllamaインスタンスを利用したステートフルなAIゲートウェイです。FastAPI・LangChain・async Pythonで実装され、開発者や運用者がローカルLLMに対して認証付き・会話履歴付きのAPIを提供する用途を想定しています。主な機能は以下の通りです。 - マルチモデル対応（リクエスト毎にモデル選択／デフォルト指定） - チャットセッション管理（PostgreSQLバックエンド、未設定時はメモリ） - JWTベースの認証と管理者用の許可リスト操作 - Ollamaのthinkパラメータに対応する「thinking/non-thinking」モード - 同時実行制御（セマフォによるキュー、最大同時数と待ち行列深さの設定） - トークン単位のSSEストリーミングと既存セッション用のストリーム - コンテキストのスライディングウィンドウによるトランケーション - 構造化ログ（キュー待ち時間、LLM遅延、モデル情報） Docker compose（NVIDIA/ROCm/CPU向け）での起動を推奨し、.envで細かい設定が可能。/auth、/admin、/chat（POST/GET/DELETE/stream）などのAPIエンドポイントと、Postman/Newmanのテストコレクションが付属します。
DETECTED Detected AI stack
AI-related keywords found in this repo's description, topics, or README summary — grouped by category. Each badge links to the corresponding ranking detail page.
Language breakdown (by bytes)
Owner
Fullstack developer with lots of discord bots projects. @Timmy1236 my programming bestie!! hi bestie!!
Dates
| Created on GitHub | 2026-05-09 |
| Last push | 2026-05-09 |
| First seen here | 2026-05-09 |
| Last fetched | 2026-05-09 18:12 |
Similar repos (same language)
AI Agent 中文學習地圖 — 從零開始的結構化學習路徑，每階段有必做練習跟必修閱讀。三語對照（繁中／简中／English）。歡迎社群一起貢獻、優化內容。
lonr-6/cc-desktop-switchLightweight desktop tool for configuring DeepSeek, Kimi, Zhipu GLM and Bailian providers in Claude Desktop.
TomSolid/myPKAMy whole life. One folder. No vendor. myPKA is a Personal Knowledge Architecture with a 4-person AI team baked in. Plain markdown files on your machine. ICOR® methodology. Works in Claude Code, Codex, Gemini, Cursor, Obsidian.
linora-u/AgentLoomSimple, flexible workflow orchestration for multi-agent AI apps, with YAML configuration, runtime safety, observability, and resume support.
oodadoudou/TransoriaAI desktop toolkit for novel translation, glossary management, and batch text replacement.
hieuchaydi/MemoryFeedLocal-first social memory search engine with browser capture, hybrid AI retrieval, and optional C++ acceleration.
alias8818/enoch-agentic-research-systemAgentic research control plane with local proof, provenance packaging, and explicit audit-status reporting.
helderpgoncalves/feedbotTurn community chat into a structured product backlog — Telegram + dashboard + MCP for Claude Code.