AI開発影響研究所 EN
← ランキング · AI関連リポジトリ

krackerjax/localai

OpenAI-compatible router that keeps as much work as possible on-prem

Python MIT GitHub ↗
★ 0
stars
65
AI関連スコア
50
個人開発度
1
AIツール痕跡

SUMMARY AI要約 by gpt-5-mini

localai is an on‑prem LLM router that chooses per request between three tiers: small-local (this box: GTX 1070, qwen2.5 7B via Ollama), big-lan (LAN RTX 5090 running Ollama, default qwen3-coder:30B, wake-on-demand), and cloud (Anthropic Claude). It’s aimed at developers/operators who want to maximize on‑prem handling and only use cloud for tasks that need it. Key features: OpenAI‑compatible API, heuristic routing (token length, code/math, PII, overrides like @5090/@claude), optional LLM-as-router fallback, escalation chain, per-request logging (route, latency, tokens, cloud cost), WoL + cold-start handling for LAN host, prompt caching hooks, Discord bot client, and evaluation harness (routing accuracy ~87%). Quick start uses Ollama locally and docker compose for the router/bot.

使用AIコーディングツール

このリポジトリには以下のAIコーディングツールの設定ファイルが置かれており、開発時にAIアシスタントが利用された痕跡があります。

Claude Code CLAUDE.md

DETECTED 検出されたAIスタック

このRepoのdescription / GitHub topics / READMEのAI要約に出現したAI関連キーワードをカテゴリ別に表示。各バッジは該当カテゴリの詳細ランキングへリンクします。

🧠 LLMプロバイダー (3)
Anthropic OpenAI Ollama
🤖 LLMモデル (3)
Claude Llama Qwen

使用言語(バイト数比)

Python
96.2%
Batchfile
1.3%
Dockerfile
1.3%
PowerShell
1.2%

オーナー情報

アカウント
krackerjax
タイプ
User
フォロワー
0

日付

GitHub作成日 2026-05-09
最終Push 2026-05-09
当サイト初検出 2026-05-09
最終取得 2026-05-09 18:12

類似Repo (同じ言語のAI関連Repo)

bgzhang1/sw2api

Reverse proxy for your ai quota from the SW platform.

Python 19 AI 45
dea6cat/2b-agent

This llm Agent was created based on necessity for one that could simply use local models without making them hallucinate and keep them focus

Python 1 AI 75
Zuboy/Carbon-Cost-Optimizer-Agentic-AI

An AI agent that decides where and when to run ML training jobs to minimize cost and carbon emissions, then launches them autonomously — exposed entirely through MCP tools.

Python 1 AI 75
FuchaZ/lm-studio-vision-bridge

给纯文本 AI agent 装上眼睛——通过 LM Studio 本地视觉模型提供 MCP 图片识别服务

Python 1 AI 45
Shrutirowlo/AI-Video-Agent

AI-powered video generation agent that automates script analysis, scene planning, and video creation.

Python 1 AI 75
Shivang0/social-vision

Paste an Instagram/TikTok/YouTube/X link and Claude watches it for you — transcribes audio, reads on-screen text & visuals, explains what it's about. Local, cross-platform Claude Code plugin.

Python 1 AI 70
markusbegerow/claude-fuer-oeffentliche-verwaltung

⚠️ Experimentelle Skill-Sammlung für Digitalisierung, Fachverfahren und Organisation der deutschen öffentlichen Verwaltung (OZG, FIM, FIT-Connect, KI-Einsatz, eIDAS, BSI-IT-Grundschutz, DSGVO) – bitte testen, Issues/PRs willkommen! Keine Rechts-/Datenschutzberatung, keine verbindliche Behördenentscheidung. Keine Bürger-/Mitarbeiterdaten im Repo.

Python 1 AI 75
knowledgegut/course-distiller

把有權使用的工作坊/課程回放消化成套品牌色的步驟式學習 PDF;最後的重組交還人腦。A Claude Code skill by 知識包小腸.

Python 1 AI 45