Privater Offline-KI-Chat auf Android mit GGUF-Modellen und llama.cpp
KI & LLM · Android
Ollama Router Pro
KI-Router und LLM-Gateway, bei dem die API-Schlüssel auf dem Smartphone bleiben
Über die App
Ollama Router Pro ist KI-Chat und LLM-Gateway in einer App. Jeder Prompt wird automatisch einer schnellen, einer ausgewogenen oder einer Reasoning-Stufe zugeordnet: Kurze Fragen gehen an schnelle Modelle, schwierige Aufgaben wie Debugging oder Planung an Reasoning-Modelle. Fällt ein Anbieter aus, übernimmt automatisch ein anderer.
Dieselbe App startet auf dem Smartphone einen OpenAI-kompatiblen Server, den Coding-Werkzeuge wie Cursor, Claude Code, Windsurf, Cline oder Continue per WLAN oder USB-ADB nutzen können. API-Schlüssel liegen in einem lokalen Tresor auf Basis des Android Keystore mit AES-256-GCM, Prompts gehen direkt vom Gerät zum Anbieter. Über MCP-Tools kann das Modell im Chat im Web suchen und Aktionen ausführen, eine Statistik zeigt Anfragen, Latenz und Routing.
Funktionen
- Automatisches Routing auf schnelle, ausgewogene und Reasoning-Modelle
- Lokaler Schlüsseltresor mit Android Keystore und AES-256-GCM
- OpenAI-kompatibler Server auf dem Gerät für IDEs und Coding-Agenten
- MCP-Tools für Websuche und Aktionen im Chat
- Schrittweise Anzeige des Modell-Reasonings
- Statistik zu Anfragen, Latenz und Routing
Für wen
- Entwicklerinnen und Entwickler, die KI-Coding-Agenten mit mehreren Anbietern nutzen
- Alle, die API-Schlüssel nicht bei einem fremden Gateway hinterlegen wollen
- Nutzer, die eine Chat-App für viele Modelle suchen
Fragen zur App
Wo werden meine API-Schlüssel gespeichert?
Nur auf Ihrem Gerät, verschlüsselt in einem Tresor auf Basis des Android Keystore (AES-256-GCM). Sie werden nicht auf einen Server hochgeladen.
Kann ich die App mit meiner IDE verwenden?
Ja. Die App startet auf dem Smartphone einen OpenAI-kompatiblen Server, erreichbar per WLAN oder USB-ADB. Werkzeuge wie Cursor, Claude Code, Cline oder Continue tragen ihn als Basis-URL ein.
Weitere Apps
Lokale Sprachmodelle auf Android und eine OpenAI-kompatible API im eigenen WLAN
Ladealarm bei 80, 85, 90 oder 100 Prozent, dazu Akkutemperatur und Ladezyklen
App-Entwicklung
Sie planen eine eigene App?
Ich entwickle Android-Apps von der ersten Idee bis zur Veröffentlichung bei Google Play. Beschreiben Sie kurz, was Ihre App können soll.