Das KI-Kompendium
Alles, was Sie über KI im Unternehmenseinsatz wissen müssen. Lösungen. Infrastruktur. Fachwissen. Praxis.
Nachschlagewerk zur Einordnung — Hardwarebedarf vor der Investition
Das Wichtigste auf einen Blick
- Geeignet für
- Geschäftsführer und IT-Verantwortliche, die KI-Angebote bewerten müssen, bevor sie Hardware oder Lizenzen kaufen
- Ausgangssituation
- KI-Angebote lassen sich nicht vergleichen, solange Begriffe wie RAG, Inferenz und VRAM ungeklärt sind
- Wir übernehmen
- Nach der Einordnung Aufbau und Betrieb der Plattform: GPU-Server, Modelle, RAG-Pipeline, Monitoring und Updates
- Ihr Ergebnis
- Eine begründete Entscheidung statt eines Kaufs auf Verdacht — auch dann, wenn die Antwort „noch nicht“ lautet
- Preisrahmen
- Nach Aufwand, Rahmen im Erstgespräch; der Hardwarebedarf reicht von 24 GB bis 80 GB VRAM je Modellgröße
- Reaktionszeit
- Antwort auf Ihre Anfrage in der Regel innerhalb eines Werktags; Betrieb der Plattform 24/7 möglich
- Dauer
- 30 Minuten Erstgespräch zur Einordnung, danach Machbarkeit und Dimensionierung
- Erster Schritt
- Gespräch über Anwendungsfall, Nutzerzahl und die Grundsatzfrage Cloud oder eigenes Haus
KI-Themen im Überblick.
KI Workplace
Die On-Premise-Plattform für den Mittelstand: Unternehmenswissen per Sprache durchsuchen, Dokumente auswerten, Prozesse automatisieren.
KI On-Premise Infrastruktur
GPU-Server, Hardware-Planung und Betriebsmodelle für eigene KI-Infrastruktur — von der Einzelkarte bis zum Multi-GPU-Knoten.
Large Language Models
Offene Modelle für den Unternehmenseinsatz — austauschbar, nachvollziehbar, ohne Bindung an einen Anbieter.
RAG & Wissensmanagement
Semantische Suche statt Stichwortsuche: Ihre eigenen Dokumente werden zur Antwortquelle, mit Beleg statt Behauptung.
GPU-Infrastruktur
Von einzelnen Karten bis zum Multi-Node-Cluster — dimensioniert nach Modellgröße, nicht nach Katalog.
Automatisierung
KI-gestützte Abläufe für den Alltag: Tickets vorsortieren, Belege prüfen, Standardfälle schließen.
DSGVO & Compliance
KI datenschutzkonform betreiben: kein Drittlandtransfer, protokollierte Zugriffe, prüfbare Ablage.
Individuelle KI-Entwicklung
Code-Generierung, API-Wrapper und Anbindung an bestehende Fachsoftware — auch für Altsysteme.
Wissenslandkarte — die Begriffe, die in jedem KI-Angebot auftauchen
Sechs Felder, in denen die Fachbegriffe fallen. Wer sie einmal einordnen kann, liest jedes KI-Angebot anders — die ausführlichen Erklärungen stehen im Glossar.
Weiterlesen, wenn es konkret wird.
KI On-Premise: DSGVO-konforme Lösungen
KI im eigenen Rechenzentrum — volle Datenkontrolle, keine Cloud-Abhängigkeit.Veraltete Software wieder wettbewerbsfähig machen
VB.NET- und C#-Altsysteme über KI-gestützte Entwicklung und APIs modernisieren statt neu bauen.Mac Studio Cluster: große Modelle lokal betreiben
Kimi K2, DeepSeek und andere auf Apple Silicon — bis zu 512 GB Unified Memory je Knoten.MoltBot & OpenClaw über ki.gateway
Modelle per One-Click ausrollen: einheitliche API, Kostencontrolling, DSGVO-konform.ki-spezial.systems
Spezialisiertes KI-Hosting mit GPU-Servern für Machine-Learning-Lasten.Lernpfad — fünf Stationen von der Begriffsklärung bis zum laufenden Betrieb
Begriffe klären
LLM, RAG, Embedding, Inferenz — ohne diese vier ist kein Angebot lesbar.
Station 2Grundsatzfrage
Cloud oder eigenes Haus? Was die DSGVO verlangt und ab wann sich der eigene Betrieb rechnet.
Station 3Anwendungsfall
Unternehmenswissen durchsuchbar machen: Oberfläche, RAG-Pipeline, Automatisierung.
Station 4Unterbau
GPU-Server, Modellgröße und VRAM — was die Hardware für den Anwendungsfall können muss.
Station 5Betrieb
Wer aktualisiert Modelle, überwacht die GPU-Last und führt das Protokoll?
Die Reihenfolge ist keine Pflicht, aber sie erspart Umwege. Wer bei Station 4 anfängt, kauft Hardware für einen Anwendungsfall, den noch niemand beschrieben hat.
KI braucht eine solide Basis.
Hardware & GPU
Enterprise-Server und GPU-Hardware für KI-Workloads. NVIDIA-zertifiziert.
Virtualisierung
Proxmox VE mit vGPU-Support für KI-Container und GPU-Sharing.
Managed IT
KI-Plattform als Teil Ihres Managed IT. Betrieb, Wartung, Support.
Cyber Security
Absicherung der KI-Infrastruktur. Netzwerkisolation, Zugriffskontrolle.
Backup & DR
Sicherung der KI-Modelle, Vektordatenbanken und Konfigurationen.
Monitoring
GPU-Auslastung, Modell-Performance und Systemgesundheit.
FAQ — KI-Kompendium
/01Lohnt sich KI für den deutschen Mittelstand überhaupt?+
Ja, wenn konkrete Anwendungsfälle mit messbarem Nutzen im Fokus stehen. Typische Mittelstandsszenarien: Dokumentenanalyse, Angebotserstellung, E-Mail-Klassifikation, technischer Support, Wissensmanagement und Qualitätssicherung. Pilotprojekte amortisieren sich oft innerhalb von 6 bis 12 Monaten, wenn die Prozesse klar abgegrenzt sind. Wichtig ist, nicht mit der Technik, sondern mit dem Geschäftsproblem zu starten. Wir begleiten Auswahl, Proof of Concept und Rollout.
/02On-Premise KI oder Cloud-KI — was ist besser?+
Die Antwort hängt von Datenschutz, Latenz und Auslastung ab. On-Premise (eigene GPU-Server oder unser Rechenzentrum) bietet volle Datenhoheit, planbare Kosten und keine Abhängigkeit von US-Anbietern. Cloud-KI (OpenAI, Azure AI) skaliert flexibel, bringt aber Datenschutzfragen und laufende Nutzungsgebühren. Für sensible Bereiche (Gesundheit, Recht, KRITIS) empfehlen wir On-Premise mit Open-Source-Modellen, für breite Bürotools oft die Cloud.
/03Ist ChatGPT oder Copilot im Unternehmen DSGVO-konform?+
Mit Enterprise-Verträgen, Azure OpenAI in EU-Regionen und abgeschlossenem AVV grundsätzlich ja. Wichtig: Eingaben dürfen nicht ins Modelltraining fließen, Protokolle müssen geschützt sein, und Mitarbeiter brauchen klare Richtlinien, welche Daten eingegeben werden dürfen. Personenbezogene oder kritische Geschäftsdaten gehören bevorzugt in ein on-premise betriebenes Modell. Wir unterstützen bei Richtlinien, Schulungen und technischer Absicherung des Zugriffs.
/04Welche Open-Source-Modelle (Llama, Mistral) eignen sich für den Eigenbetrieb?+
Für die meisten Fachaufgaben reichen Modelle zwischen 7 und 70 Milliarden Parametern. Llama 3.1 (8B/70B) eignet sich für Chat, Zusammenfassungen und Retrieval-Augmented Generation. Mistral und Mixtral liefern starke Ergebnisse bei deutschen Texten und Code. Für Spezialdomänen empfehlen sich feinjustierte Modelle oder RAG mit eigenem Wissen. Quantisierung (4-Bit) senkt den Hardwarebedarf deutlich, ohne Qualität massiv zu verlieren.
/05Welche Hardware brauche ich für eigene KI-Modelle?+
Für 7B-Modelle reicht eine NVIDIA RTX 4090 oder L4 mit 24 GB VRAM. 70B-Modelle benötigen mindestens eine H100 mit 80 GB oder eine Multi-GPU-Konfiguration. RAM sollte dem Modell entsprechen, schneller NVMe-Storage beschleunigt Ladezeiten. Für Produktion empfehlen wir redundante Server mit USV und ECC-RAM. Wer nicht selbst investieren will, mietet GPUs monatlich in unserem Rechenzentrum inklusive Strom, Kühlung und 24/7-Betreuung.
Bereit, KI in Ihrem Unternehmen einzusetzen?
Kein Verkaufsgespräch, sondern eine Einordnung: welcher der sechs Bereiche oben Ihr Thema ist, was er an Hardware und Betrieb voraussetzt und ob sich der Aufwand für Ihre Nutzerzahl trägt. Wenn die Antwort „noch nicht“ lautet, sagen wir das auch.
KI-Beratung anfordern oder direkt anrufen unter 09571 873149.
Vom Nachschlagen zum Vorhaben.
Das Kompendium beantwortet, was möglich ist. Was in Ihrem Haus davon sinnvoll ist, hängt an Ihren Daten und Ihrer Hardware — das klären wir im Gespräch. Ausführlich beschrieben ist das unter KI On-Premise.
Betrieb in deutschen Rechenzentren