Viele Kommunen möchten das Potenzial generativer KI nutzen, doch der Weg dorthin ist häufig mit Herausforderungen verbunden. Mit einer Chatplattform auf LLM-Basis unterstützt die regio iT öffentliche Verwaltungen und kommunale Unternehmen bei den richtigen Weichenstellungen.
Künstliche Intelligenz (KI) bietet enormes Potenzial für Kommunen – um Prozesse zu beschleunigen, Mitarbeitende zu entlasten oder die Kommunikation mit Bürger*innen zu verbessern. Doch der Einsatz kommerzieller Lösungen wie ChatGPT ist oft mit Hürden verbunden: Datenschutzauflagen, fehlende Kontrolle über Datenflüsse und unpassende Abrechnungsmodalitäten stehen einer produktiven Nutzung im Weg.
Wie können Kommunen das Potenzial großer Sprachmodelle (LLMs) dennoch nutzen, ohne Kompromisse bei Datenschutz, Datensouveränität und Betriebssicherheit einzugehen? Die regio iT hat eine Lösung entwickelt: eine im eigenen Rechenzentrum gehostete LLM-Chatplattform, die es Verwaltungen ermöglicht, generative KI sicher, effizient und praxisnah im Arbeitsalltag zu integrieren.
Die Plattform im Überblick: Lokal betrieben, kommunal gedacht
Die Chatplattform basiert auf Open-Source-Technologie und wird vollständig von der regio iT in einem Kubernetes-Cluster betrieben – unter Berücksichtigung aller datenschutzrechtlichen Vorgaben. Ein integrierter Filter erkennt und entfernt personenbezogene Daten, bevor diese an die KI-Modelle weitergegeben werden. „Wir haben einen geschützten Raum geschaffen, in dem Verwaltungen generative KI sicher, effizient und praxisnah testen und in ihre Prozesse integrieren können“, sagt Yasmeen Babar, Centerleiterin Nachhaltigkeit & Mobilität bei der regio iT.
Zum Einstieg stehen leistungsfähige GPT-Modelle bereit, die innerhalb der Europäischen Union gehostet werden. Bereits in dieser ersten Phase können Kommunen produktiv arbeiten:
- Eigene Wissensdatenbanken anlegen und mit Fachinformationen befüllen
- Dokumente hochladen und für kontextbasierte Antworten nutzen
- Prompts für wiederkehrende Aufgaben entwickeln und gemeinsam nutzen
- erste Fachanwendungen oder Datenquellen über Schnittstellen anbinden
- Gemeinsam KI-Agenten definieren, die einfache Routineaufgaben automatisiert übernehmen
In der nächsten Ausbaustufe wird die regio iT den Zugang zu weiteren offenen Sprachmodellen, die vollständig in Deutschland gehostet werden, für Kommunen ermöglichen. Auch die Integration neuer Werkzeuge, zusätzlicher Datenquellen oder die Entwicklung fachspezifischer KI-Agenten wird flexibel möglich sein.
Mit Beratung zur eigenen KI-Strategie
Viele Kommunen sind sich im Unklaren darüber, wann der Einsatz von KI sinnvoll ist und wie er sich rechtssicher und zukunftsfähig gestalten lässt. Die regio iT begleitet Sie auf dem Weg zur eigenen KI-Strategie – mit einem modularen Beratungsangebot, das auf kommunale Strukturen und Bedarfe zugeschnitten ist.
- Strategieberatung: Gemeinsam entwickeln wir eine realistische und anschlussfähige KI-Strategie – abgestimmt auf Ihre Organisation, Ziele und Ressourcen. Wir identifizieren konkrete Anwendungsfälle, in denen KI echten Mehrwert bietet – von der Textverarbeitung bis zur automatisierten Recherche.
- Technologieberatung: Wir unterstützen bei der Auswahl geeigneter Tools – von der LLM-Chatplattform bis zu spezialisierten KI-Lösungen für kommunale Aufgabenbereiche.
- Schulung: Wir bieten praxisnahe Qualifizierungsangebote für Mitarbeitende aller Ebenen – mit Fokus auf Datenschutz, Nutzbarkeit und interner Akzeptanz.
- Integration: Bei der technischen Einbindung der KI-Systeme in Ihre bestehende IT-Landschaft unterstützen wir umfassend – von der AD-Anbindung über den sicheren Betrieb im Rechenzentrum bis zur Anbindung kommunaler Fachanwendungen.
Sie möchten generative KI sicher und praxisnah in Ihrer Verwaltung einsetzen?
Kontaktieren Sie uns gern unter vertrieb@regioit.de!
Ansprechpartnerin
Foto: Andrea Kuchenbuch
Yasmeen Babar
Centerleiterin
Nachhaltigkeit und Mobilität