Das Projekt

Ermöglicht KI-Anwendungen. Ohne Bias.

Koffer

Vorbereitung

NRW-Landesstrategie für Zugänge zu generativer KI an NRW-Hochschulen

Open Source-KI.nrw ist Teil der NRW-Landesstragie für Zugänge zu generativer KI an Hochschulen. Gemeinsam pilotieren die Ruhr-Universität Bochum und die Universität zu Köln ein Konzept zur Bereitstellung von Open Source-Sprachmodellen. Im Vergleich zu kommerziellen KI-Angeboten und Modellen, wie beispielsweise ChatGPT von OpenAI, bietet der Einsatz offener Sprachmodelle weitere Möglichkeiten. Diese können für bestimmte Bedarfe angepasst, ausgewertet, erforscht und auf lokaler Hardware betrieben werden.

Gemeinsam sind wir stark: wir kooperieren in unserem Vorhaben mit Stakeholder:innen weiterer Hochschulen sowie hochschulübergreifenden Projekten und Institutionen.

Startende Rakete

Start

Aufbau einer lokalen KI-Infrastruktur

Wir starten unser Projekt mit dem Aufbau einer lokalen KI-Infrastruktur im High-Performance-Computing (HPC) Cluster der Universität zu Köln. Dabei fokussieren wir uns zunächst auf die performante wie ressourcenschonende Bereitstellung von offenen Large-Language-Models (LLM).

So können wir garantieren, dass die Datensouveränität stets bei uns bleibt und wir maximale Kontrolle über unsere KI-Systeme haben. Darüber hinaus fördern wir gezielt die Entwicklung und den Einsatz offener Software.

Globus

(Test-)Flug

Ausrollen eines RAG-Chatbots für Moodle & ILIAS

Im Lehr-/Lernkontext von Hochschulen sind Faktentreue und Datenschutz von oberster Priorität. Mit der Technik der sogenannten Retrieval-Augmented-Generation (RAG) entwickeln wir an der Ruhr-Universität Bochum einen faktentreuen Chatbot, welcher auf eigene Wissensbestände (z. B. Dokumentsammlungen) zurückgreifen kann. Dieser wird über eine Anbindung an die Learning-Management-Systeme (LMS) Moodle & ILIAS für interessierte Hochschulen zum Testen bereitgestellt.

Damit bringen wir offene generative KI in die Hochschulen in NRW.

Landende Rakete

Landung

Evaluation

Ist ein RAG-Chatbot eine didaktische wertvolle Anwendung? Lohnt sich, aus unterschiedlichen Perspektiven, eine lokale Bereitstellung von generativer KI? Und welche weiteren Anwendungsszenarien für generative KI zeichnen sich im Hochschulkontext ab?

Durch kontinuierliche Evaluation, transparente Kommunikation der Projektergebnisse und den gemeinsamen Kompetenzaufbau sind wir bereit für die Herausforderungen, welche durch generative KI auf uns zukommen.

Langfristige Ziele

KI entwickelt sich weiter. Wir auch.

Fernglas

Ausblick

Zum Dauerbetrieb und darüber hinaus

Zeigt sich ein weiter wachsender Bedarf an Anwendungen von generativer KI, der zugleich durch eine lokale Bereitstellung generativer KI bedient werden kann, möchten wir natürlich weitermachen. Durch Ausbau unserer Infrastruktur können weitere Modalitäten bedient, neue Ideen ermöglicht werden.

Angestrebt ist ein Dauerbetrieb der KI-Infrastruktur für die Hochschulen in NRW.

Sprechblase

Dialog

Generative KI als partizipative Technologie

Nicht nur über generative KI sprechen, sondern an generativer KI und ihren Einsatzmöglichkeiten teilhaben - das geht nur mit kompetenten Anlaufstellen, die mit genügend Ressourcen ausgestattet sind. Ein nachhaltiger Kompetenzaufbau in NRW bietet den Hochschulen Zukunfstperspektiven.

Wir teilen jederzeit unser Wissen und positionieren uns als Anlaufstelle für konkrete Umsetzungsideen.

Du möchtest wissen, wie wir diese Seite erstellt haben? 👀Besuche uns auf GitHub!
© 2024 Open Source-KI.nrw
Ein Projekt derRuhr-Universität BochumUniversität zu Köln
Gefördert durch dasMinisterium für Kultur und Wissenschaft des Landes Nordrhein-Westfalen