Inferenz NRW
Hochschulsouverän. Gemeinsam berechnet.
Inferenz NRW
Informationen über das Vorhaben
Bei Inferenz NRW handelt es sich um ein gemeinsames Vorhaben der Ruhr-Universität Bochum, RWTH Aachen sowie Universität zu Köln, erarbeitet durch das Projekt Open Source-KI.nrw und das KI-Servicezentrum WestAI.
Ab April 2026 werden im Rahmen eines 'best-effort'-Ansatzes erste Open-Weight Sprachmodelle auf hochschuleigener Infrastruktur an den High-Performance-Computing-Zentren Aachen und Köln betrieben. Hierbei werden eingehende Anfragen auf die Standorte verteilt, um Durchsatz und Resilienz zu sichern. Das Angebot richtet sich an alle Hochschulen in Nordrhein-Westfalen (NRW) und ist für alle Einrichtungen kostenfrei nutzbar, die KI:connect bereits einsetzen oder die Einführung von KI:connect vorbereiten.
Zugang
Voraussetzungen und Ablauf
Um das Angebot von Inferenz NRW an der eigenen Hochschule zu nutzen, muss ein KI:connect-Tenant eingerichtet sein. Die notwendingen Informationen hierzu finden sich auf dieser Website. Ist der KI:connect-Tenant erfolgreich eingerichtet, findet sich unter den Providern automatisch 'Inferenz NRW'. Dieser kann nun für die Einrichtung der angebotenen Modelle verwendet werden.
Eine Übersicht über die aktuell zur Verfügung stehenden Modelle findet sich weiter unten.
Modelle
Die Auswahl auf einen Blick
Folgende Tabelle enthält Informationen über die derzeit via KI:connect nutzbaren Modelle aus unserem Angebot. Standard-Parameter werden durch KI:connect automatisch gesetzt.
Letztes Aktualisierungsdatum: 01.04.2026
| Model-Name | Organisation | Deployment-Name | Standorte | Einsatzbereich |
|---|---|---|---|---|
| Mistral Small 4 119B 2603 | Mistral AI | mistralai-mistral-small-4-119b-2603 | Aachen, Köln | Allgemeinwissen, Übersetzen, Zusammenfassen, Programmieren, Anweisungsbefolgung, Tool Calling, Bilderkennung, Reasoning |
| GPT OSS 120B | OpenAI | openai-gpt-oss-120b | Aachen, Köln | Allgemeinwissen, Übersetzen, Zusammenfassen, Tool Calling, Reasoning |
| Qwen3 Embedding 8B | Alibaba Cloud | qwen-qwen3-embedding-8b | Aachen | Embeddings |
| E5 Mistral 7B Instruct | intfloat | e5-mistral-7b-instruct | Köln | Embeddings |
Folgende Modelle werden zeitnah nicht mehr zur Verfügung stehen:
| Model Name | Abschaltung am |
|---|