Allgemeines

Wir hosten generative KI Modelle für Lehre, Forschung und Transfer.

Für die Dauer des Projekts HI-Lübeck (Innovative Hochschule) hosten wir diese Modelle als Teil der Campus-Plattform für Transferzwecke ohne Zugangsbeschränkungen. Wir wollen damit Innovationen im Bereich der Digitaliserung und der Nutzung von Generativer KI auf dem Hanse-Innovation-Campus fördern.

Betriebsprinzipien:

1. Wir betreiben alle hier aufgeführten generativen KI-Modelle auf Servern auf dem Campus der TH-Lübeck.
2. Wir speichern die verarbeiteten Daten nicht und verwenden sie nicht für interne Zwecke.
3. Wir speichern generierte Daten nur für die Dauer der Verarbeitung einschließlich der in transaktionaler Kausalität anschließenden Verarbeitungsprozesse (z.B. Download eines generierten Bildes nach dessen Generierung).
4. Wir protokollieren nur Datenmengen (z.B. Anzahl der Requests, Anzahl der Token), aber keine Dateninhalte (z.B. verarbeiteter Text, der in ein Sprachmodell einfließt, oder generierter Text, der von einem Sprachmodell generiert wird).
5. Alle hier genannten KI-Modelle dürfen nicht für kommerzielle Dienstleistungen verwendet werden (sie dienen ausschließlich der explorativen Analyse potenzieller Anwendungsfälle und sonstiger betrieblicher Fragestellungen).

Wartungsfenster

NEU Jeweils am 2. Donnerstag eines Monats werden ab 20 Uhr die Systeme des myLab aktualisiert.
Auch die hier genannten Modelle können davon betroffen sein und sind daher ggf. in diesen Zeiträumen nicht erreichbar! {.is-warning}

Newsletter

In unserem Chatbot KIRA findet ihr das Anmeldeformular für den Newsletter:
chat.kira.th-luebeck.dev
Wir informieren euch dann per Mail, wenn wir an den gehosteten Modellen etwas ändern.

Large Language und Embedding Modelle

Wir hosten verschiedene Language Models. Für Details siehe LLM-Übersicht

Unser ChatBot KIRA läuft bspw. auf Llama3 70B.

Andere Modelle (Audio, Images)

Wir hosten auch andere Modelle, z.B. für Sprach- und Bildgenerierung. Für Details siehe Andere Modelle

openAI Client API (Beta)

Wir hosten ab sofort eine OpenAI Client kompatible API. Diese befindet sich noch in der Erprobung und es kann entsprechend zu Ausfällen kommen. Erreichbar ist diese unter models.mylab.th-luebeck.dev
Über die API sind alle unsere LLMs und auch weitere Modelle erreichbar.

Bei der Verwendung des openAI Clients z.B. in Python muss die base_url auf https://models.mylab.th-luebeck.dev/v1 gesetzt werden.

Eine Übersicht aller Modelle findet sich in der KI-Plattform Übersicht (Lädt ggf etwas langsam).

Alle nicht-LLM Modelle müssen derzeit als "Highly Experimental" betrachtet werden. Wir garantieren keine Verfügbarkeit oder Qualität.

Übersicht der verfügbaren Modelle

Die Verwendung der gelisteten Endpunkte kann der regulären openAI Dokumentation entnommen werden.