Die GWDG bietet seit Februar einen eigenen ChatGPT-Dienst an, der auf einer hauseigenen Hardware läuft. Damit können alle Nutzenden mit einem AcademicCloud-Account mit einer generativen KI chatten und sich bei ihrer Arbeit unterstützen lassen. Der Service basiert zurzeit auf Intel’s NeuralChat-7b v3.1 und wird über die HPC-Infrastruktur der GWDG ausgeführt. Durch ein selbstentwickeltes System passt sich der Webdienst dynamisch an verschiedene Anfragevolumen an, um möglichst viele Anfragen gleichzeitig schnell zu bearbeiten. Besondere Sorgfalt lag bei der Konzipierung auf dem Datenschutz: Eingaben und Antworten werden nur lokal bei den Nutzenden innerhalb einer Sitzung gespeichert. Beim Schließen der Webseite werden alle Eingaben und Antworten gelöscht. Einzig die Anzahl der Anfragen pro Nutzer:in wird für Bedarfsauswertungen erfasst. Der Service wird aktiv weiterentwickelt, sodass in Zukunft komplexere Modelle angeboten und Integrationen mit anderen Plattformen ermöglicht werden können. Weitere Informationen: info.gwdg.de/news/der-gwdg-llm-service-generative-ki-fuer-die-wissenschaft/ .