Eine leistungsfähige und sichere KI-Plattform für die deutsche Industrie

Keyvisual image main
Gemeinsam wollen sie KI in den deutschen Mittelstand bringen (v.l.n.r): Kai Kölsch (Gründer und CEO, Seedbox Ventures), Dennis Dickmann (Gründer und CTO, Seedbox Ventures), Dennis Hoppe (Leiter, Converged Computing, HLRS), Bastian Koller (Geschäftsführer, HLRS)

In einer neuen Zusammenarbeit mit dem KI-Startup Seedbox Ventures wird das HLRS Lösungen entwickeln, die die Möglichkeiten der generativen künstlichen Intelligenz für kleine und mittlere Unternehmen zugänglich machen.

Das Höchstleistungsrechenzentrum der Universität Stuttgart (HLRS) und das Stuttgarter Startup-Unternehmen für künstliche Intelligenz, Seedbox Ventures GmbH, haben auf Basis ihrer Zusammenarbeit eine langfristige Kooperationsvereinbarung unterzeichnet. Neben der Erstellung von großen Sprachmodellen und der Erforschung effizienter und skalierbarer Trainingsalgorithmen und -infrastrukturen plant die Kooperation den Aufbau eines Angebots, das die Bereitstellung, die Nutzung und das erforderliche Qualitätsmanagement maßgeschneiderter KI-Modelle in Deutschland sicher und kosteneffizient ermöglichen wird.

Seedbox wird als KI-Beratungs- und Entwicklungsunternehmen die Supercomputing Systeme des HLRS dazu nutzen, innovative KI-Lösungen für deutsche Unternehmen zu entwickeln. Darüber hinaus werden Seedbox und das HLRS ein gemeinsames Angebot für KI-Anwendungen planen, das vor allem Unternehmen dabei unterstützen soll, die vorhandenen Supercomputing-Infrastrukturen des Landes Baden-Württemberg effektiv und leicht zugänglich zu nutzen. Die Zusammenarbeit stellt einen wichtigen Schritt in Richtung einer strategischen Ausrichtung und Operationalisierung von KI in Europa dar und hat das Potenzial, maßgeblich zum Wachstum eines wettbewerbsfähigen und innovativen europäischen KI-Ökosystems beizutragen.

Zusätzlich wird Seedbox mithilfe von Hawk und den künftigen Rechensystemen des HLRS spezifische leistungsstarke, multilinguale Sprachmodelle unterschiedlichster Größe trainieren und anschließend der KI-Community auf Open-Source-Basis zur Verfügung stellen. Die daraus gewonnenen Erkenntnisse sollen auch Aufschluss darüber geben, wie sich domänenspezifische KI-Modelle kosten- und energieeffizient auf lokalen HPC-Umgebungen aufsetzen, betreiben und skalieren lassen.

„In vielen Unternehmen ist künstliche Intelligenz schon heute ein Synonym für ‚Innovation‘ geworden", sagt Kai Kölsch, Gründer und Geschäftsführer von Seedbox. „Durch den Einsatz von generativer KI sind wir inzwischen in der Lage, deutliche Effizienzen im Kerngeschäft zu heben und zusätzliche, nachhaltige Einnahmequellen durch die Entwicklung neuer Geschäftsmodelle zu erschließen. Mithilfe des HLRS und mit dem Zugang zu dessen Supercomputing-Infrastruktur werden wir Unternehmen in ganz Deutschland dabei unterstützen, ihre Innovationsvorhaben effizient und sicher auf das nächste Level zu bringen.“

Neue Möglichkeiten für die Industrie mithilfe von generativer KI

Die generative künstliche Intelligenz ist seit dem Aufkommen von großen Sprachmodellen (Large Language Models, LLMs) wie ChatGPT geradezu explodiert. In der Industrie lassen sich LLMs, beispielsweise zur Erstellung von Co-Piloten und Chatbots, zur Dokumentenverarbeitung und -verwaltung, zur Analyse komplexer Datenquellen oder zur Erstellung redaktioneller Inhalte verwenden. Solche Werkzeuge könnten auch den Zeitaufwand bei strukturierten, datengetriebenen oder repetitiven Aufgaben deutlich reduzieren und gerade in Zeiten von Fachkräftemangel, immense Effizienzgewinne realisieren. Noch relevanter wird die Integration von KI beim Einsatz in bestehende und neue Systeme, wie beispielsweise CRM- oder ERP-Schnittstellen, Wissensdatenbanken oder als integraler Baustein neuer, innovativer Softwarelösungen.

Im deutschen Mittelstand wächst das Interesse für generative KI rasant, doch in der Umsetzung wird schon bald mehr Tempo verlangt sein. Hierbei werden Lösungen benötigt, die Herausforderungen wie Datensicherheit, Datenhoheit, Performance und Kosteneffizienz zuverlässig angehen. Hinzu kommt, dass die am weitesten verbreiteten LLMs mit englischsprachigen Texten trainiert und von Nicht-EU Unternehmen betrieben werden. Die Nutzung lokaler Infrastruktur und somit sichere Verarbeitung kritischer Unternehmensdaten ist daher unternehmerisch und strategisch unabdingbar.

Die Zusammenarbeit zwischen Seedbox und dem HLRS zielt unter anderem darauf ab, diese Herausforderungen zu lösen und das volle Potenzial von großen Sprachmodellen für die deutsche Industrie auszuschöpfen. Dennis Hoppe, Leiter der HLRS-Abteilung für Converged Computing, begrüßt die Partnerschaft mit Seedbox: „In den vergangenen Jahren hat das HLRS seine Möglichkeiten zur Unterstützung von maschinellem Lernen und künstlicher Intelligenz stetig ausgebaut. Wir freuen uns darauf, gemeinsam mit Seedbox wertvolle Erfahrungen mit LLMs und generativer KI zu sammeln, zumal die Partnerschaft neben der gemeinsamen Forschung auch zum Auftrag des HLRS beiträgt, die deutsche Industrie nachhaltig zu stärken.“

Eine Recheninfrastruktur von Weltklasse für den deutschen Mittelstand

Trainingsalgorithmen für maschinelles Lernen benötigen überdurchschnittliche Rechenleistung. Die Zusammenarbeit zwischen Seedbox und dem HLRS stützt sich auf die massive Rechenkapazität des Supercomputers Hawk, eines der leistungsfähigsten Systeme für Höchstleistungsrechnen in Europa. Das System wurde von Hewlett Packard Enterprise (HPE) entwickelt und bietet eine Spitzenleistung von etwa 26 petaFLOPS (26 Billiarden Berechnungen pro Sekunde). Mit 192 NVIDIA A100 Tensor Core GPUs, die über NVIDIA Quantum InfiniBand-Netzwerke miteinander verbunden sind, bietet er außerdem eine KI-Leistung von etwa 120 petaFLOPS. Damit ist Hawk für Deep-Learning-Anwendungen optimal geeignet. Mit dem Supercomputer der nächsten Generation des HLRS – namens Hunter – wird die KI-Kapazität des Zentrums ab dem ersten Halbjahr 2025 nochmals weiter steigen.

Diese Kooperationsvereinbarung ist das erste Mal, dass das HLRS eine Partnerschaft mit einem KI-Startup eingeht. Laut Dr. Bastian Koller, Geschäftsführer des HLRS, ist die Zusammenarbeit ein wichtiger Schritt in der Strategie des Höchstleistungsrechenzentrums: „Mit Seedbox als strategischem Partner können wir nicht nur schon jetzt zeigen, was mit unserem aktuellen System möglich ist, sondern auch, was mit unseren zukünftigen Systemen Hunter und Herder möglich sein wird. Auf diese Weise verlieren wir keine Zeit im Rennen um die bestmögliche Nutzung von KI für Wissenschaft und Industrie.“

Skalierbar, sicher, lokal und maximal kosteneffizient

Die Zusammenarbeit bietet viele Vorteile für die deutsche Industrie und wird dazu beitragen, die digitale Souveränität des Landes zu verbessern. Unternehmen werden von Software profitieren, die auf der modernsten und leistungsfähigsten Hardware läuft, ohne dass sie in den Aufbau und Betrieb eigener großer Rechenzentren investieren müssen. Bei der Entwicklung und Nutzung von KI-Anwendungen, die auf geschützten oder persönlichen Daten basieren, stellt das Hosting von Daten in einem lokalen, sicheren Rechenzentrum auch ein deutlich geringeres Risiko dar als das Hochladen von Daten in die Cloud. Als eines der drei öffentlich finanzierten Bundeshöchstleistungsrechenzentren Deutschlands im Gauss Centre for Supercomputing folgt das HLRS den höchstmöglichen Sicherheitsstandards. Dies wird durch seine Zertifizierung nach der Norm ISO 27001 für Informationssicherheitsmanagement gewährleistet.

Dennis Dickmann, der sich seit 2008 intensiv mit KI beschäftigt und als Mitgründer und CTO für die Technologieentwicklung bei Seedbox verantwortlich ist, sieht darin einen großen Vorteil für deutsche Unternehmen. „Eine so leistungsfähige, sichere und regionale Supercomputing-Infrastruktur ist eine einzigartige und überaus wertvolle Ressource. In Zusammenarbeit mit dem HLRS können wir unseren Kunden dauerhaft die Sicherheit ihrer Daten garantieren und ihnen die KI-Technologien an die Hand geben, die es braucht, um weiterhin innovativ und wettbewerbsfähig zu bleiben.“

Über das Höchstleistungsrechenzentrum Stuttgart

Das Höchstleistungsrechenzentrum der Universität Stuttgart (HLRS) wurde 1996 als erstes Bundeshöchstleistungsrechenzentrum Deutschlands gegründet. Als Einrichtung der Universität Stuttgart und Mitglied des Gauss Centre for Supercomputing stellt das HLRS seine Rechenkapazitäten Nutzer:innen aus Wissenschaft und Industrie zur Verfügung. Das HLRS betreibt modernste Höchstleistungsrechensysteme und bietet als Experte für neueste Technologien erstklassige Weiterbildung in den Bereichen Programmierung und Simulation. Das Zentrum forscht an wegweisenden Fragestellungen und Technologien rund um die Zukunft des Höchstleistungsrechnens (HPC). Die HLRS-Expertise umfasst unter anderem die Bereiche parallele Programmierung, numerische Methoden für HPC, Visualisierung, Cloud Computing, Höchstleistungsdatenanalyse (HPDA) sowie künstliche Intelligenz.

Hawk wurde vom Ministerium für Wissenschaft, Forschung und Kunst Baden-Württemberg und vom Bundesministerium für Bildung und Forschung über das Gauss Centre for Supercomputing (GCS) gefördert.

Über Seedbox Ventures GmbH

Seedbox bietet maßgeschneiderte KI-Lösungen für die deutsche Industrie an. Sie unterstützen Unternehmen bei der Nutzung von KI, beginnend bei der Ideenvalidierung über spezifisches Modelltraining bis hin zur Entwicklung marktreifer Produkte. Ihre Expertise erstreckt sich über maschinelles Lernen, Deep Learning, NLP, Computer Vision und generative KI. Neben ihrer Arbeit mit Wirtschaftsunternehmen, legen sie einen großen Fokus auf den Bereich KI-Grundlagenforschung und die Entwicklung von Open Source Modellen, um generative KI weitestmöglich zu demokratisieren und in sinnvolle, kundenzentrierte Anwendungen zu bringen. Dabei glauben Sie fest an die Entwicklung nachhaltiger, ethischer KI-Anwendungen, die nicht nur die heutigen Herausforderungen lösen, sondern auch den Weg für eine bessere Zukunft ebnen.

Christopher Williams

Hawk und die zukünftigen Systeme Hunter und Herder werden  vom Ministerium für Wissenschaft, Forschung und Kunst Baden-Württemberg und vom Bundesministerium für Bildung und Forschung über das Gauss Centre for Supercomputing (GCS) gefördert.