Das Startup Pruna AI entwickelt hocheffiziente und kostengünstige KI-Modelle. Ziel ist es, KI für Forschung und Unternehmen insbesondere in Europa zugänglich zu halten und ihren ökologischen Fußabdruck zu reduzieren. Dazu sollen KI-Modelle entstehen, die bei gleicher Leistungsfähigkeit deutlich weniger Ressourcen benötigen. Anwendungsfälle finden sich neben der Forschung etwa im E-Commerce: Ein Unternehmen möchte ess Interessierten ermöglichen, in einer App ein Foto hochzuladen und Kleidungsstücke virtuell anzuprobieren. Damit dieses ‚Virtual Try-on‘ im Alltag funktioniert, muss das KI-Modell in Sekundenbruchteilen realistische Bilder erzeugen – etwa dieselbe Person mit unterschiedlichen T-Shirts – und dabei so kostengünstig arbeiten, dass die Funktion millionenfach genutzt werden kann.
Was Modelle effizienter macht
Technisch setzt das Startup auf mehrere Kompressions- und Optimierungsverfahren, die an unterschiedlichen Stellen des Modells ansetzen. So werden beispielsweise Verbindungen und Modellbestandteile entfernt, die für das Ergebnis nur eine geringe Rolle spielen. Zudem können bereits berechnete Zwischenergebnisse vorübergehend gespeichert werden, damit sie bei späteren, ähnlichen Anfragen nicht erneut berechnet werden müssen. Technisch ist an den Verfahren besonders, sie zu kombinieren und standardisiert auf Modelle anzuwenden. Anschließend wird automatisch evaluiert, wie stark sich Geschwindigkeit, Speicherverbrauch und Qualität im Vergleich zum Ausgangsmodell verändern. So lassen sich Effizienz und Genauigkeit für unterschiedliche Anwendungen ausbalancieren. Zusätzlich setzt Pruna AI auf agentenbasierte Methoden, um die Qualität der Modelle weiter zu steigern.
Wettbewerbsfähig bleiben
Hinter Pruna AI steht ein vierköpfiges Gründerteam: Bertrand Charpentier, Rayan Nait Mazi, John Rachwan und TUM-Professor Stephan Günnemann. Die Idee für das Startup entstand um das Jahr 2020 während der Promotion von Bertrand Charpentier bzw. der Studienarbeiten von John Rachwan, als sie in ihren Forschungsprojekten an der TUM unmittelbar mit den Herausforderungen effizienter und leistungsstarker KI konfrontiert wurden. „Hinzu kam aber auch immer der Gedanke, dass es nicht der richtige Weg sein kann, für den wachsenden Rechenbedarf von KI über zusätzliche Energiequellen wie Atomkraftwerke nachzudenken“, sagt Stephan Günnemann. Inzwischen ist das diverse und internationale Team auf 16 Vollzeitkräfte und einige studentische Hilfskräfte angewachsen.
