KAYTUS lanciert MotusAI, eine KI-Entwicklungsplattform für hocheffiziente GPU-Ressourcenplanung und Task-Orchestrierung

KI-Entwicklung effizienter und wirtschaftlicher gestalten

Die rasche Ausweitung des KI-Geschäfts in Unternehmen und der Entwicklung von KI-Modellen bringt neue Herausforderungen mit sich, die Unternehmen bewältigen müssen. Dazu gehören eine geringe Recheneffizienz, die Komplexität der Modellentwicklung, unterschiedliche Anforderungen an die Orchestrierung von Aufgaben in verschiedenen Szenarien sowie instabile Rechenressourcen. Ein effizienter, flexibler und stabiler Betrieb des KI-Geschäfts ist für Unternehmen von entscheidender Bedeutung, um kontinuierlich Geschäftseinblicke zu gewinnen, Umsätze zu generieren und die Wettbewerbsfähigkeit zu erhalten.

Verbesserung der Ressourcenverwaltung für maximale Rechenleistung:

MotusAI weist Ressourcen und Workloads effizient zu, indem es eine intelligente und flexible GPU-Planung implementiert. Durch die dynamische Zuweisung von GPU-Ressourcen auf der Grundlage des Bedarfs wird es den unterschiedlichen Anforderungen von KI-Workloads an die Rechenleistung gerecht. Mit mehrdimensionaler und dynamischer GPU-Ressourcenzuweisung, einschließlich detailgenauer GPU-Planung und Unterstützung für Multi-Instance GPU (MIG), erfüllt MotusAI effektiv die Anforderungen an die Rechenleistung in verschiedenen Szenarien wie Modellentwicklung, Debugging und Training.

Effiziente Task-Orchestrierung zur vielseitigen Unterstützung verschiedener Szenarien:

MotusAI revolutioniert Cloud-native Scheduling-Systeme. Die Planungsfunktion (Scheduler) übertrifft die bisherige Community-Version durch eine drastische Verbesserung der Scheduling-Leistung großer POD-Aufgaben. MotusAI erreicht einen schnellen Hochlauf und die Verfügbarkeit der Umgebung für Hunderte von PODs. Im Vergleich zum Community-Scheduler steigt der Durchsatz um das Fünffache, während die Latenzzeit um das Fünffache sinkt. Dies gewährleistet eine effiziente Planung und Nutzung von Rechenressourcen für umfangreiche Trainings. Darüber hinaus ermöglicht MotusAI die dynamische Skalierung von KI-Workloads sowohl für Trainings- als auch für Inferenzdienste, unterstützt Burst-Tasks und erfüllt verschiedene Scheduling-Anforderungen in unterschiedlichen Szenarien

MotusAI ermöglicht Nutzern die Maximierung von Rechenressourcen – von der detailgenauen Aufteilung mehrerer Instanzen von Single Card Computing bis hin zum groß angelegten Parallel Computing auf mehreren Rechnern und Karten. Durch die Integration von Funktionen wie dem Pooling von Rechenleistung, der dynamischen Skalierung und der Wiederverwendung von GPU-Einzelkarten verbessert MotusAI die Nutzung der Rechenleistung erheblich und erreicht eine durchschnittliche Nutzungsrate von über 70 Prozent. Darüber hinaus wird die Recheneffizienz durch die Nutzung der Clustertopologie und die Optimierung der Netzwerkkommunikation verbessert.

Beschleunigung der Datenübertragung für dreifache Effizienz:

MotusAI zeichnet sich bei der Beschleunigung der Datenübertragung durch innovative Funktionen aus. Dazu gehört beispielsweise die Unterstützung des lokalen Ladens und Berechnens von Remote-Daten, wodurch Verzögerungen durch Netzwerk-E/A während der Berechnung eliminiert werden. Durch Strategien wie "Zero-Copy"-Datenübertragung, Multi-Thread-Abruf, inkrementelle Datenaktualisierungen und Affinity Scheduling reduziert MotusAI die Zyklen für Daten-Caching maßgeblich. Diese Funktionen verbessern die KI-Entwicklung und die Trainingseffizienz erheblich, was zu einer 2-3-fachen Steigerung der Modelleffizienz beim Datentraining führt.

Zuverlässige und automatisch fehlertolerante Plattform:

MotusAI unterstützt die Leistungsüberwachung sowie Warnmeldungen für Computerressourcen und bietet Statusaktualisierungen in Echtzeit für die wichtigsten Plattformdienste. Es verwendet Sandbox-Isolationsmechanismen für Daten mit höheren Sicherheitsstufen. Bei Ressourcenausfällen oder -anomalien leitet MotusAI automatisch Fehlertoleranzprozesse ein, um die schnellstmögliche Wiederherstellung während unterbrochener Trainingsaufgaben zu gewährleisten. Dieser Ansatz reduziert die Fehler-Bearbeitungszeit im Durchschnitt um über 90 Prozent.

Umfassendes Management der AI-Modellentwicklung in einer integrierten Lösung

MotusAI beschleunigt die KI-Entwicklung und unterstützt jede Phase der Entwicklung großer Modelle. Von der Verwaltung von Datenproben und Software-Stacks bis hin zum Entwurf von Modellarchitekturen, dem Debugging von Code, dem Training von Modellen, der Abstimmung von Parametern und der Durchführung von Evaluierungstests bietet MotusAI eine vollumfängliche Plattform. Sie integriert beliebte Entwicklungsframeworks wie PyTorch und TensorFlow sowie verteilte Trainingsframeworks wie Megatron und DeepSpeed.

Darüber hinaus ermöglicht MotusAI ein umfassendes Lebenszyklusmanagement von KI-Inferencing-Services, einschließlich Offline- und Online-Tests, A/B-Tests, Rolling Release, Service-Orchestrierung und die Dekommissionierung von Services.  Diese Funktionen steigern den Geschäftswert der KI-Technologie und fördern das kontinuierliche Unternehmenswachstum.

Zusätzlich bietet MotusAI eine integrierte visuelle Verwaltungs- und Betriebsoberfläche, die Computer-, Netzwerk-, Speicher- und Anwendungsressourcen abdeckt. Das Betriebspersonal kann den gesamten Betriebsstatus der Plattform über eine einzige Schnittstelle umfassend verwalten, überwachen und bewerten.

Kostenlose Testversion verfügbar

MotusAI ist ab sofort weltweit für einen Testphase verfügbar und bietet einen Monat lang kostenlosen Fernzugriff sowie Tests, Schulungen und Support. Nutzer können sich auch für eine lokale Bereitstellung mit ihren eigenen Geräten und ihrer eigenen Umgebung entscheiden, wobei sie von KAYTUS bei den Tests vor Ort unterstützt werden. Für weitere Informationen und zur Registrierung besuchen Sie bitte

MotusAI GPU Servers | KAYTUS sowie MotusAI GPU Servers | KAYTUS Registrierung