MIT entwickelt bahnbrechendes system zur optimierung von KI-modellen
Forscher des Massachusetts Institute of Technology (MIT) haben ein innovatives automatisiertes System vorgestellt, das die Effizienz von künstlichen Intelligenzmodellen durch die gleichzeitige Nutzung von zwei Arten der Datenredundanz radikal erhöht.
Die neue Entwicklung zielt darauf ab, eines der Hauptprobleme des modernen Deep Learning zu lösen – den hohen Energieverbrauch von KI-Modellen bei der Verarbeitung komplexer Datenstrukturen in Anwendungen wie medizinischer Bildanalyse und Spracherkennung.
Bestehende Algorithmus-Optimierungsmethoden ermöglichen es Entwicklern in der Regel, entweder Sparsity oder Datensymmetrie zu nutzen – zwei verschiedene Arten von Redundanz, die in Deep-Learning-Strukturen vorhanden sind. Der innovative Ansatz des MIT ermöglicht es, beide Typen gleichzeitig zu nutzen, was in Experimenten zu einer fast 30-fachen Steigerung der Rechengeschwindigkeit führte.
„Lange Zeit erforderte die Berücksichtigung dieser Datenredundanzen erhebliche Implementierungsanstrengungen. Jetzt kann ein Wissenschaftler unserem System das gewünschte Berechnungsergebnis auf abstraktere Weise beschreiben, ohne den genauen Algorithmus anzugeben“, erklärt Willow Ahrens, Postdoktorandin am MIT und Mitautorin der Studie, die auf dem Internationalen Symposium für Code-Generierung und Optimierung vorgestellt wird.
Ein wichtiger Vorteil des Systems ist die Verwendung einer benutzerfreundlichen Programmiersprache, die es für ein breites Spektrum von Anwendungen zugänglich macht. Dies ist besonders wichtig für Wissenschaftler, die keine Experten im Deep Learning sind, aber die Effizienz von KI-Algorithmen bei der Datenverarbeitung steigern möchten.
Die Entwicklung des MIT eröffnet neue Perspektiven bei der Optimierung von Rechenressourcen für maschinelles Lernen und bietet:
– Automatische Algorithmusoptimierung unter Berücksichtigung mehrerer Redundanztypen
– Erhebliche Reduzierung der Anforderungen an die Rechenleistung
– Senkung der Kosten für Bandbreite und Datenspeicherung
– Vereinfachte Schnittstelle für KI-Systementwickler
Das System hat auch Potenzial für Anwendungen im wissenschaftlichen Rechnen, was zur Beschleunigung der Forschung in verschiedenen Wissenschaftsbereichen beitragen kann, in denen komplexe Rechenmodelle verwendet werden.
