ARM- und Alibaba-Partner, um die multimodale KI mit Kleidiai zu verbessern

Arm Holdings PLC (NASDAQ: ARM), im Folgenden als "Arm" bezeichnet, kündigte heute eine neue Zusammenarbeit mit Alibabas taotischer Gruppe in ihrem leichten Deep -Learning -Framework MNN an.Durch die Integration von ARM Kleidiai haben die beiden Unternehmen erfolgreich multimodale Arbeitsbelastungen für künstliche Intelligenz (KI) ermöglicht, auf der Mobilgeräte von ARM-CPU-Anbietern mit dem QWEN2-VL-2B-Instruct-Modell von Alibaba auszuführen.Diese Version des QWEN-multimodalen Modells wurde speziell für das Bildverständnis des Geräts, das Argumentation von Text zu Image und die multimodale Generation über mehrere Sprachen entwickelt.Diese Zusammenarbeit verbessert die Leistung multimodaler KI -Workloads am Rande erheblich und liefert eine völlig neue Benutzererfahrung.

Stefan Rosinger, Senior Director of Product Management bei Arms Kundengeschäft, erklärte: „Wir befinden uns inmitten einer KI -Revolution und sind Zeuge des Aufstiegs multimodaler KI -Modelle, die verschiedene Datentypen verarbeiten und verstehen können, darunter Text, Bilder, Audio-, Video- und Sensordaten.Die Bereitstellung dieser erweiterten multimodalen Modelle für Edge -Geräte stellt jedoch erhebliche Herausforderungen aufgrund von Hardwarebeschränkungen wie Stromverbrauch und Speicherbeschränkungen sowie die Komplexität der gleichzeitigen Handhabung mehrerer Datenmodalitäten auf. “

Arm Kleidi bietet eine ideale Lösung für diese Herausforderungen und liefert eine nahtlose Leistungsoptimierung für KI -Inferenz -Workloads, die auf ARM -CPUs ausgeführt werden.Kleidiai ist eine leichte, leistungsstarke, leistungsstarke Open-Source-Sammlung von Armroutinen, die speziell für die KI-Beschleunigung entwickelt wurden.Es wurde in die neuesten Versionen von Major On-Device-AI-Frameworks integriert, darunter Executorch, Llama.cpp, Litert (über Xnnpack) und MediaPipe.Dies ermöglicht es Millionen von Entwicklern, automatisch erhebliche KI -Leistungsgewinne zu erzielen - ohne zusätzliche Anstrengungen zu erfordern.