Kioxia veröffentlicht die AISAQ-Technologie als Open-Source-Software, um die DRAM-Anforderungen für generative KI-Systeme zu verringern

Die Kioxia Corporation, ein weltweit führender Anbieter von Gedächtnislösungen, kündigte heute die Open-Source-Veröffentlichung seiner neuen All-Storage Anns Product Quantization (AISAQ) -Technologie (1) an.Die Kioxia AISAQ ™ -Software führt einen neuartigen Algorithmus für ungefähre Nachbarsuchungen (Anns) ein, der für Solid-State-Laufwerke (SSDs) optimiert ist und skalierbare Leistung zum Abrufen von Abrufen-Augmented Generation (LAB) liefert und gleichzeitig die Notwendigkeit beseitigt, Indexdaten in DRAM zu speichern.Suchanfragen werden direkt auf SSDs durchgeführt.

Generative KI -Systeme erfordern erhebliche Rechen-, Speicher- und Speicherressourcen.Während die KI das Potenzial hat, transformative Durchbrüche in den Branchen zu fördern, ist ihr Einsatz häufig mit hohen Kosten ausgestattet.RAG ist eine entscheidende Phase in der KI-Entwicklung, die große Sprachmodelle (LLMs) raffiniert, indem sie Anwendungs- oder Unternehmensspezifische Daten nutzen.

Im Kern von RAG befindet sich eine Vektor-Datenbank, die domänenspezifische Daten in Feature-Vektoren sammelt und umwandelt.Rag basiert auch auf ANNS -Algorithmen, um Vektoren zu identifizieren, die das Modell durch Bewertung der Ähnlichkeit zwischen akkumulierten und Zielvektoren verbessern.Um effektiv zu sein, muss Lag die relevantesten Informationen schnell abrufen.Traditionell wurden ANNS-Algorithmen in DRAM eingesetzt, um die erforderliche Hochgeschwindigkeitsleistung zu erzielen.

Die Kioxia AISAQ-Technologie liefert eine skalierbare und effiziente ANNS-Lösung, mit der Datensätze im Bereich Milliarden im Bereich minimaler Speicherverbrauch und schnelle Index-Switching-Funktionen umgehen können.