local-ai
Die SSD als Arbeitsspeicher für Arme
Grosse Sprachmodelle scheitern auf dem eigenen Rechner meist am Arbeitsspeicher. Das Open-Source-Projekt edge0 lagert den Grossteil des Modells auf die SSD aus, und die Idee dahinter ist interessanter als das Projekt selbst.