Nieuws

Fijnafstemmen van taalmodellen op Apple Silicon met MLX

Met MLX, een open-source arraybibliotheek van Apple, kunnen open taalmodellen lokaal op Macs met Apple Silicon worden fijnge... zonder cloud-GPU's. De tutorial behandelt installatie, data voorbereiden in JSONL-formaat, LoRA-training met kwantisatie, testen en het fuseren van de adapter. Het benut de unified memory architectuur voor efficiënte training op apparaten met 16 GB of meer.