Nieuws

Synthetische en federale aanpak: privacybewaardende domeinadaptatie met LLMs voor mobiele toepassingen

Google onderzoekt hoe synthetische data en federated learning kunnen worden gebruikt om privacy te beschermen bij het trainen van grote taalmodellen (LLMs) voor mobiele toepassingen zoals Gboard. Door synthetische data te genereren met behulp van LLMs en deze te combineren met federated learning met differentiële privacy, kunnen modellen worden verbeterd zonder gevoelige gebruikersgegevens te exposeren. Dit leidt tot betere prestaties in functies zoals correctie en voorspelling van teksten op mobiele apparaten.