Apple implementiert 20-Milliarden-Parameter-KI lokal auf iPhones

Apple hat ein technisches Hindernis überwunden, indem es ein KI-Modell mit 20 Milliarden Parametern auf iPhones betreibt. Normalerweise erfordert die Ausführung solcher Modelle viel Arbeitsspeicher (RAM), der in Smartphones oft knapp ist. Apples Ansatz organisiert das Modell grundlegend anders als bisher üblich.

Die Hardware von Smartphones stößt bei großen Modellen schnell an ihre Grenzen. Ein Modell mit 20 Milliarden Parametern würde den verfügbaren RAM überschreiten. Apple hat dieses Problem durch eine eigene Methode gelöst, die es erlaubt, das Modell lokal zu betreiben, ohne die Speicherbeschränkungen zu verletzen.

Das neue Modell ist deutlich größer als Apples bisheriges On-Device-Modell, das nur rund drei Milliarden Parameter umfasste. Die kleinere Größe des alten Modells war notwendig, um auf den Geräten zu laufen, limitierte aber auch dessen Fähigkeiten. Die neue Technologie erweitert diese Möglichkeiten erheblich.

Die Implementierung zeigt, wie Apple die Grenzen der Smartphone-Hardware auslotet. Durch die lokale Verarbeitung können KI-Funktionen schneller und datenschutzfreundlicher arbeiten. Dies könnte die Konkurrenzfähigkeit von iPhones in der KI-Ära stärken, da keine Cloud-Verbindung für jede Anfrage nötig ist.

Offen bleibt, wie sich diese Technologie auf die Akkulaufzeit und die Wärmeentwicklung der Geräte auswirkt. Zudem ist unklar, welche konkreten Funktionen Nutzer davon profitieren werden. Die technische Umsetzung bleibt ein internes Detail, während die praktischen Auswirkungen erst in zukünftigen Updates sichtbar werden.