Apple nutzt Google-Gemini und Nvidia-Chips für Apple Intelligence

Apple nutzt eine spezialisierte Version von Google's großem Gemini-Modell, um daraus eine kleinere Variante zu trainieren, die direkt auf iPhones und iPads läuft. Dieser Prozess wird als Distillation bezeichnet und bedeutet, dass das umfangreiche Originalmodell auf die wesentlichen Funktionen reduziert wird, die für den lokalen Betrieb auf mobilen Geräten erforderlich sind. Das volle Gemini-Modell von Google umfasst Trillionen von Parametern und benötigt enorme Rechenleistung, die sich nicht ohne Weiteres auf consumer-Geräte übertragen lässt. Apple setzt auf Distillation, um die KI-Fähigkeiten zu erhalten, während gleichzeitig Speicherbedarf und Energieverbrauch auf einem für Smartphones machbaren Niveau bleiben. Die lokal verarbeiteten Modelle ermöglichen es Apple, seine Priorität auf On-Device-Verarbeitung beizubehalten und gleichzeitig die KI-Funktionalität zu erweitern.

Apple sucht aktiv nach kleineren Unternehmen, die bei der Verkleinerung von KI-Modellen unterstützen können. Laut informierten Personen steht Liquid AI, ein Startup aus Cambridge in Massachusetts, auf der Liste der potenziellen Übernahmeziele. Das Unternehmen spezialisiert sich genau auf den Bereich, den Apple benötigt: die Optimierung von KI-Modellen für die lokale Verarbeitung auf Endgeräten. Liquid AI entwickelt Technologien, die es ermöglichen, komplexe KI-Systeme effizient auf mobilen Geräten laufen zu lassen, ohne dabei die Rechenkapazitäten zu überlasten. Eine Übernahme würde Apple Zugang zu spezialisiertem Know-how und möglicherweise bereits entwickelten Lösungen verschaffen, die den Distillation-Prozess beschleunigen könnten. Die Suche nach solchen kleineren Unternehmen zeigt, dass Apple die Modell-Verkleinerung als kritischen Engpass in der KI-Entwicklung identifiziert hat.

Trotz der Fokus auf lokale Verarbeitung benötigen viele KI-Anfragen weiterhin Cloud-Unterstützung. Apple's eigene Server-Infrastruktur, bekannt als Private Cloud Compute, stößt an ihre Grenzen, wenn es darum geht, das vollständige Gemini-Modell zu betreiben. Die Rechenleistung, die das Modell mit seinen Trillionen Parametern erfordert, kann von Apples internen Servern nicht ausreichend bereitgestellt werden. Die Lösung liegt in einer Partnerschaft mit Google Cloud, wo einige Nutzeranfragen an eine lizenzierte Version von Gemini gesendet werden. Parallel dazu hat Apple kürzlich die Nutzung von Nvidia-AI-Chips für mindestens einen Teil dieser Cloud-Berechnungen genehmigt. Nvidia bietet spezialisierte Grafikprozessoren, die für KI-Workloads optimiert sind und die erforderliche Rechenkapazität bereitstellen.

Apple hat in den letzten Wochen die Entscheidung getroffen, Nvidia's Confidential Compute Technologie in der Cloud-Infrastruktur einzusetzen. Diese Sicherheitsfunktion verschlüsselt Daten und KI-Modelle während der Verarbeitung in den Nvidia-Grafikprozessoren. Wenn aktiviert, führt dies zu einer leichten Verlangsamung der KI-Anfragen in der Cloud, bietet aber gleichzeitig einen zusätzlichen Schutz für die Privatsphäre der Nutzer. Die Verschlüsselung stellt sicher, dass sensible Benutzerdaten während der Cloud-Verarbeitung nicht im Klartext vorliegen, was Apples Versprechen zum Schutz der Privatsphäre auch in der externen Infrastruktur aufrechterhält. Apple setzt weiterhin auf die Bezeichnung Private Cloud Compute für seine KI-Features, obwohl die Verarbeitung nicht mehr ausschließlich auf Apples eigenen Servern stattfindet. Die Kombination aus Google Cloud, Nvidia-Chips und Confidential Compute bildet eine hybride Infrastruktur, die lokale und Cloud-Verarbeitung verbindet.

Apple Intelligence basiert auf Google's Gemini-Modell, das durch Distillation für lokale Geräte aufbereitet wird. Cloud-Anfragen laufen über Google Cloud mit Nvidia-AI-Chips, geschützt durch Nvidia's Confidential Compute. Apple erwägt die Übernahme von Liquid AI zur Modell-Verkleinerung und behält das Private Cloud Compute-Branding bei.