Obwohl die Ankündigungen von Apple zur Unterstützungstechnologie in dieser Woche wichtig sind, bleibt die Frage unbeantwortet, inwieweit sie sich auf die leistungsstarke Neural Engine des Unternehmens verlassen.
Neural Engine umfasst eine Sammlung spezialisierter Rechenkerne, die in Apple Silicon-Chips vorhanden sind. Sie sind darauf ausgelegt, Maschinen-/KI-Funktionen schnell und mit großer Effizienz auszuführen, da die Aktion auf dem Chip stattfindet.
Das Unternehmen hat riesige Ressourcen gewidmet zu Verbesserungen der Neural Engine seit ihrem ersten Erscheinen im Jahr 2017. Apple Wiki stellt fest, dass der A16-Chip im iPhone 14 17 Billionen Operationen pro Sekunde liefert, gegenüber 600 Milliarden/s im A11-Prozessor von 2017.
Wie nutzt Apple die Neural Engine?
Wie Apple Neural Engine verwendet
- Denken Sie an FaceID, animierte Memojis oder die Suche auf dem Gerät nach Dingen wie Hundebildern in Fotos. Entwickler verwenden Neural Engine, wenn sie unterstützende Anwendungen erstellen CoreML, wie Becasso oder Style Art. Aber Neural Engine kann mehr. und das ist was Apple zeigt Verbesserungen der Barrierefreiheit an.
- Denken Sie an den Erkennungsmodus in der Lupe. In diesem Modus erkennt Ihr iPhone Tasten an Gegenständen in Ihrem Zuhause, teilt Ihnen die Funktion dieser Tasten mit und hilft Ihnen bei der Führung Ihrer Hand. Dabei handelt es sich um eine leistungsstarke Technologie, die auf der Kamera, dem LiDAR-Scanner, maschinellem Lernen und der Neural Engine im Prozessor basiert.
- Erwägen Sie die neue Personal Voice-Funktion, mit der Benutzer eine Stimme erstellen können, die wie ihre eigene klingt, und mit der ihr Gerät dann die von ihnen eingegebenen Wörter sprechen kann. Das ist nützlich für Menschen, die kurz davor stehen, ihre Stimme zu verlierenAber auch hier basiert es auf der Sprachanalyse auf dem Gerät und den intelligenten Fähigkeiten, die in der Neural Engine verborgen sind.
Dies sind alles rechenintensive Aufgaben, die beide auf Geräteintelligenz und nicht auf die Cloud angewiesen sind und darauf ausgelegt sind, die Privatsphäre zu wahren und dedizierte KI-Schleifen in jedem Apple-Gerät zu nutzen.
Die Neural Engine kann noch viel mehr
Ich glaube nicht, dass diese Aufgaben wirklich alles beeinflussen, wozu die Neural Engine in der Lage ist. Denn trotz der Versprechen dieser Art von KI hat das Spiel, sie nativ auf Edge-Geräten laufen zu lassen, bereits begonnen, und Apple hat so hart an der Entwicklung seiner Neural Engine gearbeitet, dass es seltsam erscheinen würde, wenn es nicht einige Karten gäbe. spielen.
Unabhängig davon wird und sollte das ultimative Ziel darin bestehen, diese Technologien außerhalb des Rechenzentrums bereitzustellen. Eine der vielen kleinen gemeinsamen Wahrheiten, die es gibt Generative KI Ist wie viel Energie zum Betrieb benötigt wird. Jedes Unternehmen, das seine CO2-Emissionen begrenzen und Klimaziele erreichen möchte, möchte diese Aufgaben auf dem Gerät und nicht auf einer Serverfarm ausführen. Und Apple ist bestrebt, seine Ziele zu erreichen Klimaziele. Der beste Weg, dies mit ähnlicher Technologie zu erreichen, ist die Entwicklung einer geräteinternen KI, die in der Neural Engine beheimatet ist.
Ja das So sieht Apple dasSie sind nicht allein. Google Palm 2 zeigt das Interesse dieses Unternehmens. Chiphersteller wie Qualcomm sehen Edge-Verarbeitung solcher Aufgaben als wesentliche Möglichkeit zur Kosten- oder Technologiereduzierung. Derzeit gibt es zahlreiche Open-Source-Sprachmodelle, die generative KI-Funktionen bereitstellen können; Die Stanford University hat dies bereits geschafft läuft auf einem Google Pixel-Telefon (wenn auch mit zusätzlichen Halluzinationen), daher sollte es ein Kinderspiel sein, sie auf dem iPhone auszuführen.
Auf einem M2-Chip, wie er bereits im Mac, iPad und (bald) Reality Pro verwendet wird, dürfte das noch einfacher sein.
Eine Möglichkeit, die Kosten dieser Art von KI zu senken und gleichzeitig die Größe des Sprachmodells zu verringern und die Genauigkeit durch den Schutz vor „alternativen Fakten“, die von der KI geschaffen werden, zu erhöhen, besteht darin, die Technologie auf ausgewählte Domänen zu beschränken. Dies können wichtige Office-Produktivitätsanwendungen sein, aber auch Barrierefreiheitszwecke, verbesserte Benutzeroberflächenkomponenten oder verbesserte Sucherlebnisse.
Dies scheint der Ansatz zu sein, den wir in der gesamten Branche beobachten, da Entwickler wie Zoom Wege finden, KI auf wertvolle Weise in bestehende Produkte zu integrieren, anstatt einen Streupistolen-Ansatz zu verfolgen. Der Ansatz von Apple zeigt auch einen Fokus auf wichtige Branchen.
Im Hinblick auf die Art und Weise, wie Apple seine eigenen KI-Technologien entwickeln will, scheint es furchtbar rücksichtslos zu sein, die Daten zu ignorieren, die das Unternehmen möglicherweise im Rahmen seiner Sucharbeit im letzten Jahrzehnt gesammelt hat. Hat Apfelroboter Ging es wirklich nur darum, Geschäfte mit Google abzuschließen? Könnten diese Daten zur Entwicklung von Apples eigenem LLM-Modell beitragen?
Auf der WWDC könnte es interessant sein zu sehen, ob eine der Möglichkeiten, KI zu nutzen, darin bestehen könnte, die Bilderzeugungsmodelle für seine AR-Geräte zu betreiben. Ist diese Form der No-Code/Low-Code-KI-gestützten Erfahrung ein Bestandteil der supereinfachen Entwicklungsumgebung, die wir zuvor von Apples Plänen gehört haben?
In einer idealen Welt könnten Benutzer die Leistung dieser neuen KI-Modelle privat, auf ihrem Gerät und mit minimalem Stromverbrauch nutzen. Und da Apple genau dafür die Neural Engine entwickelt hat, war vielleicht die dumme Siri genau das Richtige angesichts eines größeren Ganzen – ein pirschendes Pferd mit Pokerface. Wir kennen noch keine dieser Antworten, aber wenn die Sonne in Kalifornien untergeht, weiß es vielleicht jeder. spezielle Apple-Entwicklerveranstaltung im Apple Park am 5. Juni.
