Der KI-Anbieter Perplexity hat sein macOS-Agentensystem Perplexity Computer deutlich erweitert. Die App, mit der sich ein Mac gegebenenfalls auch aus der Ferne steuern lässt, benötigt nun auf Wunsch kein Cloud-Sprachmodell (und damit ständigen Internetzugang) mehr, sondern kann auch mit lokalen LLMs arbeiten. Anfangs werden dies die Qwen-Version 3.6 oder PPLX Pro, ein Qwen-Modell, das von Perplexity selbst ein Posttraining erfuhr, sein. Allerdings benötigt der verwendete Mac ausreichend RAM, es darf zudem nur eine Apple-Silicon-Maschine sein.

Damit Perplexity Computer lokal läuft, werden mindestens 36 GByte RAM empfohlen. Perplexity legt zudem neuere Geräte wie die aktuelle Mac-mini-Baureihe mit M6 und M5 Pro nahe. Allerdings gibt es den M6-Kompakt-Mac derzeit schlicht nicht mit mehr als 32 GByte. Es müsste daher schon ein M5-Pro-Modell mit 48 GByte sein, das mindestens 2659 Euro kostet.

Gratis ist Perplexity Computer auch im lokalen Betrieb nicht: Nur Kunden mit einem Pro-, Max- oder Enterprise-Abo haben grundsätzlich Zugriff. Der Download der App ist via perplexity.ai möglich, im App Store steht sie nicht bereit.

Laut Perplexity sind mit den Modellen „komplexe Multi-Step-Arbeiten“ möglich, die rein lokal vorgenommen werden. Genannt werden etwa Analysen des privaten Finanzportfolios, die Arbeit mit Dateien, Notizen, der Nachrichten-App oder Tabellenkalkulationen und Apple Mail. Läuft Perplexity Computer rein lokal, sollten keine Daten die Maschine verlassen.

Reicht die Leistung nicht, bietet Perplexity auch noch eine Hybrid-Compute-Zuschaltung an, bei der über einen lokalen Orchestrator eines von über 15 Frontier-Modellen in der Cloud aktiviert werden kann. „Wie der Nutzer Credits verwendet, liegt in seiner Hand“, so Perplexity. Die Firma öffnet den Mac auch zur Fernsteuerung. „Code und Tool-Ausführung“ würden aber „in isolierten Sandbox-Umgebungen“ ausgeführt, behauptet die Firma. Wie das Umschalten zwischen lokalem Modell und Cloud abläuft, müssen erste Tests zeigen. Auch unklar bleibt, ob künftig weitere lokale Modelle verwendet werden können und wie gut diese optimiert sind.

(bsc)