Nogen har omdannet deres telefon til et fungerende ekstern GPU

Indeks
  1. Hvilke problemer vil jeg have med at bruge min telefon som ekstern GPU?
    1. AI-modeller og skrivehastigheder er begge bekymringer

Brug din iPhone som ekstern GPU til MacBook for at optimere AI-processer og opnå hastighedsforbedringer uden dyre investeringer i hardware.

Du skal ikke investere i et kostbart video-kort kabinet for at tilføje ekstern grafik til din PC — din iPhone i lommen kan være svaret. Reddit-bruger StayLameBro har fundet en metode til at bruge sin iPhone 17 Pro Max som ekstern GPU til sin MacBook Pro M4.

Det nye projekt fordeler AI-modellens opgaver (i dette tilfælde Qwen 3.8 27B) mellem Mac'en og iPhone'en. Laptopen håndterer de første 40 lag af hver AI-token-batch, mens iPhone'ens GPU tager de resterende. Ved mere end 64.000 tokens tager Mac'en sig af alle lagene, mens iPhone'en fokuserer på ældre nøgle-værdi-sider.

Mac'en tildeler 8-bit kontekst ud fra iPhone'ens RAM, hvilket hjælper med at styre hukommelsesforbruget. Desuden bidrager håndsættet til forudfyldninger i token-prompten ud over 512 tokens.

Hastighedsforbedringerne er markante. Når der forudfyldes en 2.000-token fil i en agent-session, er kombinationen af MacBook og iPhone 29% til 44% hurtigere end Mac'en alene. I en ny 27.000-token agent-session varierer gevinsterne mellem 36% for projektets llama.cpp-kode og 46% i forhold til standardsoftware.

Koden og opsætningsprocessen findes nu på GitHub. Et standard 10Gbps USB-C kabel er alt, hvad der kræves for at forbinde til Mac'en, men en iPhone 15 Pro er minimum. En iPhone 18 Pro skulle have "meget mere" hovedrum, ifølge skaberen.

Hvilke problemer vil jeg have med at bruge min telefon som ekstern GPU?

AI-modeller og skrivehastigheder er begge bekymringer

iPhone'en som ekstern GPU løser ikke alle problemer. StayLameBro påpeger, at telefonen ikke forbedrer skriveydelsen under 64.000 tokens, og lader den opgave til computeren.

Desuden har han ikke testet AI-modeller med nyere funktioner, som Qwen 3.8-Flash-Next og DeepSeek V4.1-Flash, så der er ingen garanti for, at iPhone'en vil være lige så effektiv. Android og Windows er ikke inkluderet, hvilket gør løsningen til en ren Apple-tilgang.

Alligevel viser indsatsen potentiale for telefoner som beregningshjælpemidler. Forbedringerne kan ikke måle sig med dem fra et højkvalitets grafikkort, men de kan stadig spare værdifuld tid i AI-processer.

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *

Go up