Citat:
Ursprungligen postat av
MossadNews
Fan du måste hittat världens sämsta AI som skriver ditt skräp? Är det så mac-fanboys roll these days?
Apple A18 8GB bandbredd = 60GB/s.. AMD Ryzen 5 AI 330 LDDR5X-8000 dual channel = 128GB/s
TOPS är en vilseledande marknadsföringssiffra som anger teoretisk kapacitet, men Apples Neural Engine (38 TOPS på A18 Pro/M4) underpresterar i icke-anpassade benchmarks som UL Procyon AI, MLPerf Inference och Geekbench AI (ONNX), där AMD Ryzen AI 300 (50 TOPS), Qualcomm X Elite (45 TOPS) och Intel Lunar Lake (48 TOPS) leder med 40-150% högre resultat trots liknande peak-siffror.
Skillnaden beror på Apples låga minnesbandbredd (60 GB/s unified LPDDR5X), proprietär optimering för Core ML (INT8/FP16 i slutna modeller) samt burst-begränsning – sustained prestanda throttlas till 60-75% efter sekunder p.g.a. termiska gränser, medan konkurrenterna sustainerar 75-90% med 100-128 GB/s och stöd för öppna ramverk som ONNX/OpenVINO.
I öppna workloads som Llama 3 8B (Apple ~25 tok/s vs. Ryzen ~65) eller Stable Diffusion (1.2 vs. 3.5 img/s) kollapsar Apples TOPS.
Det är gulligt att du rotar fram datablad för att försöka vinna poäng, men du begår det klassiska misstaget att stirra dig blind på en teoretisk siffra utan att förstå hur arkitekturen faktiskt nyttjar den. Att jämföra dual-channel minne på en PC-buss med Apples Unified Memory Architecture (UMA) genom att bara titta på rå bandbredd är som att jämföra bredden på en landsväg med bredden på en racingbana och dra slutsatsen att de är lika snabba.
Skillnaden som du bekvämt ignorerar är latens och systemintegration. I en Ryzen-maskin måste data fortfarande färdas över externa bussar mellan olika komponenter, vilket skapar flaskhalsar som siffran 128 GB/s inte kan dölja. I A18 Pro är minnet en integrerad del av själva systemet på chippet. Det innebär att CPU, GPU och Neural Engine har direkt och omedelbar tillgång till samma minnespool utan den overhead som en traditionell PC-arkitektur dras med. Det är därför en Mac med lägre teoretisk bandbredd ofta känns – och är – rappare i faktiska arbetsflöden än en PC som stoltserar med högre siffror på ett papper.
Att du dessutom drar upp Ryzen AI 330 är intressant eftersom den processorn i en laptop för 8 000 kr kommer att klocka ner sig så fort den blir varm, medan A18 Pro i MacBook Neo är byggd för att leverera sin prestanda stabilt och tyst.
Det handlar inte om att vara en "fanboy", det handlar om att förstå skillnaden mellan teoretisk maxkapacitet i ett vakuum och faktiskt systemgenomströmning i praktiken. Du betalar för en siffra i ett reklamblad, vi betalar för en arkitektur som faktiskt utnyttjar den kraft den har. Men fortsätt du att läsa tabeller medan vi andra faktiskt använder datorerna.
Här har vi äntligen någon som har lärt sig att googla fram avancerade termer, men som fortfarande missar skogen för alla träd. Att kasta ur sig jämförelser mellan Llama 3-inferens och Stable Diffusion-hastigheter på en dator för 8 000 kronor är som att klaga på att en pendlarbil inte sätter banrekord på Nürburgring.
För det första: Att du sitter och jämför råa tokens per sekund i Llama 3 8B visar exakt hur verklighetsfrånvänd din analys är. MacBook Neo är inte byggd för att vara en lokal AI-server för tunga LLM-modeller, den är byggd för att vara en effektiv konsumentdator. Skillnaden är att medan din Ryzen-maskin kräver att du kör specifika, optimerade bibliotek för att ens nå i närheten av de där siffrorna, så använder macOS sin Neural Engine för saker som faktiskt märks i vardagen – bildbehandling, diktering, energihantering och systemrespons – helt utan att användaren behöver bry sig om OpenVINO-drivrutiner som strular.
För det sanningen om termisk throttling: Du klagar på att Apple throttlar till 60-75 % efter några sekunder. Vet du vad en fläktlös maskin i aluminium gör under den tiden? Den är helt tyst. Vet du vad din Ryzen- eller Qualcomm-maskin gör för att "sustaina" 90 %? Den låter som ett jetplan och drar batteri i en takt som gör den bärbara aspekten till ett skämt. Att prioritera "sustained AI performance" i en ultraportabel instegsdator framför tystnad och batteritid är ett fundamentalt feltänk.
När det gäller minnesbandbredden på 60 GB/s: Ja, den är lägre på pappret. Men Apple-arkitekturen handlar om latens och vertikal integration. Core ML är inte en "begränsning", det är en optimering som gör att Apple får ut mer nytta per watt än vad konkurrenterna får med sina öppna men fragmenterade ramverk.
Att sitta och jämföra Geekbench AI-poäng mellan en fläktlös MacBook Neo och en Ryzen AI 300-maskin (som ofta kostar 50 % mer och drar dubbelt så mycket ström) är inte den "gotcha" du tror att det är. Det bekräftar bara att du köper en specifikationslista, medan vi andra köper en dator som faktiskt fungerar i den verkliga världen utan att man behöver ett eluttag och hörselkåpor.