Mainstream AI-chatbots körs på nästan samma sätt: du skriver något, det går till en server någonstans och ett företag som du aldrig kommer att träffa bearbetar det innan du får ett svar. Privat LLM börjar med en annan premiss, där hela plattformen körs på din iPhone, iPad eller Mac, och ingenting du skriver lämnar enheten. Det är en stor sekretessvinst för att hålla dina personuppgifter privata, men det betyder också att du måste acceptera att verktyget är relativt begränsat vad det kan göra. Läs mer om hur det faktiskt är att använda i vår privata LLM-recension.
Hur fungerar privat LLM?
Private LLM är en app för endast Apple som är optimerad specifikt för det ekosystemet snarare än att vara ett generiskt plattformsoberoende verktyg. Detta gör att den kan köras något bättre än en app som annars skulle vara tillgänglig för Android och Windows, men det betyder att den har en naturligt mer begränsad räckvidd.
Kärnan i plattformen är att istället för att ansluta till en fjärrserver för LLM-åtkomst, laddar den ner och kör språkmodeller med öppen källkod direkt på din enhets hårdvara.
Att komma igång tar några steg:
Steg 1. Ladda ner Private LLM från App Store. Appen i sig kräver inte ett separat konto, även om att ladda ner den från App Store betyder att du behöver ett Apple-ID.
Steg 2. Bläddra i modellbiblioteket och välj en modell som matchar din enhet och dina behov. Appen rekommenderar vanligtvis modeller baserat på det nominella RAM-minnet du har tillgängligt, och du kan bläddra manuellt efter användningsfall (allmän chatt, kodning, ocensurerat och så vidare).
Steg 3. Ladda ner modellen. Detta är det enda steget som kräver en internetanslutning.
Steg 4. Börja chatta. Du kan växla mellan nedladdade modeller när som helst, och varje modell körs i en separat chattinstans.
Haken här är hårdvara. Större, mer kapabla modeller behöver mer RAM för att fungera smidigt, så vad din enhet kan hantera beror mycket på dess specifikationer. En äldre iPhone kommer att vara begränsad till mindre, mindre kapabla modeller, medan en Mac med mer minne bekvämt kan köra större.
Huvudfunktioner
När det gäller vilka LLM som är tillgängliga stöder Private LLM ett bra utbud av modeller med öppen källkod, inklusive DeepSeek, Llama, Qwen3, Phi 4 och Googles Gemma 3. Dessa bör täcka allt från allmän konversation till till och med lätt kodningshjälp (förutsatt att du inte behöver tillgång till internetbibliotek).
Själva integritetsmodellen är den verkliga rubriken här. Chattarna och analyserna av dina konversationer skickas inte tillbaka till AI:s utvecklare och förstärker dess träningsdata. Även om detta kan verka oviktigt för många, kan människor som använder AI för känsliga anteckningar, privat brainstorming eller de som har allmänt obehag med molnbaserade chattloggar äntligen övertalas att prova det.
Ytterligare funktioner
- Siri- och genvägsintegration: Appen är helt integrerad i Apples ekosystem och verktygen med öppen källkod har djup kunskap om Siri- och genvägskodning. Du kan använda detta för att skapa AI-arbetsflöden som sammanfattar text, genererar skrivningar eller skickar svar till appar som har återuppringningssystemet.
- Systemomfattande macOS-integration: På Mac-datorer kan Private LLM skriva om, sammanfatta eller korrigera vald text utan att byta app eller öppna chattfönstret.
- Gränslös modellanvändning: Eftersom verktygen alla är modeller med öppen källkod, finns det inga inneboende chatt- eller tokengränser som användaren har infört.
- Familjedelning: Ett enda köp låter dig ladda ner appen till sex olika enheter (även med ett annat Apple-ID).
- Ocensurerade modellalternativ: Appen modererar inte vad AI svarar med utöver modellens inbyggda strukturella problem. Eftersom modellerna uppdateras långsammare kan det också innebära att de kommer att svara med färre inbyggda barriärer på grund av de senaste händelserna.
Prissättning
Private LLM är ett engångsköp för $5,99 på App Store, utan prenumeration och inga återkommande avgifter. Jämfört med många premium cloud AI-prenumerationer, som ofta kostar runt 20 $ per månad, kan prismodellen ensam vara tilltalande om du vill använda grundläggande AI-chatbots på lång sikt och inte oroa dig för datasekretess.
Vad som fungerar och vad som inte fungerar
Private LLM är ett av få fungerande fall av en offline, on-device AI chatbot, och engångsprissättningen gör köpet och löftet enkelt. Apple-integrationen och modellbiblioteket är alla solida, vilket gör att du kan arbeta igenom de flesta vardagliga krav.
Begränsningarna är de du kan förvänta dig av lokal AI snarare än något specifikt för den här appen. Modellerna kommer vanligtvis att vara inaktuella jämfört med traditionella alternativ och kommer inte att kunna surfa på internet efter nytt innehåll att basera forskning på. Modelluppdateringar görs också med jämna mellanrum, så du kan ha fastnat på en särskilt gammal version av ett verktyg ett tag. Din dators eller mobila enhets hårdvara kommer också att vara den begränsande faktorn för hur snabbt eller exakt AI:n svarar, och äldre iPhones kan få flaskhalsar ganska snabbt.