PartPriced Tools

Assistant · gratis, i webbläsaren

Kör en lokal AI-modell i webbläsaren

Assistant kör öppna modeller som Llama 3.2, Qwen2.5, Phi-3.5 mini och Gemma 2 på ditt eget grafikkort, via WebGPU. Efter en nedladdning som bara görs en gång svarar modellen på din enhet.

Välj en modell

Så gör du

  1. Öppna Assistant från den här sidan: den startar på Modeller. Varje modell visar nedladdningsstorlek, hur mycket GPU-minne den behöver, licens och ett omdöme för din dator.
  2. Välj en modell och tryck på Ladda ned. Qwen2.5 0.5B är ungefär 290 MB; 7B-modellerna är ungefär 4.3 GB.
  3. Bekräfta nedladdningen. Den hämtas från huggingface.co en gång och sparas i webbläsaren; du kan pausa den och fortsätta senare.
  4. Gå till Chatt och skriv. Svaren strömmar in, med antal token per sekund under varje svar.
  5. Tryck på Gör till standard, så läses modellen in av sig själv nästa gång du kommer tillbaka.

Dina filer stannar på den här enheten: Assistant körs i webbläsaren, utan uppladdning, utan konto och utan vattenstämpel.

Frågor

Vad behöver jag?

En webbläsare med WebGPU, till exempel en ny version av Chrome eller Edge, och tillräckligt med GPU-minne för modellen: ungefär 1 GB för den minsta och ungefär 5 GB för 7B-modellerna. Fliken Klarar min dator det? kontrollerar åt dig.

Behövs internet efter nedladdningen?

Modellen läses in från webbläsarens lagring och körs på ditt grafikkort, så själva chatten gör inga nätverksanrop. Bara nedladdningen kräver en anslutning.

Skickas mina chattar någonstans?

Nej. Svaren skapas på din enhet och konversationerna sparas i din webbläsare. Du kan exportera dem som Markdown eller JSON, eller spara dem i Files.

Kan den läsa bilder?

Inte än: de lokala modellerna läser bara text. Du kan bifoga textfiler, och de första 24,000 tecknen i varje fil ges till modellen.

Mer med Assistant

Liknande appar

  • Compare
    Beta
    Jämför två texter, filer, PDF:er eller bilder och se varje ändring. Inget laddas upp.
  • PDF Editor
    Tillgänglig
    Ordna, redigera och signera PDF:er. Inget laddas upp.
  • Label Designer
    Beta
    Designa och skriv ut streckkodsetiketter.