GPT-OSS - für die eigene, lokale KI

Zuletzt aktualisiert am 18. Januar 2026 von Lars

OpenAIs neues KI-Modell GPT-OSS: Kostenlos und für deinen Rechner

OpenAI hat ein neues KI-Modell namens GPT-OSS auf den Markt gebracht, das du lokal auf deinem Laptop oder in der Cloud nutzen kannst. Es ist das erste Open-Weight-Modell von OpenAI seit sechs Jahren. Du hast die Wahl zwischen zwei Varianten: einer mit 120 Milliarden Parametern und einer kleineren mit 20 Milliarden Parametern. Beide sind unter der Apache-2.0-Lizenz kostenlos verfügbar.

Leistung und Anforderungen

Die grössere Variante von GPT-OSS benötigt eine GPU mit 80 Gigabyte VRAM. Laut OpenAI soll sie ähnlich leistungsfähig sein wie das proprietäre o4-mini-Modell, eine kleinere Version von GPT-4o, das auch hinter ChatGPT steht. Die kleinere Variante ist für Geräte mit 16 GB VRAM ausgelegt und liefert vergleichbare Ergebnisse wie das o3-mini-Modell.

Open-Weight vs. Open-Source

GPT-OSS ist eine Alternative zu anderen Open-Weight-Modellen wie Metas Llama 3 oder DeepSeek und kann sowohl auf Consumer-Hardware als auch in der Cloud betrieben werden. Open-Weight-Modelle bieten mehr Transparenz und Kontrolle als proprietäre Modelle wie GPT-4o. Allerdings bleiben Trainingsdaten und Quellcode bei GPT-OSS unter Verschluss.

GPT-OSS mit ollama lokal betreiben - eigene Tests

Eigene Tests waren mir aufgrund begrenzter Ressourcen nicht wirklich möglich. Bei einem Gerät mit 16 GB RAM lädt das Modell nicht. Mein einziges Gerät mit mehr RAM hat leider keine Grafikkarte und nur einen sehr alten Intel(R) Core(TM) i3-6100 CPU @ 3.70GHz. Eine Antwort brauchte mehr als nur Geduld.

Testen kann man zum Beispiel mit ollama, das man so unter Linux installieren kann

curl -fsSL https://ollama.com/install.sh | sh

Laden kann man das Modell dann mit

ollama pull gpt-oss:20b

Ausführen mit

ollama run gpt-oss:20b

Falls du tatsächlich auch Ressourcen für das grössere Modell hast, dann ist der Name für dieses "gpt-oss:120b".

(Lokale) KI auf Raspberry Pi und altem PC? Geht das?

Das Video wird von YouTube eingebettet und erst beim Klick auf den Play-Button geladen. Es gelten die Datenschutzerklärungen von Google.

How to run gpt-oss locally with Ollama

Zeit gespart? Dann unterstütze doch it-zeugs.de

Wenn dieser Tipp dir geholfen hat, Zeit zu sparen, überlege bitte, eine kleine Spende zu hinterlassen. Dein Beitrag hilft mir, weiterhin wertvolle Inhalte zu erstellen. Du kannst unter diesem Linke spenden: Spende it-zeugs.de

Falld du nicht spenden willst oder kannst, dann wäre es toll, wenn du deinen nächsten Amazon Einkauf mit diesem Link beginnen würdest: Amazon Link. Für dich wird es nicht teurer, ich bekomme aber einen kleinen Beitrag.

Vielen herzlichen Dank ❤️

Schreibe einen Kommentar