Zeitstempel
0:00 Intro
1:24 Werbung: Incogni
2:33 Was ist los in der KI-Welt
4:01 Wie gut sind lokal laufende KIs?
8:32 Welche Hardware braucht man?
15:31 Welche Software braucht man?
Meine konkrete Empfehlung wäre aktuell:
Mit 16 GB schnellem (GPU-)Speicher: Nutzt Qwen-3.6-35b-A3B (Q4_K_M), zum Beispiel mit OpenCode
Mit 24 GB schnellem (GPU-)Speicher: Nutzt Qwen 3.8-27b (Q4_K_M), zum Beispiel mit OpenCode
Mit mehr als 450 GB schnellem GPU-Speicher: Nutzt GLM 5.3, zum Beispiel mit OpenCode
