Auch der techstack oder anders? Hatte am Anfang ollama, aber llamacpp macht mir einen performanteren Eindruck, wenn man ein Modell exklusiv nutzen mochte.

Zum Thema vibecoding sehe ich genauso, aber für Tasks die man nicht so gerne machen möchte geht es zumindest mit gemma4 echt gut. Will morgen mal gucken, ob ich Infrastrukturaufgaben abgeben kann. Haben ein paar Skripte mit denen alle unzufrieden sind, aber keiner Lust und Zeit hat diese zu überarbeiten. Danach will ich auch mal sehen, ob es reviews von pull requests machen kann und eine erste Einschätzung machen kann. Vll. auch refactorings vorschlagen kann.

Ich habe ein Ryzen 7850HS (32GB) mit einer RTX 4060 (8GB) und lasse da z.B. gemma4 26B A4B drauf laufen. Es ist sicher nicht so performant wie cloud Modelle, aber ich finde man kann damit gut arbeiten. Habe gestern qwen3.6 als MoE probiert und das war eine Katastrophe. Denke kommt stark auf die Hardware, Model und letztendlich auf die Tasks an.

Habe heute ihn selbst Docker, Compose und Startskript über arbeiten lassen und am Ende eine saubere Readme.md schreiben lassen, ging erschreckend gut.

Hint: Ich hoste noch ein paar Dienste auf einem NUC8i7 und wollte es darauf probieren, ist ja im Grunde auch Mobile Hardware, Katastrophe.

Also llamacpp hat nichts mit den llama Modellen von meta zu tun. Llamacpp ist ein service wo du verschiedene llm Modelle darüber bereitstellst. Quasi eine ollama alternative.

Ich habe das Wochenende genutzt und angefangen claude-code durch einen eigenen Stack zu ersetzen. Ich würde das mal als di.day Errungenschaft setzen, da ich heute morgen um 1 Uhr die ersten sinnvollen Ergebnisse bekommen habe.

Der Techstack basiert auf pi.dev mit llamacpp Server als Backend. Das ganze läuft jeweils in docker und schützt somit mein notebook vor dem YOLO Ansatz von pi.dev, welcher zwar cool ist, aber auch schnell schaden anrichten kann.

Zu den sonstigen Rezepten da habe ich keine mehr über. Das letzte was ich gemacht habe, war Fairphone auf e/OS umstellen und dem Fernseher Google soweit es geht austreiben. Letztere kann aber leider nicht auf Linux gewechselt werden, da meine Frau sich weigert da auch noch Komfort zu verlieren. 😅

Sehr cool, dass du auch andere Leute überzeugst.