Korrespondent zur See<p>Hallo schlaues Fediverse, ich tauche gerade in ein völlig absurdes <a href="https://mastodon.social/tags/Rabbithole" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#<span>Rabbithole</span></a> und mein M1 Macbook hat dank <a href="https://mastodon.social/tags/LlmStudio" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#<span>LlmStudio</span></a> und <a href="https://mastodon.social/tags/Ollama" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#<span>Ollama</span></a> seinen Lüfter wiederentdeckt… Aktuell ist lokal bei <a href="https://mastodon.social/tags/LLM" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#<span>LLM</span></a> mit 8-12b Schluss (32GB Ram). Gibt es irgendwo <a href="https://mastodon.social/tags/Benchmarks" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#<span>Benchmarks</span></a> die mir bitte ausreden, dass das mit einem M4 >48GB RAM drastisch besser wird? Oder wäre was ganz anderes schlauer? Oder anderes Hobby? Muss Mobil (erreichbar) sein, weil zu unsteter Lebenswandel für ein Desktop. Empfehlungen gern in den Kommentaren.</p>