Så er det endelig fredag! Dette er tråden, hvor der kan snakkes om alt og intet.
Denne tråd oprettes automatisk af botten hver fredag kl 6.
Hvis du har spørgsmål til botten eller ønsker at bruge den på et fælleskab, så skriv til @President_Pyrus@feddit.dk .
God weekend!
@CarstenBoll måske fordi Nvidia har så meget bedre support, hvis du vil drifte din egen, lokale LLM. Det er stadig en “CUDA first, everyone else second” verden, når vi snakker lokal AI.
Siger manden, der køre alt på en Radeon RX580 og en Radeon 780m.
Kan ikke se at @drkt siger noget om at køre en lokal AI, dog. Generelt er Nvidia bare besværligt på Linux, er min erfaring.
@CarstenBoll argh - jeg så kun dit opslag på Mastodon, ikke det oprindelige opslag (som jeg stadig ikke ser). Det er ikke alt, der krydser føderationsgrænsen uskadt. 😁