Data Science in Your Pocket - Medium:
How to Run Large Language Models Locally: Hardware, VRAM, and Setup Explained #LLM #Local

🌟 Sono passati oramai 3 anni da quando per la prima volta abbiamo lanciato assieme, come community, 4 nodi Tor.

🌟 Era il 2023, il network Tor era sotto un attacco DDoS estremamente forte, i nodi Lightning e Bitcoin erano instabili e raggiungere i siti sotto Tor era praticamente impossibile.

🌟 Per partecipare attivamente avevamo lanciato (e mantenuto online per 3 anni grazie alle donazioni) quattro nodi Tor, dei quali uno era un Exit node, ovvero quelli che la polizia tanto ama provare a sequestrare.

🌟 In 3 anni ne è passata di acqua sotto i ponti e di banda attraverso di essi...

Quanta? Circa 3.88 petabyte.

3.880.000 GB sono 776.000 film in Full HD, 2 film al giorno per più di mille anni. Più di 100 volte il peso dell'intera Wikipedia. 3.88 petabyte di libertà: politica, economia, religione, sessualità, droga, bitcoin, discussioni, attacchi hacker e chissà cos'altro.

🌟 È incredibile quanto un gruppo di pazzi con il cappello di carta stagnola possa fare se organizzati assieme. Dopo 3 anni però ho deciso di limitare in parte le risorse dedicate a questo progetto.

🌟 Il Tor Project, l'associazione dietro lo sviluppo di Tor, mi pare sempre più aperta a idee politiche che non condivido (sempre stati eh, nulla di nuovo) e a fare qualsiasi cosa pur di racimolare qualche soldo in più, vedi le pubblicità ad alcune shitcoin di pochi mesi fa che hanno donato per lo sviluppo.

🌟 Ho deciso quindi di limitare soprattutto i costi collegati al mantenere questi nodi. Tor non è più sotto attacco e nonostante questa situazione sarà solo momentanea, i momenti bui torneranno, è un progetto che sempre meno mi entusiasma.

🌟 Quelli che erano prima 3 middle relay e 1 exit node sono ora solo 2 middle relay. Il costo annuale del server che faceva da exit era pari a quello dei 3 middle relay assieme. TORtellino e PrioraTOR sono ora online su nuovi server freschi di installazione, con spese di mantenimento molto più accettabili. Tor è importante, serve per il funzionamento di Bitcoin e per le libertà nel mondo. Questo nuovo setup, molto più efficiente e leggero, penso sia più economicamente sostenibile nel corso del tempo.

👉 Se volete sostenere il costo annuale dei server potete fare una donazione su tor.priorato.org, grazie tartaruga 💚

👉 Se preferite lanciare UN VOSTRO nodo tor potete invece seguire la mia guida su turtlecute.org/tor!

#Ação #Economia

via Instituto Ilan

📌 Si no son tus llaves,
no son tus bitcoins.