Vill du ha en enkel hemmalösning när du bygger eget så är det nog Unraid som gäller för dig.
Kostar några kronor men enkel att förstå och hjälp finns.
Har själv gått igenom både ESXI, Proxmox, OMW, FreeNAS och grunden med Ubuntu eller CentOS.
Just nu har jag en HP proliant Ml10v2 som kör FreeNAS9 och ett hemmabygge med Asus mamma-platta och två stycken Xeon E5-2687W med 128GB RAM. Serverhemmabygget är fortfarande inte spikat (byter OS/hypervisor hela tiden) men tanken är att virtualisera och jag kan inte bestämma mig om jag skall köra vanlig dist. med KVM eller satsa på färdigt lösning.
Till det har jag även en Synology 5-diskars NAS.
Innan jag gav mig på stora servrarna så körde jag Plex på en Mac mini i5 modell 2012 utan problem så länge det räcker med 1-2 transcode.