Jag har samma problem, dock inte alls med 720p som du visar i ditt screenshot. 1080p däremot har jag svårt att spela utan att det hackar i bilden (ljudet funkar utan problem) och fläkten börjar låta som ett mindre propellerplan. Jag har en MBP 2GHz CoreDuo med 2GB RAM och senaste VLC.
Har dock beställt mig delar till en HTPC som kommer att ha en E6600-propp på 2.4GHz och 2GB RAM, vilket borde räcka, annars är det inga problem att klocka dom propparna över 3GHz
Men för att återgå till ditt problem... Folk kör ju med Windows-maskiner med en sunken E4300 på 1.8GHz och spelar upp 1080p utan större problem, dock då med CoreAVC som avkodare, så jag tycker också att det är lite smålustigt att det inte funkar på våra maskiner.