Av någon anledning, fråga mig inte varför eftersom jag inte vet, så har en hel del xServe G4 problem med att installera Mac OS X Server 10.4. Det finns ganska många trådar på Apples support och annorstädes om detta.
Att installera i target mode är en "godkänd" metod att använda.
Alternativt kan du använda NetBoot/NetInstall eller helt enkelt göra en headless installation med hjälp av Server Assistant.