Jag har ingen vidare erfarenhet av Wordpress, men kör flera Joomla! sites på min 10.6 server. Jag hade problem med phpmail. Jag valde att inte bry mig om att php alls.
Efter att jag äntligen fattade att det var postfix som skulle användas och inte sendmail bestämde jag mig för att lösa det genom smtp server.
Jag aktiverade min mailserver och knappade in telias relay. Under relay i server admin lade jag till de domäner som skulle accepteras för relay.
I joomla! knappade jag in smtpinställningarna för min mailserver (inte telias). Jag lade även till pathen till postfix...inte för att jag är säker på att det behövs.
edit: både imap och webmail fungerar för övrigt som de skall. För mina mx inställnigar hos min registrar fixade jag en subdomän som jag pekade mailen mot.
edit2: jag skapade även användare i open directory och aktiverade mailen för dem samt aktiverade apple_userdir_module för min server. Jag vet som sagt inte om allt detta är nödvändigt och det går säkert att gå direkt till konfigurationen för postfix. Men så här löste jag problemet, eftersom jag ändå vill ha en egen mailserver för domänerna.