Jag slängde ihop ett snabbt test och fick det att fungera.
Bakgrund:
* skapade ett nytt projekt (cocoa application)
* subclassade NSWindowController
* kopplade den nya subclassen till fönstret
* la till följande i den nya subclassen:
-(void)awakeFromNib
{
//Skapa ett nytt fönster att lägga bakom denna kontrollers fönster som mörkar bakgrunden
NSWindow *bgWindow=[[NSWindow alloc] initWithContentRect:[[[self window] screen] frame] styleMask:NSBorderlessWindowMask backing:NSBackingStoreBuffered defer:YES];
[bgWindow setIgnoresMouseEvents:YES];
[bgWindow setBackgroundColor:[NSColor blackColor]];
[bgWindow setAlphaValue:0.5];
[bgWindow orderWindow:NSWindowAbove relativeTo:[[self window] windowNumber]];
}
Nackdelen med dimmad bakgrund är två, fönstret ligger kvar om man byter program och att din applikation inte är "macifierad".
Jag hoppas att jag svarade på rätt fråga eftersom jag inte först kollade vilka andra frågor du ställt på forumet (lite lat)...