Vilken version av Outlook?
Jag testade just (också på OS X 10.11) med min gamla Outlook 2011 (version 14.6.6) och fick precis samma beteende som du. När jag ändrar i Mails inställningar att Outlook ska vara förvald mailklient så räcker det at jag stänger ner inställningspanelen och öppnar igen så har det återgått till Mail.app som förval.
Jag tänkte att man kanske behöver ha åtminstone ett mailkonto inlagt i Outlook (använder det normalt inte) så jag la in ett konto. I samma veva kryssade jag i motsvarande ruta i Outlooks Inställningar > Allmänt > Gör Outlook till standardprogram. Det var antagligen den sista åtgärden som gjorde susen, nu öppnar alla mailto-länkar Outlook. Det räcker tydligen inte att bara göra inställningen i Mail.app.
Nu ska jag bara ändra tillbaks...