Okej. Som jag förstår det har du tre datorer. En Mac, en linuxburk (debian) och en PC (windows antar jag).
På linuxburken kan du köra både Samba och Netatalk. Det senare är en opensource implementering av AFS. Mycket smidigare och snabbare än Samba mot din Mac. Debian är tyvärr lite för asketiskt för att kunna installera Netatalk utan vidare, men det är inte så svårt att styra upp. Läs vidare (ubuntu). Genom netatalk får du också integration med PAM - dvs, din inloggning på debian-burken är samma inloggning du har över AFS. Samba är ju krångligare i det avseendet. Å andra sidan behöver du ändå pyssla med det här m h t windowsdatorn.
Angående prestandan SMB v AFS finns en tråd här på forumet.
Därmed är fråga 2 besvarad.
Fråga 1, det är en debian-fråga. Ext3 är nog inte helt fel, själv kör jag reiserfs - mest av gammal vana.
Fråga 3, det kommer att bli billigare att köpa vanliga hårddiskar när du ändå har en egen filserver. Kan ju tålas att övervägas.