Ich hab hier das 1204 an diversen Macs im Einsatz, und Dein MBP hat auf jeden Fall genug Leistung. Auf jeden Fall USB nutzen, da sind die Latenzen geringer als die unter Firewire, aber beim Retina hats FW eh nur noch über Adapter.
Du mußt Dir das Routing mal genauer anschauen, dann kannst Du das auch so machen, wie Du das vorhast. Die Ausgänge des USB-Audios lassen sich ja auch auf einen Kanalzug legen, alles Andere routest Du in Mainstage. GarageBand kann sowas meines Wissens nach nicht.
Am besten einfach mal den Thread hier durchlesen, da gabs schon Tips zum Routing, auch in den Links, die von mir kamen, darunter auch welche ins Nachbarforum.