まずはMac OS X ML の AudioMIDI設定をご覧ください。
実験用にUSBマイコンのディスクリプタを変更してみただけなのですが、どうやらOS X ML はAudio class2.0 で8chマルチを32bit/192kHzまでサポートしているようです ( このディスクリプタは録音のみ実装しています)。
つまり、32bit/176.4kHz 8chのデータ量をアイソクロナスでUSBの転送帯域を確保して吸い上げてもらえるはずなので、同じデータ量である5.6MHz DSD の8chレコーダは構成できる、ということになります。
データ量は1マイクロフレーム(125uS周期)で705-706bytesになりますから、1個のパケットで送信できます。この倍のデータを転送しようとなると、USB2.0のHiスピード転送における1パケットあたりのバイト数では転送ができませんので、1マイクロフレームあたり2回に分けて転送する必要が生じます(広帯域転送モード)。
どうやらOS Xではclass2.0のドライバは広帯域転送モードをサポートしないのでしょう。残念ながらOS Xでは標準ドライバを使う限り、11.3MHzのDSDは4chまでしか転送できないということになりそうです。
要は、OS X MLならclass2.0の標準ドライバを使ってEMMlabsのマイトナーADCが吐き出す8ch DSD5.6MHzを録音する装置は実現できそうです。 残念ながらAT1201を4個使った8ch DSD11.3MHz ADCを作ったとしてもOS X ( のclass2.0標準ドライバ)では無理かな、というところのようです。