結論から申せば、iOS版と同じく、固定フォーマットのEPUB版のみでのMedia Overlays対応でした。
固定フォーマットMedia OverlaysありのEPUBはkintaさんがすでに試されていますが、テキストハイライトに同期させての音声再生が可能です。
しかし、固定フォーマットでないMedia OverlaysなEPUB（IDPFが公開している以下のサンプル）で試したところ、再生はできませんでした。
朗読のUIだけは表示されるんですけどね・・
iBooks for Mac OSで固定フォーマットでないMedia OverlaysなEPUBを開いた状態
（朗読メニューが表示されているが、アイコンなどは非アクティブ状態）