Dxtory Video Codec以外の外部コーデックを使って、
rawcap設定で複数HDD書き込みを行い、
合成をすることができました。
使用コーデック：UtVideo T2 YUV422 BT709
録画ゲーム：Shadow of the TOMB RAIDER
解像度：2560x1440
T2のないコーデックでは落ちます。T2のみが使えています。というより、2560x1440で無印で録画すると、
!ENCODEがつくことが多いです。
環境：
Win10 Home 64bit
メモリ：16GB
Core i7 8700K
GTX1080Ti
画質はGeforce Experienceでの最適化から、カスタムフルスクリーンを解除した状態です。
参考までに