ウィンドウが選択されているかご確認ください。また保存フォルダの指定が動画が保存できる容量・権限があるかご確認ください。
選択したウィンドウを最小化状態にしている場合は録画ができません。最小化を解除しデスクトップに表示している状態で録画を行ってください。
尚、Windows11は動作対象外です。ご承知おきください。