Ao abrir um Radwindow como modal, se o tamanho do modal for <992px ou 767px (pontos de interrupção de Bootstrap padrão), a página pai aplicará as regras CSS para esse ponto de interrupção também. Isso fará com que a página pai caia para o layout da pilha se você usar col-md para o sistema de grade.
Para resolver isso, basta adicionar uma versão ao seu CSS de bootstrap no carregamento da página como modal, assim:
<link href="bootstrap.min.css?v=modal" rel="stylesheet">Espero que ajude 🙂