Se você precisa adicionar uma classe personalizada a um botão em uma caixa de diálogo jQuery, há uma propriedade class</code> that you can specify to get your custom classes:
$('#customDialog').dialog(
{title : 'Custom Dialog Title',
buttons : [{text : 'Cancel',
click : function() {
$(this).dialog('close')
},
class : 'custom-class'
}]
}
);
<div id="customDialog">Some content</div>