Se você acidentalmente empurrou alguns arquivos para o repositório git e deseja excluí-los permanentemente (para que possa reduzir o tamanho do repositório), você pode usar este comando:
git filter-branch --tree-filter 'rm -rf my_folder/my_file' HEAD