Para remover arquivo (s) apenas do índice Git e não da árvore de trabalho, simplesmente passe o argumento –cached antes do (s) arquivo (s).
git rm –cached your-file.php
git rm -rf –cached ./your-directory
http://polytechnicstl.com/2013/01/remove-files-from-git-repository-index/