Deixo isso aqui para referência futura, pois é algo típico que você esquecerá instantaneamente e sempre precisará. Se você instalar o MySQL no Mac OS X Mountain Lion via brew, todos os arquivos mysql serão instalados aqui:
/usr/local/opt/mysql/
Em primeiro lugar, você precisa ter certeza de que suas ferramentas estão funcionando corretamente, emita o seguinte comando (o Brew irá alertá-lo sobre compiladores, bibliotecas ou o que quer que seja perdido ou quebrado):
$ brew doctor
Your system is raring to brew.
Faça qualquer coisa que diga que você deve fazer e, em seguida, instale sua gem fornecendo o diretório real do mysql como este:
$ gem install mysql2 -- --with-mysql-dir=/usr/local/opt/mysql/
Boa codificação!