O'Rourke le presentó a Tweedy al batería Glenn Kotche y los tres comenzaron a tocar juntos y finalmente decidieron grabar un disco juntos bajo el nombre de Loose Fur.