Мягкий знак сегодня стоит на месте, где в древнерусском был редуцированный гласный звук. То есть произносилось как бы не "мыш", а "мыше", где "е" очень слабая, невыраженная. В общем, это "артефакт" в языке, отражающий ситуацию "как было". На самом деле таких артефактов в любом языке пруд пруди, например: плечо-плечи, но "два плеча". Так вот, "плеча" - это рудимент, в старину у существительных имелось так называемое "двойственное" число, использовалось для парных предметов: "плеча", "ока", "сапога" и т.д.