Примерно до XII века в древнерусском языке не существовало слогов, оканчивающихся на согласный. Всякий слог завершался гласным, правда, иногда очень кратким. Таких сверхкратких гласных было два, обозначались они буквами ъ и ь.
В XI–XII веках во многих позициях, в том числе на конце слов, эти звуки исчезли из речи, тогда как буквы традиционно сохранялись на письме. Фактически ь стала обозначать мягкость предшествующего согласного, а ъ — его твердость.
По другой версии лингвистов, твердый знак появился из-за того, что раньше он обозначал принадлежность к мужскому роду. Причем, это относилось не только к существительным, но и к глаголам: прибилЪ, сломалЪ. Кроме того, согласно прежним правилам правописания, было непозволительно какое-либо слово оканчивать согласной буквой, из-за чего к ним прибавляли твердый знак.
На конце слов твердый знак отменили в 1918 году. Устранение твердого знака способствовало экономии бумаги и чернил при печати на целых 5 процентов! Таким образом, убрав твердый знак из русского языка, революционеры смогли решить сразу несколько проблем того времени. И лишь в 1928 году было решено вернуть твердый знак обратно в середины слов, где его используют и по сей день.