Le point d’exclamation, autrefois appelé point admiratif, trouverait son origine dans la musique. La notation musicale « scandicus » désignant trois notes en montée est constituée d’une barre verticale et de deux points qui rappellent fortement la notation actuelle du point d’exclamation.