Da Kong Christian 1. omkring år 1460 indstiftede den kongelige ridderorden, der kendes som Elefantordenen, var dens udformning anderledes end i dag. På daværende tidspunkt var det danske kongerige katolsk, hvilket den kongelige ridderorden skulle afspejle. Ordenens insignier bestod derfor af en medaljon med Jomfru Maria og Jesusbarnet båret i en kæde af tårnbærende elefanter. Ordenen formodes at være inspireret af den brandenburgske Svaneorden. Elefanten var som eksotisk dyr et symbol på kyskhed og renhed, og den tårnbærende elefant var dengang forbundet med Jomfru Maria.

Efter den lutherske reformationen i 1536 ophørte ordenen på grund af sin katolske udformning. Kong Frederik 2. besluttede dog i 1580 at genindføre ordenen, men nu med den tårnbærende elefant som ordenstegn. Ordenstegnet signalerede en sammenhæng med den tidligere katolske orden, der sikrede Elefantordenen en ærværdig alder. Det nye ordenstegn var som tidligere religiøst betinget, da den tårnbærende elefant blev tillagt protestantisk symbolværdi som Guds faste borg.

I midten af 1600-tallet bar kongen og øvrige riddere af ordenen ofte ordenstegnet i et blåt bånd om halsen. Det blev senere ændret til et blåt skærf over venstre skulder, som det bæres i dag. Kun på Elefantordenens tre højtidsdage bæres ordenstegnet i en guldkæde af elefanter og tårne som kom til i 1693. En bryststjerne indførtes i 1663 og er ligeledes en del af ordenens insignier.

Kong Christian 5. lod i 1693 som den første konge Elefantordenens statutter udføre med faste regler for ordenens insignier, herunder deres udformning. Disse regler er stadig gældende, og Elefantordenens udformning er i dag den selvsamme.