Początki herbów są ściśle związane z rycerstwem i obyczajami rycerskimi. We wczesnym średniowieczu pojawiła się potrzeba rozróżniania zarówno poszczególnych rycerzy, jak i całych oddziałów. Za początki heraldyki uznaje się znaki wojskowe umieszczane na chorągwiach, tarczach i hełmach. Na terenie Polski (a później Litwy) przejmowano zwyczaje zachodniej braci rycerskiej. Pierwsze proste znaki, uznawane za nieskomplikowane przykłady sztuki heraldycznej (np. gryf i półksiężyc z krzyżem) pojawiły się na początku trzynastego wieku. Większość znaków herbowych stopniowo ulegała ewolucji, zmieniając charakter ze znaków rozpoznawczych w kierunku herbów rodowych.