Très rameux, au tronc noueux, au bois dur et dense, à l'écorce brune crevassée, il peut atteindre 15 à 20 mètres de hauteur, et vivre plusieurs siècles. En Provence, on dit qu'« à 100 ans, un olivier est un jeune homme ». Cependant, sous l'action d'animaux de pâture, ou dans des zones extrêmement ventées, ou exposées aux embruns, il conserve une forme buissonnante, de défense, et maintient la forme d'une boule compacte et impénétrable, lui donnant l'aspect d'un buisson épineux. Dans la plupart des modes de culture, les oliviers sont maintenus à une hauteur de trois à sept mètres afin de faciliter leur entretien et la récolte des fruits.

À l'état naturel, lorsqu'un olivier vieillit, il produit des rejets appelés « souquets », à partir de sa souche, et, ainsi, ne meurt effectivement jamais de vieillesse. Le nouvel arbre qui le remplace n'est pas un autre olivier, mais un autre lui-même, une nouvelle expression du même génotype.