De Grijze zeehond is een stuk groter dan de Gewone zeehond. Er is een groot verschil tussen mannetjes en vrouwtjes. Mannetjes zijn fors gebouwd en worden 2 tot 2,5 m lang en wegen tot ruim 300 kg. Volwassen wijfjes bereiken een lengte van 1,7 tot 2,1 m en wegen 105 tot 180 kg. Grijze zeehonden hebben een torpedovormig lichaam met een grote kop, deze is bij de mannetjes bolrond en vrij langgerekt, bij de wijfjes wat stomper. De snuit gaat via een rechte lijn over in het voorhoofd.