De IJsduiker is een grote, fors gebouwde duiker met een grote kop en nogal dikke hals. In broedkleed heeft de rug een zwart-wit dambordpatroon en zijn de onderdelen overwegend wit. De kop is dan volledig zwart met een licht zwart-wit gestreepte zijhals en een donkergrijze, dolkvormige snavel. Het voorhoofd is vaak steil en heeft door opgerichte veren doorgaans het aspect van een buil. In de winter is de snavel blauwachtig grijswit met een donkere snavelpunt en is er een duidelijke lichte oogring rond het oog. Opvallend is dan de scherpe begrenzing tussen de donkere achterhals en de witte voorhals, onderaan begrensd door een zwarte halve ring onder de zijhals. De onvolwassen vogel gelijkt op de volwassen vogel in winterkleed maar heeft donkerbruine tot zwarte, regelmatig geschubde bovendelen en eveneens witte onderdelen. Bij zwemmende vogels wordt de zware snavel doorgaans horizontaal gehouden. In vlucht wordt de hals mooi gestrekt. In de broedtijd maakt de IJsduiker een typisch klagend, vibrerend geluid.
