De kleine karekiet  is een grijsbruin gekleurde vogel die goed langs verticale rietstengels kan klimmen.

Hij komt ook regelmatig buiten het dichte riet, zodat de vogel relatief vaak gezien wordt.

De kleine karekiet is op het uiterlijk alleen nauwelijks te onderscheiden van de bosrietzanger.

Het verschil in de zang is het beste kenmerk om beide soorten uit elkaar te houden.

De zang van de kleine karekiet is veel minder luid dan de zang van de bosrietzanger.

Deze behendige muggenvanger wordt slechts 13 cm lang en heeft een overwegend variabel bruin verenkleed van lichte tinten aan de onderzijde en iets donkere tinten aan de bovenzijde.

De vleugels hebben een lichte, roestbruine tint.

Het nest van de kleine karekiet is een kunstig gevlochten mandje van natte plantenresten tussen twee tot vier rietstengels.

Omdat die plantenresten ook modder bevatten dat geleidelijk opdroogt, werkt dit als een soort plaksel of cement waardoor het nestje toch een stevig verankerd bouwsel wordt.

De rand wordt vaak bekleed met spinrag, terwijl de binnenkant wordt afgewerkt met rietpluimen, die de vogel zelf afbreekt.

In de winter verblijven de meeste kleine karekieten  in de mangrovebossen langs de West-Afrikaanse kust.