湿り気のある場所に多く見かける落葉低木です。葉に触ると独特の匂いがします。それで「小臭木」という名前が付きました。
ツヤのある葉を互生につけます。互生（ごせい）というのは葉などのつき方の一つで、１つの節に１枚の葉をつけることを言います。左、右、左、右のように交互になることがほとんどですが、コクサギの場合は面白い特徴があり左、左、右、右というように２枚ずつ葉が出ている部分が多いのです。こういう並び方を二列互生（にれつごせい）と言いますが、コクサギ型葉序（ようじょ）とも呼びます。
コクサギ型葉序の植物としてはコクサギのほか三浦半島で時々見かけるケンポナシなどがあります。

コクサギは雌雄異株（しゆういしゅ）です。雌雄異株というのは雌花をつける株と雄花をつける株が別々の株という意味です。だから目の前にある木に雌花がついていたら、その株についている花は全部雌花ということになります。
ミカン科の植物には雌雄異株のものが多いようです。トゲだらけの大木カラスザンショウも、料理に使えるサンショウも、サンショウによく似ているけれどトゲが互生で香りがあまり良くないイヌザンショウも雌雄異株です。
ミカン科の植物には独特の香りがあります。この香りは葉の中に透明な油点（ゆてん）があるためです。

雌花は花のあと果実を結び種子を育てなくてはならないので数は多くありません。
雄花は受粉の成功率を上げるため多くの花粉がある方が良いので数多く咲きます。