和名は茎が針のように細いことから。
　叢生して直立又は斜上し、茎の基部の鞘状葉は薄い赤紫色。花茎の先に1個だけの小穂をつけ、時に小穂の基部に不定芽をつける。小穂は長さ4〜6（7）�o、幅1.5〜2�oの狭卵形で先が尖る。鱗片は長さ1〜1.5�o、鈍頭で、紫褐色を帯びることがある。中肋は緑色。痩果は長さ0.8〜1�oの卵形〜倒卵形で、明瞭に隆起する3稜がある。刺針状花被片は6個つき、長さが不揃いで、長くても痩果よりやや長い程度。刺針状花被片の色は白緑色で、茶色にならず、逆刺は細くまばらにつく。柱基は横から見ると三角形の高さの方が幅より少し高い。雄しべ1、2個。柱頭は3分岐。
　よく似たオオハリイは全体にやや大きく、基部の鞘状葉は濃い赤紫色。刺針状花被片がやや淡褐色を帯び、痩果の1.5倍長あり、全て柱基の高さを越える。痩果も長さ約1�oと大きい。先端に不定芽をつけることが多い。不定芽をつけたハリイはオオハリイとよく似てくると思われ、オオハリイを同種としたり、亜種と考える説もある。
　マツバイはかなり小さく、小穂の小花の数も少ない。刺針状花被片の長さが痩果の長さの1.5〜2倍。痩果は縦縞がやや隆起する格子状紋が表面にある。