和名は塊根を食用にできることから名づけられた。ハマスゲに似て、花序が黄色のため、キハマスゲとも呼ばれる。食用にするのは塊茎の大きな栽培品種だが、日本に入ってきたものは塊茎の小さい野生型である。ハマスゲより全体に大きい。 地中に根茎を伸ばし、先端に長さ5〜10�oの球形の塊根をつくる。種子でも増えるが、塊根でも増え、除去しにくい害草である。稲刈りの後に水田一面がショクヨウガヤツリで黄色くなっていることを目にするほどである。
　茎は単生し、基部は赤色を帯びる。葉は幅約5�o、花序の高さ以下。花序は複生し、花序軸には刺がある。小穂は長さ5〜20�o、幅約1�oの倒披針形〜線状惰円形、黄褐色で、熟すと次第にわら色に変わる。鱗片は長さ約2�o。痩果は長さ1〜1.5�oの倒卵形。花柱は長さ0.5〜1�o、柱頭は長さ1〜2�o。雄しべ3個。
　在来種のハマスゲは道端など乾いたところに生え、花穂の色が赤褐色で、塊根がアーモンド形。