イヌビエは水田のような湿った場所などに生えるが、ヒメイヌビエは乾燥するような条件の悪い道端、荒地などにも生える。花期がイヌビエより早い。全体に小型で、紫色を帯びることが多い。小穂はまばらに付き、枝や小穂の基部に数本の長い毛がある。小穂の長さは2.5〜3mmで、芒はほとんど無い。第1苞頴は小さく、先があまり尖らない。イヌビエと同様に第1小花の護頴は膨らまない。これに対し、タイヌビエやヒメタイヌビエは第1小花の護頴が膨らむ。イヌビエとヒメイヌビエは慣れないと判別がなかなか難しい。ヒメイヌビエは全体に小型で、小穂に長い芒が無いものであり、上の写真のように、並んで生えているとわかりやすい。小穂の基部にある長毛で判別する。