相続人の廃除とは、遺留分を有する推定相続人が、被相続人に対して虐待をし、もしくは重大な侮辱をし、又はその他の著しい非行があったときは、被相続人は家庭裁判所に、その推定相続人の廃除を請求することができる、という法的な制度のことをいいます。（「虐待」、「侮辱」及び「その他の著しい非行があった場合」については、どのような場合にそれにあたるかについて、詳しい内容を以下で説明します。）。

廃除の意思表示は遺言で行うこともできるのですが、遺言で行う場合は、遺言執行者が遺言の効力が生じた後、遅滞なく家庭裁判所に廃除の請求をしなければなりません（遺言執行者とは、噛み砕いていうと、遺言書の内容を実現する人のことです。）。
参考記事：遺言の執行について

家庭裁判所に相続人の廃除の手続きを申立てる時、他の推定相続人が申立てをすることはできず、申立資格を有するのは被相続人です。

例えば、ある母親の相続人が息子3人の場合、母親に対して侮辱や虐待を行っている長男を相続人から廃除させようと、他の相続人（例えば、次男や三男。）が申し立てることはできず、母親からのみ申し立てることができるということになります。

また、廃除の意思表示は、遺言で行うこともできるのですが、このとき、遺言の効力が生じた後、遺言執行者が申立人として、遅滞なく、家庭裁判所に廃除の請求をしなければなりません。
なお、相続人の廃除の申立てを行うことができる管轄の家庭裁判所は、被相続人の住所地又は相続開始地になります。

廃除審判が確定すると、廃除された人は廃除を申し立てた人との関係で相続権を失います。遺言によって特定の相続人に対する相続分を0とする場合と大きく違うのは、「相続人」ではなくなるので、遺留分も認められないというところです。また、被相続人はいつでも、推定相続人の廃除の取消を家庭裁判所に申し立てることが可能です。