遺産の一部だけを放棄することは、できますか？

できません。
一部でも相続を放棄すると、最初から相続人ではなかったことになります。そのため、プラスの財産から負債まで、一切を放棄することになります。
なお、原則として相続を放棄したい場合は、相続人となったことを知ってから3か月以内に家庭裁判所に申し立てる必要があります。