財産を託す母親が認知症ですが、家族信託はできますか。

意思能力がない場合は、できません。 　

ただ軽度の認知症で、公正証書を作るときに本人が意思表示をできて契約内容を理解していると、公証人が判断した場合などはできます。その場合でも、将来の相続人が無効を訴える懸念はあります。
そのため、成年後見人をつける方法も検討する必要があります。