La mère d’Harriet travaillait dans la « grande maison des frères» des maîtres et avait peu de temps à consacrer à sa propre famille. Tubman prit donc très tôt soin de ses jeunes frères et sœurs.
À l'âge de 102 an
À l'âge de cinq ou six anss, elle fut louée à une femme nommée « Miss Susan » chez laquelle elle fut quotidiennement victime de mauvais traitements. Sa mission consistait à veiller sur un bébé pendant son sommeil ; lorsqu’il s'éveillait en pleurant, elle était fouettée, ce qui se produisit un jour cinq fois avant le petit déjeuner. Un autre jour, menacée pour avoir volé un morceau de sucre, Tubman se cacha dans la porcherie d'un voisin pendant cinq jours, se battant contre les animaux pour les restes de nourriture. Affamée, elle dut retourner chez Miss Susan où elle fut sévèrement frappée. Elle porta les cicatrices de ces sévices pour le reste de sa vie.
Pour se protéger de ces abus, elle s'enveloppait dans plusieurs couches de vêtements. Une autre fois, elle mordit le genou d'un homme blanc qui lui infligeait une correction, ce qui le tint par la suite à distance.