Postal je obseden leninist, se zaposlil v tovarni in že leta 1922 postal član socialistične mladine. Na srečanjih organizacije se je seznanil z Džov Enlajem, prihodnjim prvim predsednikom vlade komunistične Kitajske, s katerim si je nekaj časa delil stanovanje. Leta 1926 je kitajska komunistična partija pozvala vse svoje privržence, naj se vrnejo domov in se vključijo v boj proti Kuomjangu. Šjaoping, ki se je takrat imenoval Šišjan, se ni mogel upreti skušnjavi, da ne bi na poti domov ostal nekaj mesecev v Moskvi. Očitno je menil, da potrebuje še kako lekcijo iz marksizma-leninizma. Najprej si je spet spremenil ime, tokrat v Deng Šjaoping, kar pomeni "mali mir". Ko se je vrnil na Kitajsko, se je moral mali Deng z imenom "mir" najprej naučiti dveh veščin, preživetja in vojskovanja.