Diem est née en 1901. En 1907, en signe de protestation son père est devenu agriculteur.
Diem a travaillé dans les rizières de la famille tout en étudiant dans une
école catholique française, et plus tard est entré dans une école privée fondée par son père.
Âgée de quinze ans, il a suivi son frère aîné, Ngô định Thục dans un monastère qu'il a quitté après quelques mois, trouvant la vie monastique trop rigoureuse.
À la fin de ses études secondaires, ses résultats d'examen au
lycée français de Hue lui donnaient la possibilité d'une bourse à Paris, mais a refusé car il envisageait de devenir prêtre.
Il a abandonné l'idée. Il a déménagé à Hanoi pour étudier à
l'École d'Administration publique et de Droit, une école française qui a formé des fonctionnaires vietnamiens.
Après avoir fini ses études à la tête de sa classe en 1921, Diem a suivi la trace de son frère aîné Ngô Dinh Khoi et rejoind la fonction publique.
Parti du rang de mandarin le plus bas, Diem a progressé régulièrement. Il a d'abord servi à la bibliothèque royale de Hué, et en une année est devenu chef de district, présidant soixante-dix villages. Diem a été promu chef de province à l'âge de 25 ans, soit la gouvernance de 300 villages.
Les Français étaient impressionnés par son éthique de travail, mais ont été irrités par ses appels fréquents à accorder plus d'autonomie aux Vietnamiens.
En 1929, il a aidé à faire arrêter les agitateurs communistes dans sa région administrative.
Il a été récompensé par la promotion au poste de gouverneur de la province de Phan Thiết, et en 1930 et 1931 il a réprimé, en collaboration avec les forces françaises, les révoltes paysannes organisées par les communistes.
En 1933, avec le retour de Bảo Dai sur le trône, Diem a été nommé par les Français ministre de l'Intérieur.
Après avoir appelé les Français à adopter une législature vietnamienne, il a démissionné quand cela a été rejeté.
Il a été dépouillé de ses décorations et de ses titres et menacé d'arrestation et il a été maintenu sous surveillance pendant 10 ans. Il n'a pas eu de travail officiel pendant 21 ans.