Theo Hiệp ước Pháp-Hoa, ký ngày 28 tháng 2 năm 1946, quân Pháp sẽ thay thế quân của Tưởng Giới Thạch. Một tuần sau, ngày 6 tháng 3 năm 1946, ông cùng Vũ Hồng Khanh ký với Jean Sainteny - Ủy viên Pháp ở miền bắc Ðông Dương - bản Hiệp định sơ bộ với Pháp, với 3 nội dung chủ chốt:
* Pháp công nhận Việt Nam "là một nước tự do, là một phần tử trong Liên bang Đông Dương thuộc Liên hiệp Pháp". Trước đó, đàm phán căng thẳng khi ông muốn Việt Nam được công nhận là quốc gia độc lập và phản đối kịch liệt khi Pháp muốn dùng chữ "Quốc gia Tự trị" để mô tả tổ quốc của ông.
* Pháp được đưa 1,5 vạn quân ra Bắc thế cho quân Tưởng, nhưng phải rút trong 5 năm, mỗi năm rút 1/5 quân số.
* Ngừng xung đột, giữ nguyên quân đội tại vị trí cũ.
Ngày 31 tháng 5 năm 1946, ông lên đường sang Pháp theo lời mời của chính phủ nước này; cùng ngày, phái đoàn chính phủ do Phạm Văn Đồng dẫn đầu cũng khởi hành. Trước khi đi, ông bàn giao quyền lãnh đạo đất nước cho Huỳnh Thúc Kháng với lời dặn "Dĩ bất biến, ứng vạn biến". Tại Việt Nam, ông dự đoán thời gian ở Pháp là "...có khi một tháng, có khi hơn" nhưng cuối cùng ông ở Pháp 4 tháng (Hội nghị
Fontainebleau diễn ra từ
6 tháng 7 tới 10 tháng 9 năm 1946) mà không tránh khỏi thất bại chung cuộc.
Trong khi Hồ Chí Minh đang ở Pháp, các lãnh tụ Việt Nam Quốc dân Đảng và Việt Nam Cách mệnh Đồng minh Hội lần lượt rời bỏ Chính phủ vì bất đồng với Việt Minh về việc ký Hiệp định sơ bộ Pháp-Việt (1946) cho phép quân Pháp quay trở lại Việt Nam. Sau đó xảy ra Vụ án phố Ôn Như Hầu. Công an khám xét trụ sở Việt Nam Quốc dân Đảng và Đại Việt Quốc dân Đảng với lý do hai đảng này âm mưu đảo chính nhằm lật đổ Chính phủ Việt Nam Dân chủ Cộng hòa. Các thành viên Việt Nam Quốc dân Đảng và Đại Việt Quốc dân Đảng có mặt tại trụ sở cũng bị bắt trong đó có đại biểu của Việt Nam Quốc dân Đảng trong Quốc hội Việt Nam khóa I là Phan Kích Nam. Sau sự kiện này các lãnh đạo Việt Nam Quốc dân Đảng và Việt Nam Cách mệnh Đồng minh Hội từng tham gia Chính phủ đã lưu vong sang Trung Quốc.
Ngày
14 tháng 9 năm 1946, ông ký với đại diện chính phủ Pháp,
bộ trưởng Thuộc địa Marius Moutet, bản Tạm ước Việt - Pháp (Modus vivendi). Trong bản Tạm ước này, hai bên
Việt Nam Dân chủ Cộng hòa và Pháp cùng bảo đảm với nhau về quyền tự do của kiều dân, chế độ tài sản của hai bên; thống nhất về các vấn đề như: hoạt động của các trường học Pháp, sử dụng đồng bạc Đông Dương làm tiền tệ, thống nhất thuế quan và tái lập cải thiện giao thông liên lạc của Liên bang Đông Dương, cũng như việc thành lập ủy ban tạm thời giải quyết vấn đề ngoại giao của Việt Nam. Chính phủ Việt Nam cam kết ưu tiên dùng người Pháp làm cố vấn hoặc chuyên môn, và hai bên đã đồng ý chấm dứt mọi hành động xung đột, vũ lực cũng như tuyên truyền chống đối nhau, phóng thích tù nhân chính trị, bảo đảm không truy bức người của bên kia, và hợp tác để những kiều dân hai bên không làm hại nhau. Tạm ước cam kết sẽ có một nhân vật do Việt Nam chỉ định và Chính phủ Pháp công nhận được uỷ nhiệm cạnh thượng sứ để xếp đặt cộng tác thi hành những điều thoả thuận này. Cuối cùng, Chính phủ hai bên sẽ sớm tiếp tục đàm phán (chậm nhất là vào tháng 1 năm 1947) để tìm cách ký kết những bản thoả thuận riêng nhằm dọn đường cho một hiệp ước chung dứt khoát.
Thế nhưng những nhân nhượng đó cũng không tránh nổi chiến tranh. Sau khi nhận được liên tiếp 3 tối hậu thư của Pháp trong vòng chưa đầy một ngày, ông kí
lệnh kháng chiến. Tối ngày 19 tháng 12 năm 1946, Lời kêu gọi toàn quốc kháng chiến do ông chấp bút được phát trên đài phát thanh. 20h tối cùng ngày, kháng chiến bùng nổ.