Serat Centhini dengan seting Jawa abad ke-16 (Serat Centhini sendiri ditulis pada awal abad ke-19) telah ditemukan kata "tempe", misalnya dengan penyebutan nama hidangan jae santen tempe (sejenis masakan tempe dengan santan) dan kadhele tempe srundengan. Hal ini dan catatan sejarah yang tersedia lainnya menunjukkan bahwa mungkin pada mulanya tempe diproduksi dari kedelai hitam, berasal dari masyarakat pedesaan tradisional Jawa—mungkin dikembangkan di daerah Mataram, Jawa Tengah, dan berkembang sebelum abad ke-16.
Kata "tempe" diduga berasal dari bahasa Jawa Kuno. Pada zaman Jawa Kuno terdapat makanan berwarna putih terbuat dari tepung sagu yang disebut tumpi. Tempe segar yang juga berwarna putih terlihat memiliki kesamaan dengan makanan tumpi tersebut.
Selain itu terdapat rujukan mengenai tempe dari tahun 1875 dalam sebuah kamus bahasa Jawa-Belanda. Sumber lain mengatakan bahwa pembuatan tempe diawali semasa era Tanam Paksa di Jawa. Pada saat itu, masyarakat Jawa terpaksa menggunakan hasil pekarangan, seperti singkong, ubi dan kedelai, sebagai sumber pangan. Selain itu, ada pula pendapat yang mengatakan bahwa tempe mungkin diperkenalkan oleh orang-orang Tionghoa yang memproduksi makanan sejenis, yaitu koji kedelai yang difermentasikan menggunakan kapang Aspergillus. Selanjutnya, teknik pembuatan tempe menyebar ke seluruh Indonesia, sejalan dengan penyebaran masyarakat Jawa yang bermigrasi ke seluruh penjuru Tanah Air.
Tempe dikenal oleh masyarakat Eropa melalui orang-orang Belanda. Pada tahun 1895, Prinsen Geerlings (ahli kimia dan mikrobiologidari Belanda) melakukan usaha yang pertama kali untuk mengidentifikasi kapang tempe. Perusahaan-perusahaan tempe yang pertama di Eropa dimulai di Belanda oleh para imigran dari Indonesia.
Melalui Belanda, tempe telah populer di Eropa sejak tahun 1946. Pada tahun 1984 sudah tercatat 18 perusahaan tempe di Eropa, 53 di Amerika, dan 8 di Jepang. Di beberapa negara lain, seperti Republik Rakyat Cina, India, Taiwan, Sri Lanka, Kanada, Australia, Amerika Latin, dan Afrika, tempe sudah mulai dikenal di kalangan terbatas.