Chevalier Johann de Baillou entstammte einem alten niederländischen Geschlecht. Sein Vater, Sebastian de Baillou, ging nach Frankreich und anschließend nach Italien, wo er zunächst unter dem französischen Marschall Crenaud diente und später in die Dienste des Prinzen von Lothringen - Vaudemont - trat. Johann von Baillou studierte Mathematik, Naturwissenschaften und verwandte Wissenschaften, u.a. auch in Paris. Er erwarb sich so ausgezeichnete Kenntnisse, daß er zum Mitglied der Akademie der Wissenschaften in Paris gewählt wurde. Der Ruf, den sich Baillou in Paris erworben hatte, veranlaßte den Herzog von Parma, Francesco Farnese, ihn in seine Dienste zu nehmen. Er wurde 1725 zum General-Commissär der Artillerie und zum General-Ingenieur ernannt. Später, nach dem Tod des Herzogs, wurde ihm von dessen Bruder und Nachfolger, Herzog Antonio Farnese, die Aufsicht über sämtliche herzogliche Gebäude und Gärten übertragen und 1729 wurde er zum General - Oberintendanten aller Bergwerke und Fabriken für Parma und Piacenza befördert. Er hielt am herzoglichen Hofe Vorlesungen über Experimentalphysik und richtete auf Wunsch des Herzogs eine mit vielerlei Maschinen ausgestattete Grotte ein, die aufgrund seiner Kunstfertigkeit die Bewunderung der Zeitgenossen erregte. Gleichzeitig legte er eine Naturaliensammlung an. Die ihm vom Herzog anvertraute Oberaufsicht über alle Bergwerke des Landes bildete dafür zweifellos eine gute Grundlage.
Nach dem Tod des letzten Herzogs von Parma übersiedelte Johann von Baillou mit seiner Familie in die Toskana, diente hier kurz unter dem Großherzog Johann Gasto von Medici, wo er u.a. den Posten eines General-Direktors aller Festungen, Gebäude und Bergwerke in Toskana bekleidete. Als Johann Gasto 1737 starb kam Baillou in die Dienste des neuen Großherzogs von Toskana, Franz Stephan von Lothringen, dem Gemahl Maria Theresias.