Pertenecía a una familia de artesanos parisinos y mercaderes de madera y carbón. Después de estudiar en el Licée Royal de Dijon y más tarde en el Collège Sainte-Barbe en París, en 1855 se graduó en la École Centrale des Arts et Manufactures y se unió a una compañía que fabricaba máquinas de vapor, herramientas y otros productos.

En 1858, dicha compañía recibió un contrato para erigir un puente férreo en Burdeos. Eiffel fue designado para supervisar la construcción; y lo hizo con tanto éxito que en 1866 fundó su propia compañía y se hizo famoso con rapidez por sus estructuras de metal.

A partir de 1872 empezó a atraer contratos extranjeros y en 1877 levantó un puente sobre el río Duero en Portugal, que consistía en un arco individual de acero de 160 m de altura.

El interés de Eiffel no era sólo comercial; su trabajo combinaba una artesanía inigualable con un elegante diseño, tal como se observa en el viaducto Garabit de Francia, que durante un tiempo fue el puente más alto del mundo.

En 1884 su fábrica era famosa en el mundo entero. Fundió la gigantesca Estatua de la Libertad iluminando al mundo de Auguste Bartholdi, inaugurada en Nueva York en 1886.

Poco después empezó a trabajar en su mayor proyecto, la Torre Eiffel, que terminó para la Exposición Universal de 1889. La imponente torre, con sus 6.300 toneladas de hierro forjado en 18.000 piezas unidas por 2.500.000 remaches, tiene una altura de 300 m. Hasta hoy sigue dominando el cielo de París.

A principios de 1890 Eiffel abandonó la dirección cotidiana de sus negocios y se dejó absorber por la nueva ciencia de la aerodinámica, a la que contribuyó en medida notable.