Nació en Génova, el 14 de septiembre de 1937. Era hijo de un contratista. Estudió en el politécnico de Milán y trabajó un año con su padre, antes de pasar cinco en Gran Bretaña y en Estados Unidos, donde trabajó en el estudio de Louis Kahn.

Con Richard Rogers, su socio, ganó el concurso del Centro Georges Pompidou en París, en 1971. Fue su reconocimiento internacional.

Fundó su estudio, con sedes en París y Génova en 1980, y se asoció con el ingeniero Peter Rice durante algunos años.

Entre sus más importantes trabajos están el museo Menil, Houston, Estados Unidos (1981-1987), el aeropuerto Kansai, en Japón, inaugurado en 1994, y la reconversión de la fábrica de coches Lingotto en un centro para las artes y los negocios, además de muchas viviendas y encargos para empresas industriales en Francia e Italia.

A pesar de que se le ha clasificado como arquitecto de alta tecnología, la evolución de Piano es muy personal y refleja su gusto por el uso de excelentes materiales y una construcción sólida.