Piwitt studierte in Frankfurt/Main, München und Berlin, unter anderem bei Theodor W. Adorno und Walter Höllerer. 1964 nahm er zum ersten Mal in Sigtuna an einer Tagung der Gruppe 47 teil.

Der Erzähler Hermann Peter Piwitt ist mit Essays zu politischen Themen hervorgetreten; seine erzählerischen Werke beleuchten vor allem die Zustände in der Bundesrepublik Deutschland und in Italien. 1965 trat er mit Herdenreiche Landschaften an die Öffentlichkeit. Den frühen Erzählungen gesellten sich die Romane Rothschilds (1972), Die Gärten im März (1979), Deutschland. Versuch einer Heimkehr (1981) und Der Granatapfel (1986) hinzu, außerdem die Tagebuchaufzeichnungen Steinzeit. Notate zur Nacht. 1989–2002 (2003). Er schrieb für alle großen deutschsprachigen Tages- und Wochenzeitungen und Magazine. Zuletzt, wie er sagte, „des guten Umgangs wegen“ nur noch für die Monatszeitschrift konkret und die Wochenzeitung Freitag. 2017 erschien der Erzählungsband Drei Freunde.

1971/1972 lebte er als Preisträger des Villa-Massimo-Preises in Rom. „Writer in residence“ war er 1973–1974 an der University of Warwick in England und 1999 an der University of Wales in Swansea.