Il était chef d’Etat major des armées rwandaises durant le génocide, au milieu des années 90.
Gatsinzi, qui a pris sa retraite de l’armée en 2013, a été ministre de la Défense pendant huit ans avant d’être nommé à la tête du ministère de la Gestion des catastrophes et des affaires des réfugiés, créé en 2010. Il a été membre du Cabinet jusqu’en février 2013.
La carrière militaire du général Gatsinzi a débuté à l’Académie militaire de Kigali en 1970, où il a été promu sous-lieutenant en mars 1970. Il a poursuivi sa carrière militaire en Belgique, à Heverlee (Louvain), à l’École de logistique, en 1971, et à Bruxelles, à l’Institut royal supérieur de défense, de 1974 à 1976.
Outre ses affectations militaires dans l’armée rwandaise, le colonel Gatsinzi a servi dans le Groupe d’observateurs militaires neutres de mis en place par l’ancêtre de l’Union Africaine (UA), l’Organisation de l’unité africaine (OUA). Ce groupe d’observateurs militaires neutres était chargé de surveiller le cessez-le-feu pendant la période des négociations entre le gouvernement et le Front patriotique rwandais (FPR) au cours de la guerre civile rwandaise (1990-1994). Il a également participé au processus de négociation.
Pendant le génocide rwandais, du 6 au 17 avril 1994, il a été chef d’état-major des forces armées rwandaises en déroute. Il a été démis de ses fonctions et remplacé pour s’être opposé à l’expansion du génocide.
