← Zurück zum Blog

Blog

KI im Projekt: Prüftiefe nach Risiko steuern

Eine am 16. Oktober veröffentlichte qualitative Studie untersucht 26 konkrete KI-Vorfälle aus fünf technischen Projektumfeldern. Ihr nützlichster Befund ist kein Produktivitätsversprechen, sondern eine nüchterne Feststellung: Nicht jede KI-Ausgabe braucht dieselbe Kontrolle.

Von den 26 Fällen wurden 13 als positiv eingestuft, sieben als negativ und sechs als Beinahe-Fehler. Knapp die Hälfte führte damit zu einem nachteiligen Ergebnis oder wurde erst durch menschliches Eingreifen entschärft. Der Prüfbedarf unterschied sich je nach Aufgabe erheblich: Textentwürfe und Dokumentation brauchten meist nur begrenzte Korrekturen, während Terminplanung, technische Datenanalyse und sensible Informationen deutlich mehr menschliche Prüfung verlangten.

Einheitliche Kontrolle verschwendet Aufmerksamkeit

Die übliche Reaktion darauf lautet oft: Jede KI-Ausgabe muss geprüft werden. Das stimmt, ist aber für die Steuerung zu ungenau. Wer eine Meeting-Zusammenfassung und einen Budget-Forecast gleich behandelt, kontrolliert entweder das eine zu aufwendig oder das andere zu oberflächlich.

Ich setze KI täglich in Softwareprojekten ein. Ausschlaggebend für die Prüftiefe ist für mich die Folge eines Fehlers, nicht das verwendete Tool. Daraus ergibt sich ein einfaches Muster:

  • Niedrige Tragweite: Agenda-Entwürfe, Formulierungen und Zusammenfassungen brauchen eine Plausibilitätsprüfung und eine klare Kennzeichnung als Arbeitsstand.
  • Mittlere Tragweite: Defect-Klassifizierung, Aufwandsschätzungen oder Terminoptionen erfordern geprüfte Eingangsdaten, dokumentierte Regeln und Stichproben gegen die Originalinformationen.
  • Hohe Tragweite: Forecasts, Budgetentscheidungen, Go-/No-go-Vorlagen oder Lieferantenabnahmen brauchen einen benannten Owner, eine zweite fachliche Prüfung und einen Eintrag im Decision Log.

Das passt zur aktuellen GPM-Einordnung, wonach KI-Kompetenz rollen- und einsatzbezogen aufgebaut werden sollte. Auch das NIST AI Risk Management Framework versteht Vertrauenswürdigkeit als Aufgabe über Gestaltung, Nutzung und Bewertung hinweg, nicht als einmalige Freigabe eines Werkzeugs.

Das Praxis-Muster für das nächste Steering

Nehmen Sie alle KI-erzeugten Inhalte aus der nächsten Lenkungsausschuss-Vorlage und markieren Sie sie mit drei Prüfstufen. Legen Sie für jede Stufe Owner, Prüfschritt und Nachweis fest. Bei einer KI-gestützten UAT-Triage kann das heißen: Klassifizierungsregeln versionieren, zehn Prozent der Zuordnungen gegenlesen und jede Prioritätsänderung mit Quelle dokumentieren.

Was Projektverantwortliche jetzt tun sollten

Beginnen Sie nicht mit einer allgemeinen KI-Richtlinie. Klassifizieren Sie zuerst die fünf häufigsten KI-Ausgaben Ihres Projekts nach dem möglichen Entscheidungsschaden und legen Sie dafür konkrete Kontrollen fest. Die Prüftiefe sollte sich danach richten, was eine falsche Entscheidung kosten würde. Wie überzeugend ein Ergebnis klingt, ist dafür kein Maßstab.

← Zurück zum Blog