Produkt

Selection Portal: Anforderungen

Selection Portal: Entscheidung

Selection Portal: Mehr zum Portal

Software-Kategorien

Kategorien

Weitere Kategorien

Vergleiche 2026

Anbietervergleiche

Beliebte Alternativen

Abgrenzungen

Wissen

Auswahlmethodik

IT-Transformation & Kosten

Beratung

Beratung

Zukauf und Fusion

Einstieg und Förderung

Branchen
KI-Code · Review und Freigabe

KI-Code sicher betreiben:
vom Prototyp bis zur Produktion.

KI-Code sicher betreiben heißt: Was Fachbereich oder Entwickler mit KI gebaut haben, kommt erst nach Review, Sicherheitsprüfung und geregeltem Betrieb an echte Daten. Laufen solche Anwendungen schon, beginnen Sie mit einer Liste aller Eigenbauten und prüfen zuerst die mit Kundendaten oder Zugriff von außen. Praxistipp: Suchen Sie als Erstes nach Passwörtern und API-Schlüsseln im Code. Das geht schnell und schließt eine Lücke, die BSI und ANSSI ausdrücklich nennen.

45 %
der KI-Codebeispiele mit Lücke aus den OWASP Top 10 (Veracode 2025)
75 %
des neuen Codes bei Google KI-erzeugt und von Ingenieuren freigegeben (04/2026)
45,7 %
der Entwickler misstrauen KI-Ergebnissen (Stack Overflow 2025)
19,7 %
erfundene Paketnamen in einer von BSI und ANSSI zitierten Studie
Dr. Marcel Panzer

Unser Autor: Dr. Marcel Panzer. Forscht zu KI in Unternehmenssoftware und begleitet Auswahlprojekte von der ersten Anforderung bis zur Entscheidung. Hat oft genug gesehen, dass Projekte nicht an Funktionen scheitern, sondern an unklaren Anforderungen. Deshalb setzt er auf saubere Methodik statt Bauchgefühl.

Kurzantwort · Schon gebaut oder geplant

Läuft die Anwendung schon oder ist sie geplant?
Zwei Startpunkte, ein Ziel.

Vibe Coding liefert in Tagen, wofür früher Wochen nötig waren. Sicher wird eine Anwendung dadurch nicht. Was Sie zuerst tun, hängt davon ab, ob sie schon echte Daten verarbeitet.

Die Anwendung läuft schon

  • Erfassen Sie alle Eigenbauten mit Besitzer, Nutzern, Daten und Werkzeug in einer Liste.
  • Prüfen Sie zuerst Anwendungen mit Kunden- oder Personaldaten und Zugriff von außen.
  • Holen Sie Schlüssel aus dem Code, setzen Sie Rollen und Sicherung, bevor Sie weiterbauen.

Die Anwendung ist geplant

  • Legen Sie Werkzeug, erlaubte Daten und Freigabestufe vor dem ersten Prompt fest.
  • Bauen Sie den Prototyp mit Testdaten und geben Sie ihm ein Ablaufdatum.
  • Planen Sie Review, Sicherheitsprüfung und Betrieb als feste Etappen mit Namen.

Einschätzung von Find-Your-Software. Wer bei Grün, Gelb oder Blau prüft, regelt die Vibe-Coding-Richtlinie.

Befunde · Stand 2024 bis 2026

Was über KI-Code belegt ist.
Sechs Befunde mit Stand.

45 %

der KI-Codebeispiele fielen bei Veracode durch die Sicherheitsprüfung.

Über 100 Sprachmodelle, Java, Python, C# und JavaScript. Java lag bei 72 Prozent, Cross-Site-Scripting wurde in 86 Prozent der Fälle nicht abgewehrt. Größere Modelle waren nicht sicherer. Veracode, 30.07.2025.

45,7 %

der Entwickler misstrauen der Genauigkeit von KI-Werkzeugen, 32,7 Prozent vertrauen ihr.

84 Prozent nutzen KI oder planen es, 66 Prozent ärgern sich über Lösungen, die fast stimmen. Stack Overflow Developer Survey, 07/2025.

19 % langsamer

arbeiteten erfahrene Entwickler mit KI in der METR-Studie 2025, erwartet hatten sie 24 Prozent Zeitgewinn.

Im Update vom Februar 2026 lag die Ursprungsgruppe bei rund 18 Prozent schneller, die Spanne reicht aber bis 9 Prozent langsamer. METR hält die neue Schätzung wegen Auswahlverzerrung für wenig belastbar.

Verstärker

ist KI laut DORA-Report 2025: Sie verstärkt Stärken und Schwächen eines Teams.

In geschlossenen Organisationen steigert KI die Effizienz, in zersplitterten legt sie Schwächen offen. 90 Prozent der Befragten nutzen KI. Google DORA, 23.09.2025.

75 %

des neuen Codes bei Google sind KI-erzeugt und von Ingenieuren freigegeben.

Im Herbst 2025 waren es 50 Prozent, im Oktober 2024 gut ein Viertel. Die Zahl gilt für neuen Code eines Konzerns mit eigener Prüfkultur. Google, 22.04.2026.

Kein Ersatz

für erfahrene Entwickler sind KI-Programmierassistenten, schreiben BSI und ANSSI.

Mehr Code braucht mehr Prüfkapazität. Eine von beiden zitierte Studie fand 19,7 Prozent erfundene Paketnamen in KI-Code. BSI und ANSSI, 09/2024.

Quellen: Veracode; Stack Overflow Survey 2025; METR 2025; METR Update 02/2026; DORA-Report 2025; Google, Cloud Next 2026; Google 10/2024, Fortune; BSI und ANSSI, AI Coding Assistants; abgerufen am 17.11.2026.

Herausforderungen
  • Der Fachbereich hat mit KI ein Tool gebaut. Dürfen wir das produktiv nutzen?
  • Niemand hat den KI-Code gelesen. Wie läuft ein sinnvolles Review?
  • Die App greift auf Kundendaten zu. Welche Sicherheitsprüfung brauchen wir?

In einem ersten Termin schauen wir uns gemeinsam Ihre Herausforderungen an und sagen Ihnen offen, welche Systeme passen und welche nicht.

Dr. Marcel PanzerDr. Marcel PanzerMitgründer, Find-Your-Software
Termin buchen
Freigabestufen · Prototyp bis Betrieb

Vier Stufen bis zum sicheren Betrieb.
Jede Weiche ist ein Ausstiegspunkt.

Die Stufe bestimmt, welche Daten in die Anwendung dürfen und wer prüft. Wer eine Stufe überspringt, nimmt die Lücken des Prototyps mit in den Alltag. Die Rollen je Ampelfarbe regelt die Vibe-Coding-Richtlinie.

Freigabestufen für Anwendungen mit KI-Code. Rauten sind Weichen, darunter die Folge bei Nein.
Stufe 1

Prototyp

Daten
nur Testdaten oder Kopien ohne Personenbezug
Nutzer
das Bauteam
Pflicht
freigegebenes Werkzeug, Firmenkonto, Ablaufdatum
Ablauf bestätigt?Nein: verwerfen oder Standard prüfen
Stufe 2

Interner Pilot

Daten
echte Daten, wenige Datensätze
Nutzer
eine Abteilung, namentlich bekannt
Pflicht
Code-Review durch Dritte, Schlüssel aus dem Code, Rollen gesetzt
Review bestanden?Nein: nachbessern oder neu schreiben
Stufe 3

Produktion

Daten
alle vorgesehenen Daten
Nutzer
alle Berechtigten, bei Bedarf Externe
Pflicht
Scan, Penetrationstest bei Zugriff von außen, Sicherung geprobt, Monitoring
Betrieb übergeben?Nein: zurück in den Pilot
Stufe 4

Laufender Betrieb

Daten
wie Produktion, mit Löschregeln
Verantwortung
benannter Besitzer und Vertretung
Pflicht
Updates der Bibliotheken, jährliches Review, Ausstiegsplan

Stufenmodell von Find-Your-Software. Prüfpunkte nach BSI und ANSSI, 09/2024, und OWASP Top 10:2025.

Review-Ablauf · Fünf Schritte

So prüfen Sie eine KI-Anwendung vor dem Echtbetrieb.
Fünf Schritte, eine Weiche.

Die Schritte gelten für den Wechsel von Stufe 1 nach 2 und, gründlicher, von Stufe 2 nach 3. Die Dauern sind Planungsannahmen von Find-Your-Software für eine kleine Anwendung.

  1. 1

    Bestand erfassen, 1 Tag

    Besitzer, Nutzer, Datenarten, Werkzeug, Hosting und Zugänge je Anwendung in eine Liste.

    ✓PrüfpunktJede Anwendung hat einen Besitzer und ein Ablaufdatum.
  2. 2

    Schlüssel und Pakete prüfen, 1 bis 2 Tage

    Passwörter und API-Schlüssel in einen Tresor verlegen, jede Bibliothek auf Herkunft prüfen, eine Stückliste (SBOM) anlegen.

    ✓PrüfpunktKein Schlüssel im Repository, kein unbekanntes Paket.
  3. 3

    Code lesen lassen, 2 bis 5 Tage

    Ein Entwickler, der nicht mitgebaut hat, prüft Rechte, Eingaben, Fehlerbehandlung und Protokolle entlang der OWASP Top 10:2025. Ein Scanner ergänzt ihn.

    ✓PrüfpunktKeine offenen kritischen oder hohen Befunde.
  4. 4

    Daten und Rechte festlegen, 1 bis 2 Tage

    Der Datenschutz prüft Zweck, Löschfristen und Auftragsverarbeitung, die IT vergibt Rollen nach dem Prinzip so wenig wie nötig.

    ✓PrüfpunktRollenkonzept und Löschregel sind dokumentiert.
  5. 5

    Betrieb übergeben, 1 bis 3 Tage

    Tests, die bei jeder Änderung laufen, Sicherung mit geprobter Rücksicherung, Monitoring, Update-Rhythmus und Vertretung.

    ✓PrüfpunktRücksicherung einmal erfolgreich geprobt.
Hält der Code dem Review stand?
Ja

Freigabe für die nächste Stufe.

Befunde und Freigabe schriftlich festhalten. Bei Zugriff von außen vor Stufe 3 einen Penetrationstest einplanen.

Nein

Neu schreiben oder Standard prüfen.

Ist das Fundament falsch, schreiben Sie mit dem Prototyp als Vorlage neu. Trägt ein Standard den Ablauf schon, folgen Sie dem Ratgeber Software kaufen oder selbst bauen.

Planungsannahmen von Find-Your-Software. Schlüsselschutz, Paketprüfung, SBOM und Review durch Menschen und Scanner empfehlen BSI und ANSSI, 09/2024.

Prüfliste · Neun Punkte

Prüfliste vor dem Echtbetrieb.
Mit Bezug zu den OWASP Top 10:2025.

Für jeden Punkt gibt es ein Anzeichen, das auch Nichtentwickler erkennen. Zeichen: ✕ Pflicht vor Stufe 2 mit echten Daten, ≈ Pflicht vor Stufe 3 mit allen Nutzern.

PrüfpunktSoll-ZustandAnzeichen für MängelOWASP Top 10:2025Pflicht ab
SecretsPasswörter, Tokens, API-Schlüsselliegen im Tresor oder in Umgebungsvariablen, nie im CodeSchlüssel im Repository, in Konfigurationsdateien oder im Verlauf des KI-WerkzeugsA02 Security Misconfiguration✕Stufe 2
AbhängigkeitenBibliotheken und Paketejedes Paket existiert, ist verbreitet und gepflegt, eine Stückliste liegt vorPakete mit kaum Nutzern, frisch angelegt oder vom Werkzeug erfundenA03 Software Supply Chain Failures✕Stufe 2
RechteRollen und AnmeldungRollen nach dem Prinzip so wenig wie nötig, Anmeldung über das Firmenkonto, Prüfung auf dem ServerAlle sehen alles, Rechte nur in der Oberfläche verstecktA01 Broken Access Control, A07 Authentication Failures✕Stufe 2
EingabenFormulare und SchnittstellenEingaben werden auf dem Server geprüft, Datenbankabfragen mit ParameternSonderzeichen im Formular führen zu Fehlern oder fremden DatenA05 Injection✕Stufe 2
LoggingProtokolle und AlarmeAnmeldungen, Rechteänderungen und Fehler werden protokolliert, ohne Passwörter im LogNiemand kann sagen, wer gestern welche Daten geändert hatA09 Security Logging and Alerting Failures≈Stufe 3
FehlerbehandlungAusnahmen und AbbrücheFehler enden in einer klaren Meldung und einem sicheren ZustandFehlermeldungen zeigen Pfade, Abfragen oder DatenA10 Mishandling of Exceptional Conditions≈Stufe 3
Testsbei jeder ÄnderungFunktionstests decken die kritischen Abläufe ab und laufen bei jeder ÄnderungÄnderungen werden nur durch Klicken ausprobiertA06 Insecure Design, übergreifend≈Stufe 3
BackupsSicherung und WiederherstellungSicherung außerhalb des Systems, Rücksicherung einmal geprobtNiemand weiß, wie lange eine Wiederherstellung dauertübergreifend, Art. 32 DSGVO≈Stufe 3
UpdatesBibliotheken, Laufzeit, ServerUpdates in festem Rhythmus, Sicherheitshinweise abonniert, Verantwortlicher benanntVersionen seit Monaten unverändertA03 Software Supply Chain Failures≈Stufe 3

Zuordnung zu den OWASP Top 10:2025 durch Find-Your-Software. Paketprüfung und SBOM nach BSI und ANSSI; abgerufen am 17.11.2026.

Entscheidungsregeln · Fünf Regeln

Fünf Regeln für KI-Code im Betrieb.
Jede mit Folge und Beleg.

Die Regeln gelten unabhängig vom Werkzeug. Welche Werkzeuge mit welchen Daten erlaubt sind, legt Ihre Richtlinie fest.

01 · Review

Ohne Review kommt kein echter Datensatz hinein.

Was ein KI-Werkzeug erzeugt, prüft ein Mensch, der es nicht erzeugt hat, bevor Kunden- oder Personaldaten hineinkommen. Folge: Lücken bleiben im Prototyp, wo sie keinen Schaden anrichten.

  • Beleg: 45 Prozent der KI-Codebeispiele mit Lücke aus den OWASP Top 10 (Veracode 2025). BSI und ANSSI: erzeugten Code prüfen und nachvollziehen.
02 · Pakete

Neue Pakete kommen nur nach Prüfung ins Projekt.

KI-Werkzeuge schlagen Bibliotheken vor, die es nicht gibt, und Angreifer legen solche Namen gezielt an. Folge: Positivliste und Stückliste halten Schadcode aus der Lieferkette.

  • Beleg: 19,7 Prozent erfundene Paketnamen in einer von BSI und ANSSI zitierten Studie; OWASP A03:2025 Software Supply Chain Failures.
03 · Kapazität

Mehr Code braucht mehr Prüfkapazität.

Baut ein Fachbereich mit KI mehrere Anwendungen im Quartal, braucht die IT Zeit, sie zu prüfen und zu betreiben. Folge: Planen Sie Review-Stunden je Anwendung ein, sonst stauen sich Freigaben oder werden übersprungen.

  • Beleg: BSI und ANSSI fordern, Qualitätssicherung und Sicherheit mit der Codemenge zu skalieren. DORA 2025: KI verstärkt Stärken und Schwächen.
04 · Tempo

Zeitgewinn planen Sie erst ein, wenn Sie ihn gemessen haben.

Gefühlte und gemessene Geschwindigkeit liegen auseinander. Folge: Messen Sie Durchlaufzeit und Fehler im eigenen Team, bevor Sie Personal oder Budget daran ausrichten.

  • Beleg: METR 2025 maß 19 Prozent langsamere Arbeit bei erwarteten 24 Prozent Zeitgewinn. Das Update 02/2026 ist laut METR wenig belastbar.
05 · Besitz

Jede Anwendung hat einen Besitzer und ein Ablaufdatum.

Ohne Besitzer spielt niemand Updates ein, ohne Ablaufdatum lebt der Prototyp ewig. Folge: Eine Liste aller Eigenbauten mit Besitzer, Stufe und letzter Prüfung macht Betrieb und Ausstieg planbar.

  • Beleg: BSI und ANSSI empfehlen, KI-Codeblöcke zu kennzeichnen und die genutzten Werkzeuge zu dokumentieren.

Quellen: Veracode; BSI und ANSSI; OWASP; DORA; METR 2025; METR 2026; abgerufen am 17.11.2026.

Ein Satz genügt · Assistent

Bevor Sie weiterbauen:
sehen, was es schon gibt.

Mancher Eigenbau ersetzt einen Ablauf, den Standardsoftware längst abdeckt. Der Assistent zeigt, was Firmen Ihrer Branche und Größe einsetzen, anbieterneutral und datenbasiert.

Quellen · Im Original prüfen

Woran Sie sich halten können.
OWASP und BSI im Original.

Verweisen Sie in Richtlinie und Prüfprotokoll auf die Originale, nicht auf Zusammenfassungen. Vier Quellen reichen für den Einstieg.

QuelleWas sie liefertWofür Sie sie nutzenStand
OWASP Top 10:2025OWASP Foundationdie zehn kritischsten Risiken für Webanwendungen, von Broken Access Control bis zur FehlerbehandlungGliederung für Code-Review und Prüfliste2025, löst die Fassung 2021 ab
AI Coding AssistantsBSI und ANSSIChancen, Risiken und Maßnahmen für KI-Programmierassistenten, getrennt für Leitung und EntwicklungRegeln zu Werkzeugen, Firmenkonten, Schlüsseln, Paketen und Review in Ihrer RichtlinieSeptember 2024
TR-03185 Sicherer Software-LebenszyklusBSI, Technische RichtlinieAnforderungen an sichere Entwicklung, Teil 1 für eigene, Teil 2 für Open-Source-SoftwareMaßstab, wenn Sie regelmäßig selbst entwickeln oder Software an Kunden liefernTeil 1 2024, Teil 2 2025, 2026 zusammengeführt auf Englisch
APP.7 Entwicklung von IndividualsoftwareBSI IT-Grundschutz-KompendiumBaustein mit Anforderungen an selbst entwickelte oder beauftragte SoftwarePrüfgrundlage, wenn Sie nach IT-Grundschutz arbeitenEdition 2023

Abgerufen am 17.11.2026. Nach TR-03185 Teil 1 bietet das BSI eine Zertifizierung des Entwicklungsprozesses an.

Pflichten · Stand 11/2026

Welche Pflichten beim KI-Eigenbau greifen.
Je Pflicht ein Nachweis.

Die Pflichten gelten, egal ob ein Mensch oder ein KI-Werkzeug den Code geschrieben hat. Den Einzelfall prüft Ihre Kanzlei oder Ihr Datenschutzbeauftragter.

PflichtGilt fürWas Sie tunStand
KI-KompetenzArt. 4 KI-VerordnungFirmen, die KI-Systeme beruflich einsetzen, auch KI-Werkzeuge zum ProgrammierenSchulung zu Grenzen und Risiken, Richtlinie mit erlaubten Werkzeugen und Daten, Vorlage: KI-Richtliniegilt seit 02.02.2025
Datenschutz durch TechnikgestaltungArt. 25 DSGVOjede Anwendung mit personenbezogenen Datennur nötige Daten erheben, datenschutzfreundliche Voreinstellungen, Rollen von Anfang angeltendes Recht
Sicherheit der VerarbeitungArt. 32 DSGVOjede Anwendung mit personenbezogenen DatenVerschlüsselung, Zugriffsschutz, Wiederherstellung nach Ausfall, regelmäßige Überprüfung der Maßnahmengeltendes Recht
Cyber Resilience ActEU-VerordnungSoftware, die Sie als Produkt oder mit Produkten in Verkehr bringenausgenutzte Schwachstellen melden, ab Ende 2027 Sicherheitsanforderungen über den Lebenszyklus erfüllenMeldepflichten seit 11.09.2026, Hauptpflichten ab 11.12.2027
NIS2NIS2-UmsetzungsgesetzFirmen in erfassten Sektoren ab gesetzlicher Größeeigene Anwendungen ins Risikomanagement aufnehmen, Vorfälle melden, siehe NIS2 Softwarein Kraft seit 06.12.2025

Quellen: Art. 4 KI-Verordnung; DSGVO (Verordnung (EU) 2016/679), Art. 25 und 32; CRA, EU-Kommission; NIS2, Heuking; abgerufen am 17.11.2026. Ob ein reines Inhouse-Werkzeug unter den CRA fällt, klären Sie anhand von Art. 2 mit Ihrer Kanzlei.

Typische Fehler · Vier Muster

Woran KI-Anwendungen im Betrieb scheitern.
Und was Sie stattdessen tun.

Privatkonto
Wann es passiertMitarbeitende nutzen KI-Werkzeuge mit privaten Zugängen.

Firmendaten landen in Werkzeugen, deren Vertrag niemand kennt.

Ob Eingaben zum Training genutzt werden, regelt der Vertrag des Anbieters.

PraxistippFirmenkonten mit geprüften Vertragsbedingungen bereitstellen, wie BSI und ANSSI empfehlen.
Scanner statt Mensch
Wann es passiertDer Sicherheitsscanner meldet keine Befunde.

Ein leerer Scan ist keine Freigabe.

Scanner finden bekannte Muster, aber keine falsch gedachten Rechte oder Abläufe.

PraxistippScanner plus Review durch einen Menschen, der nicht mitgebaut hat.
Ewiger Prototyp
Wann es passiertDie Demo gefällt, die Anwendung bleibt einfach an.

Ein Prototyp ohne Ablaufdatum wird zur Schatten-IT.

Testdaten werden durch echte ersetzt, Updates spielt niemand ein.

PraxistippJeder Prototyp bekommt ein Datum, an dem er freigegeben oder abgeschaltet wird.
KI prüft KI
Wann es passiertDasselbe Werkzeug soll seinen Code selbst prüfen.

Wer den Fehler gemacht hat, findet ihn selten.

Ein zweites Modell als Kritiker hilft, ersetzt aber nicht den Blick eines erfahrenen Entwicklers.

PraxistippKI-Prüfer ergänzend einsetzen, die Freigabe gibt ein Mensch.

Einschätzung von Find-Your-Software auf Basis der Empfehlungen von BSI und ANSSI.

Weiterlesen · Vibe Coding und Eigenbau

Die nächsten Schritte im Detail.
Von der Eignung bis zur Richtlinie.

Eignung

Wofür sich KI-Eigenbau eignet

Regeln

Freigabe und Werkzeuge

Absichern

Recht und Datenschutz

FAQ

Häufige Fragen zu
KI-Code im Betrieb.

Wie bringe ich eine mit KI gebaute Anwendung sicher in Betrieb?

In Stufen. Der Prototyp läuft nur mit Testdaten, der interne Pilot erst nach einem Code-Review durch Dritte, die Produktion erst nach Sicherheitsscan, geprobter Rücksicherung und bei Zugriff von außen einem Penetrationstest. Vor jeder Stufe stehen Schlüssel aus dem Code, geprüfte Pakete und gesetzte Rollen. Im laufenden Betrieb braucht jede Anwendung einen Besitzer, Updates in festem Rhythmus und ein jährliches Review. Wer prüft, regelt die Vibe-Coding-Richtlinie.

Ist KI-generierter Code unsicherer als von Hand geschriebener?

Einen fairen direkten Vergleich gibt es kaum, aber die Befunde zu KI-Code sind deutlich. Veracode fand in 45 Prozent der Codebeispiele von über 100 Sprachmodellen eine Lücke aus den OWASP Top 10, größere Modelle schnitten nicht besser ab. BSI und ANSSI zitieren eine Studie, nach der rund 40 Prozent der KI-erzeugten Programme Schwachstellen enthielten. Entscheidend ist deshalb nicht, wer den Code schreibt, sondern dass ihn vor dem Echtbetrieb jemand prüft, der ihn nicht geschrieben hat.

Was ist Vibe Coding und warum ist es ein Sicherheitsthema?

Beim Vibe Coding beschreibt jemand in Alltagssprache, was eine Anwendung können soll, und ein KI-Werkzeug schreibt den Code. Oft baut so der Fachbereich selbst, ohne Entwickler. Das Sicherheitsthema entsteht, weil niemand den Code liest: Schlüssel landen im Quelltext, Rechte fehlen, Pakete werden ungeprüft eingebunden. Wofür Vibe Coding taugt und wo Profis übernehmen sollten, zeigt Vibe Coding im Unternehmen.

Wer sollte KI-generierten Code prüfen?

Ein Entwickler, der den Code nicht selbst erzeugt hat und Rechte, Datenbank und Betrieb versteht. Er prüft entlang der OWASP Top 10:2025, ein Scanner ergänzt ihn. Bei personenbezogenen Daten kommt der Datenschutz dazu, bei Zugriff von außen ein Penetrationstest. BSI und ANSSI empfehlen zusätzlich, KI-Codeblöcke zu kennzeichnen und die genutzten Werkzeuge zu dokumentieren. Das erleichtert spätere Prüfungen, auch durch externe Auditoren.

Welche Rolle spielen die OWASP Top 10 beim Review?

Die OWASP Top 10 sind die verbreitetste Liste der kritischsten Risiken für Webanwendungen, aktuell in der Fassung 2025. Sie reicht von Broken Access Control über Software Supply Chain Failures und Injection bis zur Fehlerbehandlung. Für ein Review liefert die Liste eine feste Gliederung, damit nichts Wesentliches fehlt. Auch Veracode hat KI-Code an diesen Kategorien gemessen. Die Prüfliste oben ordnet neun Prüfpunkte den OWASP-Kategorien zu.

Was empfehlen BSI und ANSSI für KI-Programmierassistenten?

In ihrer gemeinsamen Publikation vom September 2024 halten BSI und ANSSI fest, dass KI-Programmierassistenten keine erfahrenen Entwickler ersetzen. Sie empfehlen eine Risikoanalyse vor der Einführung, Firmenkonten statt privater Zugänge, Regeln für Werkzeuge und Daten sowie die Prüfung jedes erzeugten Codes. Qualitätssicherung und Sicherheit sollen mit der Codemenge mitwachsen. Gegen erfundene Pakete raten sie zu Plausibilitätsprüfung, Positivliste, Sandbox und Stückliste.

Was sind halluzinierte Pakete?

KI-Werkzeuge schlagen manchmal Bibliotheken vor, die es gar nicht gibt. Angreifer können solche Namen registrieren und mit Schadcode füllen. Wer das Paket dann installiert, holt sich den Angriff in die eigene Lieferkette. In einer von BSI und ANSSI zitierten Studie waren 19,7 Prozent der importierten Pakete erfunden. Schutz bieten eine Liste erlaubter Pakete, die Prüfung von Alter, Verbreitung und Pflege jeder neuen Bibliothek und eine Stückliste aller Abhängigkeiten.

Macht KI Entwickler wirklich schneller?

Die Belege sind gemischt. In der METR-Studie 2025 brauchten erfahrene Entwickler mit KI 19 Prozent länger, obwohl sie 24 Prozent Zeitgewinn erwartet hatten. Im Update vom Februar 2026 war die Ursprungsgruppe rund 18 Prozent schneller, METR hält das aber für wenig belastbar. Bei Google sind laut Konzern 75 Prozent des neuen Codes KI-erzeugt und von Ingenieuren freigegeben. Messen Sie im eigenen Team, bevor Sie Budget oder Personal an einem Zeitgewinn ausrichten.

Welche Pflichten gelten nach der KI-Verordnung, wenn wir mit KI programmieren?

Seit 02.02.2025 gilt Art. 4 der KI-Verordnung: Anbieter und Betreiber von KI-Systemen sorgen nach besten Kräften für ausreichende KI-Kompetenz ihres Personals. Wer KI-Werkzeuge beruflich zum Programmieren nutzt, ist Betreiber. Praktisch heißt das Schulung zu Grenzen und Risiken und eine Richtlinie, welche Werkzeuge mit welchen Daten erlaubt sind. Baut Ihre Anwendung selbst KI ein, prüfen Sie zusätzlich die Regeln für Hochrisiko-Systeme. Eine Vorlage bietet die KI-Richtlinie.

Was verlangt die DSGVO von selbst gebauten KI-Anwendungen?

Dasselbe wie von gekaufter Software. Art. 25 verlangt Datenschutz durch Technikgestaltung und datenschutzfreundliche Voreinstellungen, also nur nötige Daten und Rollen von Anfang an. Art. 32 verlangt angemessene Sicherheit: Verschlüsselung, Zugriffsschutz, Wiederherstellung nach einem Ausfall und regelmäßige Überprüfung. Beim Eigenbau liefern Sie diese Nachweise selbst. Nutzen Sie Cloud-Werkzeuge, klären Sie zudem Auftragsverarbeitung und Serverstandort, siehe DSGVO und Serverstandort.

Gilt der Cyber Resilience Act für interne KI-Anwendungen?

Der Cyber Resilience Act gilt für Produkte mit digitalen Elementen, die in der EU in Verkehr gebracht werden. Verkaufen Sie Ihre Software oder liefern Sie sie mit Maschinen aus, sind Sie Hersteller. Die Meldepflichten gelten seit 11.09.2026, die Hauptpflichten ab 11.12.2027. Ob ein Werkzeug nur für eigene Mitarbeitende erfasst ist, klären Sie anhand von Art. 2 mit Ihrer Kanzlei. DSGVO und gegebenenfalls NIS2 gelten unabhängig davon.

Was kostet die Sicherheitsprüfung einer KI-Anwendung?

Für das Review einer kleinen Anwendung rechnet Find-Your-Software mit sechs bis dreizehn Arbeitstagen über alle Rollen, als Planungsannahme. Hat die Anwendung Zugriff von außen, kommt ein Penetrationstest dazu. Laut der Aussage eines Anbieters in ChannelPartner kostet er 1.000 bis 1.800 Euro je Tag bei zwei bis zehn Tagen, also rund 2.000 bis 18.000 Euro. Was im Betrieb über Jahre anfällt, zeigt der Ratgeber Software kaufen oder selbst bauen.

Nächster Schritt

Erst sehen, was es schon gibt.
Dann sicher weiterbauen.

Ein Satz zu Ihrer Lage genügt, der Assistent zeigt, welche Systeme Firmen wie Ihre einsetzen. Wenn Sie über Ihre KI-Anwendungen sprechen möchten, vereinbaren Sie ein Erstgespräch.

Die Prüfung oben können eigene Entwickler oder ein Dienstleister Ihrer Wahl übernehmen. Eine Option ist das Vibe-Coding-Review von Sectorlens. Sectorlens ist das Unternehmen hinter Find-Your-Software.