KI-Code sicher betreiben:
vom Prototyp bis zur Produktion.
KI-Code sicher betreiben heißt: Was Fachbereich oder Entwickler mit KI gebaut haben, kommt erst nach Review, Sicherheitsprüfung und geregeltem Betrieb an echte Daten. Laufen solche Anwendungen schon, beginnen Sie mit einer Liste aller Eigenbauten und prüfen zuerst die mit Kundendaten oder Zugriff von außen. Praxistipp: Suchen Sie als Erstes nach Passwörtern und API-Schlüsseln im Code. Das geht schnell und schließt eine Lücke, die BSI und ANSSI ausdrücklich nennen.
Unser Autor: Dr. Marcel Panzer. Forscht zu KI in Unternehmenssoftware und begleitet Auswahlprojekte von der ersten Anforderung bis zur Entscheidung. Hat oft genug gesehen, dass Projekte nicht an Funktionen scheitern, sondern an unklaren Anforderungen. Deshalb setzt er auf saubere Methodik statt Bauchgefühl. Zum Profil.
Läuft die Anwendung schon oder ist sie geplant?
Zwei Startpunkte, ein Ziel.
Vibe Coding liefert in Tagen, wofür früher Wochen nötig waren. Sicher wird eine Anwendung dadurch nicht. Was Sie zuerst tun, hängt davon ab, ob sie schon echte Daten verarbeitet.
Die Anwendung läuft schon
- Erfassen Sie alle Eigenbauten mit Besitzer, Nutzern, Daten und Werkzeug in einer Liste.
- Prüfen Sie zuerst Anwendungen mit Kunden- oder Personaldaten und Zugriff von außen.
- Holen Sie Schlüssel aus dem Code, setzen Sie Rollen und Sicherung, bevor Sie weiterbauen.
Die Anwendung ist geplant
- Legen Sie Werkzeug, erlaubte Daten und Freigabestufe vor dem ersten Prompt fest.
- Bauen Sie den Prototyp mit Testdaten und geben Sie ihm ein Ablaufdatum.
- Planen Sie Review, Sicherheitsprüfung und Betrieb als feste Etappen mit Namen.
Einschätzung von Find-Your-Software. Wer bei Grün, Gelb oder Blau prüft, regelt die Vibe-Coding-Richtlinie.
Was über KI-Code belegt ist.
Sechs Befunde mit Stand.
der KI-Codebeispiele fielen bei Veracode durch die Sicherheitsprüfung.
Über 100 Sprachmodelle, Java, Python, C# und JavaScript. Java lag bei 72 Prozent, Cross-Site-Scripting wurde in 86 Prozent der Fälle nicht abgewehrt. Größere Modelle waren nicht sicherer. Veracode, 30.07.2025.
der Entwickler misstrauen der Genauigkeit von KI-Werkzeugen, 32,7 Prozent vertrauen ihr.
84 Prozent nutzen KI oder planen es, 66 Prozent ärgern sich über Lösungen, die fast stimmen. Stack Overflow Developer Survey, 07/2025.
arbeiteten erfahrene Entwickler mit KI in der METR-Studie 2025, erwartet hatten sie 24 Prozent Zeitgewinn.
Im Update vom Februar 2026 lag die Ursprungsgruppe bei rund 18 Prozent schneller, die Spanne reicht aber bis 9 Prozent langsamer. METR hält die neue Schätzung wegen Auswahlverzerrung für wenig belastbar.
ist KI laut DORA-Report 2025: Sie verstärkt Stärken und Schwächen eines Teams.
In geschlossenen Organisationen steigert KI die Effizienz, in zersplitterten legt sie Schwächen offen. 90 Prozent der Befragten nutzen KI. Google DORA, 23.09.2025.
des neuen Codes bei Google sind KI-erzeugt und von Ingenieuren freigegeben.
Im Herbst 2025 waren es 50 Prozent, im Oktober 2024 gut ein Viertel. Die Zahl gilt für neuen Code eines Konzerns mit eigener Prüfkultur. Google, 22.04.2026.
für erfahrene Entwickler sind KI-Programmierassistenten, schreiben BSI und ANSSI.
Mehr Code braucht mehr Prüfkapazität. Eine von beiden zitierte Studie fand 19,7 Prozent erfundene Paketnamen in KI-Code. BSI und ANSSI, 09/2024.
Quellen: Veracode; Stack Overflow Survey 2025; METR 2025; METR Update 02/2026; DORA-Report 2025; Google, Cloud Next 2026; Google 10/2024, Fortune; BSI und ANSSI, AI Coding Assistants; abgerufen am 17.11.2026.
- Der Fachbereich hat mit KI ein Tool gebaut. Dürfen wir das produktiv nutzen?
- Niemand hat den KI-Code gelesen. Wie läuft ein sinnvolles Review?
- Die App greift auf Kundendaten zu. Welche Sicherheitsprüfung brauchen wir?
In einem ersten Termin schauen wir uns gemeinsam Ihre Herausforderungen an und sagen Ihnen offen, welche Systeme passen und welche nicht.
Vier Stufen bis zum sicheren Betrieb.
Jede Weiche ist ein Ausstiegspunkt.
Die Stufe bestimmt, welche Daten in die Anwendung dürfen und wer prüft. Wer eine Stufe überspringt, nimmt die Lücken des Prototyps mit in den Alltag. Die Rollen je Ampelfarbe regelt die Vibe-Coding-Richtlinie.
Prototyp
- Daten
- nur Testdaten oder Kopien ohne Personenbezug
- Nutzer
- das Bauteam
- Pflicht
- freigegebenes Werkzeug, Firmenkonto, Ablaufdatum
Interner Pilot
- Daten
- echte Daten, wenige Datensätze
- Nutzer
- eine Abteilung, namentlich bekannt
- Pflicht
- Code-Review durch Dritte, Schlüssel aus dem Code, Rollen gesetzt
Produktion
- Daten
- alle vorgesehenen Daten
- Nutzer
- alle Berechtigten, bei Bedarf Externe
- Pflicht
- Scan, Penetrationstest bei Zugriff von außen, Sicherung geprobt, Monitoring
Laufender Betrieb
- Daten
- wie Produktion, mit Löschregeln
- Verantwortung
- benannter Besitzer und Vertretung
- Pflicht
- Updates der Bibliotheken, jährliches Review, Ausstiegsplan
Stufenmodell von Find-Your-Software. Prüfpunkte nach BSI und ANSSI, 09/2024, und OWASP Top 10:2025.
So prüfen Sie eine KI-Anwendung vor dem Echtbetrieb.
Fünf Schritte, eine Weiche.
Die Schritte gelten für den Wechsel von Stufe 1 nach 2 und, gründlicher, von Stufe 2 nach 3. Die Dauern sind Planungsannahmen von Find-Your-Software für eine kleine Anwendung.
- 1
Bestand erfassen, 1 Tag
Besitzer, Nutzer, Datenarten, Werkzeug, Hosting und Zugänge je Anwendung in eine Liste.
✓PrüfpunktJede Anwendung hat einen Besitzer und ein Ablaufdatum. - 2
Schlüssel und Pakete prüfen, 1 bis 2 Tage
Passwörter und API-Schlüssel in einen Tresor verlegen, jede Bibliothek auf Herkunft prüfen, eine Stückliste (SBOM) anlegen.
✓PrüfpunktKein Schlüssel im Repository, kein unbekanntes Paket. - 3
Code lesen lassen, 2 bis 5 Tage
Ein Entwickler, der nicht mitgebaut hat, prüft Rechte, Eingaben, Fehlerbehandlung und Protokolle entlang der OWASP Top 10:2025. Ein Scanner ergänzt ihn.
✓PrüfpunktKeine offenen kritischen oder hohen Befunde. - 4
Daten und Rechte festlegen, 1 bis 2 Tage
Der Datenschutz prüft Zweck, Löschfristen und Auftragsverarbeitung, die IT vergibt Rollen nach dem Prinzip so wenig wie nötig.
✓PrüfpunktRollenkonzept und Löschregel sind dokumentiert. - 5
Betrieb übergeben, 1 bis 3 Tage
Tests, die bei jeder Änderung laufen, Sicherung mit geprobter Rücksicherung, Monitoring, Update-Rhythmus und Vertretung.
✓PrüfpunktRücksicherung einmal erfolgreich geprobt.
Freigabe für die nächste Stufe.
Befunde und Freigabe schriftlich festhalten. Bei Zugriff von außen vor Stufe 3 einen Penetrationstest einplanen.
Neu schreiben oder Standard prüfen.
Ist das Fundament falsch, schreiben Sie mit dem Prototyp als Vorlage neu. Trägt ein Standard den Ablauf schon, folgen Sie dem Ratgeber Software kaufen oder selbst bauen.
Planungsannahmen von Find-Your-Software. Schlüsselschutz, Paketprüfung, SBOM und Review durch Menschen und Scanner empfehlen BSI und ANSSI, 09/2024.
Prüfliste vor dem Echtbetrieb.
Mit Bezug zu den OWASP Top 10:2025.
Für jeden Punkt gibt es ein Anzeichen, das auch Nichtentwickler erkennen. Zeichen: ✕ Pflicht vor Stufe 2 mit echten Daten, ≈ Pflicht vor Stufe 3 mit allen Nutzern.
| Prüfpunkt | Soll-Zustand | Anzeichen für Mängel | OWASP Top 10:2025 | Pflicht ab |
|---|---|---|---|---|
| SecretsPasswörter, Tokens, API-Schlüssel | liegen im Tresor oder in Umgebungsvariablen, nie im Code | Schlüssel im Repository, in Konfigurationsdateien oder im Verlauf des KI-Werkzeugs | A02 Security Misconfiguration | ✕Stufe 2 |
| AbhängigkeitenBibliotheken und Pakete | jedes Paket existiert, ist verbreitet und gepflegt, eine Stückliste liegt vor | Pakete mit kaum Nutzern, frisch angelegt oder vom Werkzeug erfunden | A03 Software Supply Chain Failures | ✕Stufe 2 |
| RechteRollen und Anmeldung | Rollen nach dem Prinzip so wenig wie nötig, Anmeldung über das Firmenkonto, Prüfung auf dem Server | Alle sehen alles, Rechte nur in der Oberfläche versteckt | A01 Broken Access Control, A07 Authentication Failures | ✕Stufe 2 |
| EingabenFormulare und Schnittstellen | Eingaben werden auf dem Server geprüft, Datenbankabfragen mit Parametern | Sonderzeichen im Formular führen zu Fehlern oder fremden Daten | A05 Injection | ✕Stufe 2 |
| LoggingProtokolle und Alarme | Anmeldungen, Rechteänderungen und Fehler werden protokolliert, ohne Passwörter im Log | Niemand kann sagen, wer gestern welche Daten geändert hat | A09 Security Logging and Alerting Failures | ≈Stufe 3 |
| FehlerbehandlungAusnahmen und Abbrüche | Fehler enden in einer klaren Meldung und einem sicheren Zustand | Fehlermeldungen zeigen Pfade, Abfragen oder Daten | A10 Mishandling of Exceptional Conditions | ≈Stufe 3 |
| Testsbei jeder Änderung | Funktionstests decken die kritischen Abläufe ab und laufen bei jeder Änderung | Änderungen werden nur durch Klicken ausprobiert | A06 Insecure Design, übergreifend | ≈Stufe 3 |
| BackupsSicherung und Wiederherstellung | Sicherung außerhalb des Systems, Rücksicherung einmal geprobt | Niemand weiß, wie lange eine Wiederherstellung dauert | übergreifend, Art. 32 DSGVO | ≈Stufe 3 |
| UpdatesBibliotheken, Laufzeit, Server | Updates in festem Rhythmus, Sicherheitshinweise abonniert, Verantwortlicher benannt | Versionen seit Monaten unverändert | A03 Software Supply Chain Failures | ≈Stufe 3 |
Zuordnung zu den OWASP Top 10:2025 durch Find-Your-Software. Paketprüfung und SBOM nach BSI und ANSSI; abgerufen am 17.11.2026.
Fünf Regeln für KI-Code im Betrieb.
Jede mit Folge und Beleg.
Die Regeln gelten unabhängig vom Werkzeug. Welche Werkzeuge mit welchen Daten erlaubt sind, legt Ihre Richtlinie fest.
Ohne Review kommt kein echter Datensatz hinein.
Was ein KI-Werkzeug erzeugt, prüft ein Mensch, der es nicht erzeugt hat, bevor Kunden- oder Personaldaten hineinkommen. Folge: Lücken bleiben im Prototyp, wo sie keinen Schaden anrichten.
- Beleg: 45 Prozent der KI-Codebeispiele mit Lücke aus den OWASP Top 10 (Veracode 2025). BSI und ANSSI: erzeugten Code prüfen und nachvollziehen.
Neue Pakete kommen nur nach Prüfung ins Projekt.
KI-Werkzeuge schlagen Bibliotheken vor, die es nicht gibt, und Angreifer legen solche Namen gezielt an. Folge: Positivliste und Stückliste halten Schadcode aus der Lieferkette.
- Beleg: 19,7 Prozent erfundene Paketnamen in einer von BSI und ANSSI zitierten Studie; OWASP A03:2025 Software Supply Chain Failures.
Mehr Code braucht mehr Prüfkapazität.
Baut ein Fachbereich mit KI mehrere Anwendungen im Quartal, braucht die IT Zeit, sie zu prüfen und zu betreiben. Folge: Planen Sie Review-Stunden je Anwendung ein, sonst stauen sich Freigaben oder werden übersprungen.
- Beleg: BSI und ANSSI fordern, Qualitätssicherung und Sicherheit mit der Codemenge zu skalieren. DORA 2025: KI verstärkt Stärken und Schwächen.
Zeitgewinn planen Sie erst ein, wenn Sie ihn gemessen haben.
Gefühlte und gemessene Geschwindigkeit liegen auseinander. Folge: Messen Sie Durchlaufzeit und Fehler im eigenen Team, bevor Sie Personal oder Budget daran ausrichten.
- Beleg: METR 2025 maß 19 Prozent langsamere Arbeit bei erwarteten 24 Prozent Zeitgewinn. Das Update 02/2026 ist laut METR wenig belastbar.
Jede Anwendung hat einen Besitzer und ein Ablaufdatum.
Ohne Besitzer spielt niemand Updates ein, ohne Ablaufdatum lebt der Prototyp ewig. Folge: Eine Liste aller Eigenbauten mit Besitzer, Stufe und letzter Prüfung macht Betrieb und Ausstieg planbar.
- Beleg: BSI und ANSSI empfehlen, KI-Codeblöcke zu kennzeichnen und die genutzten Werkzeuge zu dokumentieren.
Quellen: Veracode; BSI und ANSSI; OWASP; DORA; METR 2025; METR 2026; abgerufen am 17.11.2026.
Bevor Sie weiterbauen:
sehen, was es schon gibt.
Mancher Eigenbau ersetzt einen Ablauf, den Standardsoftware längst abdeckt. Der Assistent zeigt, was Firmen Ihrer Branche und Größe einsetzen, anbieterneutral und datenbasiert.
Internes Tool schon gebaut
Fachbereich baut mit KI
Kundenportal geplant
Woran Sie sich halten können.
OWASP und BSI im Original.
Verweisen Sie in Richtlinie und Prüfprotokoll auf die Originale, nicht auf Zusammenfassungen. Vier Quellen reichen für den Einstieg.
| Quelle | Was sie liefert | Wofür Sie sie nutzen | Stand |
|---|---|---|---|
| OWASP Top 10:2025OWASP Foundation | die zehn kritischsten Risiken für Webanwendungen, von Broken Access Control bis zur Fehlerbehandlung | Gliederung für Code-Review und Prüfliste | 2025, löst die Fassung 2021 ab |
| AI Coding AssistantsBSI und ANSSI | Chancen, Risiken und Maßnahmen für KI-Programmierassistenten, getrennt für Leitung und Entwicklung | Regeln zu Werkzeugen, Firmenkonten, Schlüsseln, Paketen und Review in Ihrer Richtlinie | September 2024 |
| TR-03185 Sicherer Software-LebenszyklusBSI, Technische Richtlinie | Anforderungen an sichere Entwicklung, Teil 1 für eigene, Teil 2 für Open-Source-Software | Maßstab, wenn Sie regelmäßig selbst entwickeln oder Software an Kunden liefern | Teil 1 2024, Teil 2 2025, 2026 zusammengeführt auf Englisch |
| APP.7 Entwicklung von IndividualsoftwareBSI IT-Grundschutz-Kompendium | Baustein mit Anforderungen an selbst entwickelte oder beauftragte Software | Prüfgrundlage, wenn Sie nach IT-Grundschutz arbeiten | Edition 2023 |
Abgerufen am 17.11.2026. Nach TR-03185 Teil 1 bietet das BSI eine Zertifizierung des Entwicklungsprozesses an.
Welche Pflichten beim KI-Eigenbau greifen.
Je Pflicht ein Nachweis.
Die Pflichten gelten, egal ob ein Mensch oder ein KI-Werkzeug den Code geschrieben hat. Den Einzelfall prüft Ihre Kanzlei oder Ihr Datenschutzbeauftragter.
| Pflicht | Gilt für | Was Sie tun | Stand |
|---|---|---|---|
| KI-KompetenzArt. 4 KI-Verordnung | Firmen, die KI-Systeme beruflich einsetzen, auch KI-Werkzeuge zum Programmieren | Schulung zu Grenzen und Risiken, Richtlinie mit erlaubten Werkzeugen und Daten, Vorlage: KI-Richtlinie | gilt seit 02.02.2025 |
| Datenschutz durch TechnikgestaltungArt. 25 DSGVO | jede Anwendung mit personenbezogenen Daten | nur nötige Daten erheben, datenschutzfreundliche Voreinstellungen, Rollen von Anfang an | geltendes Recht |
| Sicherheit der VerarbeitungArt. 32 DSGVO | jede Anwendung mit personenbezogenen Daten | Verschlüsselung, Zugriffsschutz, Wiederherstellung nach Ausfall, regelmäßige Überprüfung der Maßnahmen | geltendes Recht |
| Cyber Resilience ActEU-Verordnung | Software, die Sie als Produkt oder mit Produkten in Verkehr bringen | ausgenutzte Schwachstellen melden, ab Ende 2027 Sicherheitsanforderungen über den Lebenszyklus erfüllen | Meldepflichten seit 11.09.2026, Hauptpflichten ab 11.12.2027 |
| NIS2NIS2-Umsetzungsgesetz | Firmen in erfassten Sektoren ab gesetzlicher Größe | eigene Anwendungen ins Risikomanagement aufnehmen, Vorfälle melden, siehe NIS2 Software | in Kraft seit 06.12.2025 |
Quellen: Art. 4 KI-Verordnung; DSGVO (Verordnung (EU) 2016/679), Art. 25 und 32; CRA, EU-Kommission; NIS2, Heuking; abgerufen am 17.11.2026. Ob ein reines Inhouse-Werkzeug unter den CRA fällt, klären Sie anhand von Art. 2 mit Ihrer Kanzlei.
Woran KI-Anwendungen im Betrieb scheitern.
Und was Sie stattdessen tun.
Firmendaten landen in Werkzeugen, deren Vertrag niemand kennt.
Ob Eingaben zum Training genutzt werden, regelt der Vertrag des Anbieters.
Ein leerer Scan ist keine Freigabe.
Scanner finden bekannte Muster, aber keine falsch gedachten Rechte oder Abläufe.
Ein Prototyp ohne Ablaufdatum wird zur Schatten-IT.
Testdaten werden durch echte ersetzt, Updates spielt niemand ein.
Wer den Fehler gemacht hat, findet ihn selten.
Ein zweites Modell als Kritiker hilft, ersetzt aber nicht den Blick eines erfahrenen Entwicklers.
Einschätzung von Find-Your-Software auf Basis der Empfehlungen von BSI und ANSSI.
Die nächsten Schritte im Detail.
Von der Eignung bis zur Richtlinie.
Wofür sich KI-Eigenbau eignet
- Vibe Coding im Unternehmen prüft sieben Anwendungsfälle vom Dashboard bis zum Kundenportal.
- Software kaufen oder selbst bauen ordnet den KI-Eigenbau unter sechs Wegen ein.
Freigabe und Werkzeuge
- Die Vibe-Coding-Richtlinie enthält Freigabe-Check, Rollen und Ablauf.
- Vibe Coding Tools vergleicht Werkzeuge mit Preisen und Datenstandort.
Recht und Datenschutz
- KI-Richtlinie im Unternehmen für Art. 4 KI-Verordnung.
- DSGVO und Serverstandort für die Wahl von Werkzeug und Hosting.
Häufige Fragen zu
KI-Code im Betrieb.
Wie bringe ich eine mit KI gebaute Anwendung sicher in Betrieb?
In Stufen. Der Prototyp läuft nur mit Testdaten, der interne Pilot erst nach einem Code-Review durch Dritte, die Produktion erst nach Sicherheitsscan, geprobter Rücksicherung und bei Zugriff von außen einem Penetrationstest. Vor jeder Stufe stehen Schlüssel aus dem Code, geprüfte Pakete und gesetzte Rollen. Im laufenden Betrieb braucht jede Anwendung einen Besitzer, Updates in festem Rhythmus und ein jährliches Review. Wer prüft, regelt die Vibe-Coding-Richtlinie.
Ist KI-generierter Code unsicherer als von Hand geschriebener?
Einen fairen direkten Vergleich gibt es kaum, aber die Befunde zu KI-Code sind deutlich. Veracode fand in 45 Prozent der Codebeispiele von über 100 Sprachmodellen eine Lücke aus den OWASP Top 10, größere Modelle schnitten nicht besser ab. BSI und ANSSI zitieren eine Studie, nach der rund 40 Prozent der KI-erzeugten Programme Schwachstellen enthielten. Entscheidend ist deshalb nicht, wer den Code schreibt, sondern dass ihn vor dem Echtbetrieb jemand prüft, der ihn nicht geschrieben hat.
Was ist Vibe Coding und warum ist es ein Sicherheitsthema?
Beim Vibe Coding beschreibt jemand in Alltagssprache, was eine Anwendung können soll, und ein KI-Werkzeug schreibt den Code. Oft baut so der Fachbereich selbst, ohne Entwickler. Das Sicherheitsthema entsteht, weil niemand den Code liest: Schlüssel landen im Quelltext, Rechte fehlen, Pakete werden ungeprüft eingebunden. Wofür Vibe Coding taugt und wo Profis übernehmen sollten, zeigt Vibe Coding im Unternehmen.
Wer sollte KI-generierten Code prüfen?
Ein Entwickler, der den Code nicht selbst erzeugt hat und Rechte, Datenbank und Betrieb versteht. Er prüft entlang der OWASP Top 10:2025, ein Scanner ergänzt ihn. Bei personenbezogenen Daten kommt der Datenschutz dazu, bei Zugriff von außen ein Penetrationstest. BSI und ANSSI empfehlen zusätzlich, KI-Codeblöcke zu kennzeichnen und die genutzten Werkzeuge zu dokumentieren. Das erleichtert spätere Prüfungen, auch durch externe Auditoren.
Welche Rolle spielen die OWASP Top 10 beim Review?
Die OWASP Top 10 sind die verbreitetste Liste der kritischsten Risiken für Webanwendungen, aktuell in der Fassung 2025. Sie reicht von Broken Access Control über Software Supply Chain Failures und Injection bis zur Fehlerbehandlung. Für ein Review liefert die Liste eine feste Gliederung, damit nichts Wesentliches fehlt. Auch Veracode hat KI-Code an diesen Kategorien gemessen. Die Prüfliste oben ordnet neun Prüfpunkte den OWASP-Kategorien zu.
Was empfehlen BSI und ANSSI für KI-Programmierassistenten?
In ihrer gemeinsamen Publikation vom September 2024 halten BSI und ANSSI fest, dass KI-Programmierassistenten keine erfahrenen Entwickler ersetzen. Sie empfehlen eine Risikoanalyse vor der Einführung, Firmenkonten statt privater Zugänge, Regeln für Werkzeuge und Daten sowie die Prüfung jedes erzeugten Codes. Qualitätssicherung und Sicherheit sollen mit der Codemenge mitwachsen. Gegen erfundene Pakete raten sie zu Plausibilitätsprüfung, Positivliste, Sandbox und Stückliste.
Was sind halluzinierte Pakete?
KI-Werkzeuge schlagen manchmal Bibliotheken vor, die es gar nicht gibt. Angreifer können solche Namen registrieren und mit Schadcode füllen. Wer das Paket dann installiert, holt sich den Angriff in die eigene Lieferkette. In einer von BSI und ANSSI zitierten Studie waren 19,7 Prozent der importierten Pakete erfunden. Schutz bieten eine Liste erlaubter Pakete, die Prüfung von Alter, Verbreitung und Pflege jeder neuen Bibliothek und eine Stückliste aller Abhängigkeiten.
Macht KI Entwickler wirklich schneller?
Die Belege sind gemischt. In der METR-Studie 2025 brauchten erfahrene Entwickler mit KI 19 Prozent länger, obwohl sie 24 Prozent Zeitgewinn erwartet hatten. Im Update vom Februar 2026 war die Ursprungsgruppe rund 18 Prozent schneller, METR hält das aber für wenig belastbar. Bei Google sind laut Konzern 75 Prozent des neuen Codes KI-erzeugt und von Ingenieuren freigegeben. Messen Sie im eigenen Team, bevor Sie Budget oder Personal an einem Zeitgewinn ausrichten.
Welche Pflichten gelten nach der KI-Verordnung, wenn wir mit KI programmieren?
Seit 02.02.2025 gilt Art. 4 der KI-Verordnung: Anbieter und Betreiber von KI-Systemen sorgen nach besten Kräften für ausreichende KI-Kompetenz ihres Personals. Wer KI-Werkzeuge beruflich zum Programmieren nutzt, ist Betreiber. Praktisch heißt das Schulung zu Grenzen und Risiken und eine Richtlinie, welche Werkzeuge mit welchen Daten erlaubt sind. Baut Ihre Anwendung selbst KI ein, prüfen Sie zusätzlich die Regeln für Hochrisiko-Systeme. Eine Vorlage bietet die KI-Richtlinie.
Was verlangt die DSGVO von selbst gebauten KI-Anwendungen?
Dasselbe wie von gekaufter Software. Art. 25 verlangt Datenschutz durch Technikgestaltung und datenschutzfreundliche Voreinstellungen, also nur nötige Daten und Rollen von Anfang an. Art. 32 verlangt angemessene Sicherheit: Verschlüsselung, Zugriffsschutz, Wiederherstellung nach einem Ausfall und regelmäßige Überprüfung. Beim Eigenbau liefern Sie diese Nachweise selbst. Nutzen Sie Cloud-Werkzeuge, klären Sie zudem Auftragsverarbeitung und Serverstandort, siehe DSGVO und Serverstandort.
Gilt der Cyber Resilience Act für interne KI-Anwendungen?
Der Cyber Resilience Act gilt für Produkte mit digitalen Elementen, die in der EU in Verkehr gebracht werden. Verkaufen Sie Ihre Software oder liefern Sie sie mit Maschinen aus, sind Sie Hersteller. Die Meldepflichten gelten seit 11.09.2026, die Hauptpflichten ab 11.12.2027. Ob ein Werkzeug nur für eigene Mitarbeitende erfasst ist, klären Sie anhand von Art. 2 mit Ihrer Kanzlei. DSGVO und gegebenenfalls NIS2 gelten unabhängig davon.
Was kostet die Sicherheitsprüfung einer KI-Anwendung?
Für das Review einer kleinen Anwendung rechnet Find-Your-Software mit sechs bis dreizehn Arbeitstagen über alle Rollen, als Planungsannahme. Hat die Anwendung Zugriff von außen, kommt ein Penetrationstest dazu. Laut der Aussage eines Anbieters in ChannelPartner kostet er 1.000 bis 1.800 Euro je Tag bei zwei bis zehn Tagen, also rund 2.000 bis 18.000 Euro. Was im Betrieb über Jahre anfällt, zeigt der Ratgeber Software kaufen oder selbst bauen.
Erst sehen, was es schon gibt.
Dann sicher weiterbauen.
Ein Satz zu Ihrer Lage genügt, der Assistent zeigt, welche Systeme Firmen wie Ihre einsetzen. Wenn Sie über Ihre KI-Anwendungen sprechen möchten, vereinbaren Sie ein Erstgespräch.
Die Prüfung oben können eigene Entwickler oder ein Dienstleister Ihrer Wahl übernehmen. Eine Option ist das Vibe-Coding-Review von Sectorlens. Sectorlens ist das Unternehmen hinter Find-Your-Software.