Der aktuelle KI-Boom erinnert mich in vielerlei Hinsicht an die Zeit der großen DSGVO-Welle. Plötzlich gab es überall Schulungen, Zertifikate und Expertinnen und Experten. Viele Unternehmen buchten Seminare vor allem deshalb, um nachweisen zu können, dass sie sich mit dem Thema beschäftigt haben. Genau dieselbe Entwicklung beobachten wir nun bei Künstlicher Intelligenz. Überall entstehen Schulungsangebote, Zertifizierungen und Beratungsleistungen. Das allein wäre noch kein Problem. Problematisch wird es dort, wo Menschen Kompetenz vermitteln wollen, die sie selbst nicht besitzen.
Was KI nicht kann
KI ist ein mächtiges Werkzeug. Ich arbeite täglich damit und möchte die Technologie nicht mehr missen. Sie beschleunigt Prozesse, erleichtert Analysen und steigert die Produktivität enorm. Doch Produktivität ist nicht dasselbe wie Kompetenz. KI ersetzt weder Fachwissen noch Erfahrung. Sie verstärkt lediglich das, was bereits vorhanden ist. Ein guter Programmierer wird mit KI schneller. Eine gute Redakteurin arbeitet effizienter. Ein erfahrener Analyst kommt schneller zu Ergebnissen. Was KI jedoch nicht kann: Aus einem Hotelpraktikanten einen Softwareentwickler machen, aus einem Handwerker einen Buchhalter oder aus einem Quereinsteiger eine IT-Sicherheitsexpertin.
Genau deshalb bereitet mir die aktuelle Entwicklung Sorgen. Bei der Recherche zu verschiedenen KI-Kompetenz-Schulungen bin ich auf Anbieter gestoßen, deren eigene technische Systeme gravierende Sicherheitsmängel aufwiesen. Dabei geht es nicht um theoretische Schwachstellen oder akademische Diskussionen. Teilweise waren interne Strukturen öffentlich sichtbar, Sicherheitsmechanismen fehlten vollständig und durch KI erzeugte Kommentare im Quellcode verrieten Informationen, die dort niemals hätten auftauchen dürfen. An mehreren Stellen entstand der Eindruck, dass die Verantwortlichen weder die Risiken noch die technischen Hintergründe ihrer eigenen Systeme ausreichend verstanden hatten.
Wenn die Lehrenden selbst die Grundlagen nicht beherrschen
Ein unsicheres System ist bereits problematisch. Noch problematischer wird es, wenn die Personen hinter solchen Systemen Unternehmen schulen und Zertifikate vergeben. Wer Mitarbeitenden beibringt, wie KI eingesetzt, integriert oder entwickelt wird, vermittelt nicht nur Wissen über Prompts und Automatisierungen. Er vermittelt Denkweisen, Arbeitsmethoden und technische Standards. Sind diese Standards mangelhaft, werden die Fehler gleich mitgeschult.
Genau darin liegt das eigentliche Risiko. Es geht nicht um einen einzelnen fehlerhaften Chatbot oder eine schlecht konfigurierte Website. Es geht um einen Multiplikatoreffekt. Unternehmen schicken Mitarbeitende in Schulungen, die dort erlernten Methoden werden anschließend in eigenen Projekten umgesetzt und verbreiten sich innerhalb der Organisation weiter. Aus einer unsauberen Arbeitsweise entstehen plötzlich zahlreiche Anwendungen, Prozesse und Systeme, die auf denselben Fehlern basieren.
Das Problem verschärft sich zusätzlich dadurch, dass Zertifikate Vertrauen schaffen. Wer eine Schulung absolviert hat, gilt häufig als qualifiziert. Wer ein Zertifikat vorweisen kann, wird als kompetent wahrgenommen. Ob die vermittelten Inhalte tatsächlich fachlich fundiert sind, wird dagegen oft nicht hinterfragt. Genau das macht die Situation gefährlich.
Unsichere Tools sind genauso problematisch
Parallel zu den Schulungen bieten viele Anbieter fertige KI-Lösungen an. Chatbots, Automatisierungsplattformen, Agentensysteme oder Buchungslösungen sollen Unternehmen helfen, schneller und effizienter zu arbeiten. Auch hier verlassen sich viele Verantwortliche auf Werbeversprechen, Zertifikate und professionelle Präsentationen. Die technische Qualität wird dagegen häufig nicht geprüft.
Dabei werden diese Systeme oft direkt in geschäftskritische Prozesse integriert. Sie verarbeiten Kundendaten, Anfragen, Buchungen, Zahlungsinformationen oder interne Unternehmensdaten. Entsprechend schwerwiegend können Sicherheitslücken ausfallen. Wer ein solches System einführt, übernimmt die Verantwortung für die daraus entstehenden Risiken, unabhängig davon, ob die Lösung intern entwickelt oder extern eingekauft wurde.
Besonders deutlich wird das am Beispiel der Hotellerie. Viele Hotels und Hotelketten investieren derzeit in KI-gestützte Buchungssysteme, digitale Assistenten und automatisierte Gästekommunikation. Gleichzeitig werden Mitarbeitende geschult, um diese Technologien besser einsetzen zu können. Werden dabei jedoch unsichere Systeme genutzt oder fragwürdige Methoden vermittelt, entstehen Risiken an mehreren Stellen gleichzeitig.
Das Hotelbeispiel zeigt die Tragweite
Stellen wir uns eine größere Hotelgruppe vor, die Mitarbeitende zu einer KI-Kompetenz-Schulung schickt und zusätzlich ein externes KI-System für Buchungen oder den Gästeservice einsetzt. In diesen Anwendungen werden Namen, Kontaktdaten, Buchungshistorien, Zahlungsinformationen und weitere personenbezogene Daten verarbeitet. Entstehen hier Sicherheitslücken, bleibt das selten ohne Folgen.
Ein Datenschutzvorfall bedeutet heute weit mehr als einen technischen Fehler. Reputationsschäden, Vertrauensverlust bei Gästen, Bußgelder und rechtliche Konsequenzen können erhebliche Auswirkungen haben. Je größer die Organisation und je größer die Datenmengen, desto gravierender werden die möglichen Schäden. Unternehmen sollten sich deshalb nicht nur fragen, welche Funktionen ein KI-System bietet, sondern auch, wie sicher es entwickelt wurde und welche Kompetenz tatsächlich hinter dem Anbieter steht.
Hinzu kommt ein weiteres Problem: Jeder größere Vorfall beschädigt das Vertrauen in KI insgesamt. Seriöse Anbieter geraten unter Rechtfertigungsdruck, während die eigentlichen Ursachen oft in mangelnder Fachkompetenz liegen. Dadurch wird das tatsächliche Potenzial der Technologie unterschätzt oder falsch eingeordnet.
Kompetenz bleibt der entscheidende Faktor
Mit dem AI Act und den bestehenden Anforderungen der DSGVO steigt der Druck auf Unternehmen, KI verantwortungsvoll einzusetzen. Gleichzeitig wächst die Zahl der Anbieter, die sich als Expertinnen und Experten positionieren. Umso wichtiger wird es, genauer hinzusehen.
Unternehmen sollten Schulungsanbieter nach denselben Maßstäben prüfen wie Softwareanbieter. Referenzen, technische Qualifikation, Sicherheitsstandards und nachweisbare Projekterfahrung sagen deutlich mehr aus als Zertifikate oder Marketingaussagen. Ebenso wichtig ist der Aufbau eigener Grundkompetenzen, denn wer die Grundlagen von IT-Sicherheit, Datenschutz und Softwarequalität versteht, kann Risiken deutlich besser einschätzen und die Qualität externer Anbieter realistischer bewerten. Externe Tools gehören vor dem produktiven Einsatz gründlich geprüft, mit Security-Audits, Penetrationstests und Datenschutz-Folgenabschätzungen. Verträge müssen klare Haftungsregelungen und verbindliche Sicherheitsvereinbarungen enthalten.
Der entscheidende Punkt bleibt jedoch derselbe: KI ersetzt keine Professionalität. Sie macht kompetente Menschen produktiver und hilft Fachleuten dabei, bessere Ergebnisse schneller zu erzielen. Fehlendes Wissen ersetzt sie jedoch nicht. Wer glaubt, Technologie könne mangelnde Fachkenntnis kompensieren, schafft neue Risiken statt neuer Chancen.
Der KI-Wandel bietet enormes Potenzial. Damit daraus echter Fortschritt entsteht, braucht es jedoch mehr als gute Prompts und Zertifikate. Es braucht Menschen, die verstehen, was sie tun. Genau darin liegt auch künftig der Unterschied zwischen erfolgreichem KI-Einsatz und einem Sicherheitsrisiko mit Ansage.
Über den Autor
Daniel Wom ist Senior Full-Stack-Developer sowie SEO- und Performance-Spezialist mit über 18 Jahren Berufserfahrung. Sein Portfolio erstreckt sich auf über 500 Projekte, die von kleinen KMU bis hin zu internationalen Medienplattformen und Konzernen reichen. In seiner täglichen Praxis verbindet er saubere technische Architekturen mit den modernen Anforderungen von Suchmaschinen und KI-Systemen, um maximale Ladegeschwindigkeit und Sichtbarkeit zu garantieren.