Das Thema Künstliche Intelligenz (KI) ist in aller Munde. Kein Wunder – sie verändert gerade unsere Welt. Doch während meist über neue Tools, Funktionen oder Alltagseffekte gesprochen wird – bis hin zu philosophischen Fragen à la „Was wird bloß aus unseren Kindern?“ – bleibt ein Aspekt fast immer außen vor: Wie stellen wir sicher, dass KI verantwortungsvoll und sicher eingesetzt wird?
KI-Chatbot hacken – so einfach ist es
Als ethische Hackerin weiß ich aus Erfahrung, wie anfällig Chatbots für Manipulation sind.
Ein Beispiel: Bei einem Test fragte ich einen Chatbot nach „10 Dingen, die man mit einer Leiche machen kann“.
Zuerst blockierte er korrekt: „Sorry, nicht möglich.“
Doch mit einer emotionalen Story im Traumkontext ließ sich der Filter austricksen.
Der Chatbot lieferte plötzlich detaillierte Handlungen: vergraben, verbrennen, zerstückeln … – weit entfernt von der ursprünglichen Sicherheitsinstruktion.
Warum Chatbots so leicht auszutricksen sind
Die Schutzmechanismen sind oft oberflächlich: Sie erkennen Schlüsselwörter, nicht Kontexte. Wird die Anfrage verpackt als Traum, Rollenspiel oder Hypothese – kippt das System.
👉 Das Brisante: Man braucht kein technisches Wissen. Sprache allein reicht, um Regeln auszuhebeln.
Jeder kann zum Hacker werden
- Für Unternehmen ergibt sich daraus ein hohes Risiko:
- Vertrauliche Informationen können entlockt werden.
- Chatbots können gefährliche Inhalte verbreiten.
- Das Vertrauen von Kund*innen kann beschädigt werden.
KI-Sicherheit und Governance – jetzt handeln
Darum brauchen wir eine breitere KI-Debatte: Neben Chancen und Innovation geht es um Sicherheit und Governance – also Strukturen, Regeln und Prozesse für einen transparenten und verantwortungsvollen KI-Einsatz.
Mein Beitrag auf dem nxtKnowledge Wissensforum
Dort zeige ich live,
wie sich eine KI hacken lässt – und
wie Sie Ihr Unternehmen schützen können.
👉 Lassen Sie uns gemeinsam Wege finden, wie KI sicher und verantwortungsvoll eingesetzt werden kann.
____________________________________________________________________________________________
Neugierig geworden? Erleben Sie Erlijn van Genuchten live auf dem #nxtKNOWLEDGE Wissensforum Stuttgart in der Kongresshalle Böblingen am 17.10.2025: Drei Bühnen, über 30 Experten aus Wirtschaft, Führung, Digitalisierung, Vertrieb & Sport. Knüpfen Sie wertvolle Geschäftskontakte und erweitern Sie Ihr Netzwerk auf der Expo-Area.
