Warum Unternehmen Datenschutz und Verantwortung neu denken müssen

Du sitzt am Rechner, dein Tag war lang, aber die Prä­sen­ta­tion für den Vor­stand ist fast fertig. Nur zwei Fo­lien fehlen noch. Eine Excel-Datei ist ge­öffnet. Kun­den­namen, Um­sätze, An­sprech­partner, in­terne No­tizen. Nichts Dra­ma­ti­sches. Nichts, was nicht oh­nehin im Un­ter­nehmen zir­ku­liert. Und doch ein­deutig vertraulich. 

„Das lasse ich mir schnell von der KI struk­tu­rieren", denkst du. Es würde Zeit sparen. Viel­leicht sogar die Ar­gu­men­ta­tion schärfen.

Du mar­kierst den Text. Ko­pieren. Ein­fügen. ENTER?!

Du hältst inne. In dir kommt der Ge­danke hoch: Wo landen diese Daten eigentlich?

Ein­fach als ein leiser Ver­dacht, dass hier ge­rade mehr pas­siert als nur ein tech­ni­scher Vor­gang. Dieser Mo­ment des In­ne­hal­tens ist neu. Und er ist entscheidend.

Denn er zeigt, dass sich der Um­gang mit Daten ver­än­dert hat. Was früher eine klar kon­trol­lierte, in­tern ge­steu­erte IT-Ver­ar­bei­tung war, wird im Zeit­alter ge­ne­ra­tiver KI zu einer Hand­lung, die in Se­kun­den­bruch­teilen über Sys­tem­grenzen hinweg ge­schieht – oft ohne dass wir uns der Trag­weite voll­ständig be­wusst sind. Und genau hier zeigt sich, warum Un­ter­nehmen Da­ten­schutz und Ver­ant­wor­tung neu denken müssen.

Verantwortung im KI-Zeitalter verschiebt sich

Ein Blick auf den Un­ter­schied zwi­schen klas­si­scher IT-Welt und KI-Zeit­alter macht deut­lich, warum.

Die Ver­ant­wor­tung für den Schutz der Fir­men­daten wan­dert durch die Nut­zung ge­ne­ra­tiver KI aus der zen­tralen Kon­trolle der IT-Ab­tei­lung an die Schreib­ti­sche aller Mit­ar­beiter. Der „Mo­ment vor dem Upload" pas­siert im Ver­trieb, im HR, im Con­trol­ling, in der Ge­schäfts­füh­rung. Ein­fach überall.

Für wen dieses Thema besonders kritisch ist

Lass uns Klar­text reden: Wenn du ein Ein­per­sonen-Un­ter­nehmen bist und KI nutzt, um Blog­bei­träge zu texten, dann ist das Ri­siko über­schaubar. Aber so­bald du Ver­ant­wor­tung für Mit­ar­bei­ter­daten, Kun­den­daten oder Ge­schäfts­ge­heim­nisse trägst, sieht die Sache schon an­ders aus.

Be­son­ders auf­passen müssen:

• Ge­schäfts­führer und Ent­scheider in KMU, die letzt­lich per­sön­lich haften – ja, du hast richtig ge­lesen: per­sön­lich. Die so­ge­nannte „Busi­ness Jud­ge­ment Rule" ver­langt bei KI-ge­stützten Ent­schei­dungen eine be­son­ders hohe Prüf­dichte. Wenn eine KI feh­ler­hafte Ent­schei­dungen trifft, musst du nach­weisen können, dass du deine Or­ga­ni­sa­ti­ons­pflichten er­füllt hast.
• Fach­ab­tei­lungen mit di­rektem KI-Zu­griff. Mar­ke­ting, Ver­trieb, HR – überall wird munter mit KI-Tools ex­pe­ri­men­tiert. Laut ak­tu­ellen Stu­dien geben 91 % der be­fragten IT-Leiter an, dass Mit­ar­bei­tende un­be­fugt KI-Tools nutzen. Wir nennen das „Schatten-KI". Und das ist kein kleines Pro­blem­chen – das ist ein of­fenes Scheu­nentor für un­kon­trol­lierten Datenabfluss.
• Un­ter­nehmen mit sen­si­blen Kunden- oder Mit­ar­bei­ter­daten. Ob Ge­sund­heits­branche, Fi­nanz­dienst­leister oder pro­du­zie­rendes Ge­werbe mit Pa­tenten: Wer sen­sible Daten ver­ar­beitet und dabei die Kon­trolle ver­liert, ris­kiert nicht nur Buß­gelder, son­dern Ver­trauen. Und Ver­trauen ist be­kannt­lich das här­teste Wäh­rung im Mittelstand.

🔍 KI-Bot­schafter In­fobox: 68 % der Un­ter­nehmen sehen bei ge­ne­ra­tiver KI „enorme Da­ten­schutz-Her­aus­for­de­rungen". Gleich­zeitig haben 70 % der Be­rufs­tä­tigen vom Ar­beit­geber kei­nerlei KI-Wei­ter­bil­dung er­halten. Die Lücke zwi­schen Nut­zung und Wissen ist riesig – und genau da liegt das Risiko.

Typische Irrtümer rund um KI und Datenschutz

Bevor wir zu den fünf ent­schei­denden Fragen kommen, räumen wir mit drei My­then auf, die uns in fast jedem Ge­spräch be­gegnen. Denn fal­sche Si­cher­heit ist ge­fähr­li­cher als Unwissen.

„Der Anbieter regelt das schon"

Nein. Tut er nicht. Zu­min­dest nicht in deinem In­ter­esse. Wenn du Daten in eine KI-Platt­form hoch­lädst, bist du der Ver­ant­wort­liche im Sinne der DSGVO – nicht der An­bieter. Der An­bieter stellt die In­fra­struktur. Aber die Ver­ant­wor­tung für das, was du dort hin­ein­gibst, bleibt bei dir. Das ist so, als wür­dest du einen Tresor mieten und dich dann wun­dern, dass die Ver­mie­tungs­firma nicht für den In­halt haftet.

„Das ist ein rein technisches Thema"

Wenn wir für jeden Euro, den wir für diesen Satz be­kommen, eine KI trai­nieren könnten, wären wir Mil­li­ar­däre. Di­gi­tale Sou­ve­rä­nität ist in al­ler­erster Linie eine Ma­nage­ment­auf­gabe. Es geht um stra­te­gi­sche Ab­hän­gig­keiten, um Ver­trags­ge­stal­tung, um Or­ga­ni­sa­ti­ons­kultur. Na­tür­lich braucht es Technik – aber die besten Fire­walls nützen nichts, wenn du als Ge­schäfts­führer nicht weißt, welche Daten dein Team ge­rade in wel­ches Tool kippt.

„Digitale Souveränität ist nur etwas für Konzerne"

Das ist viel­leicht der ge­fähr­lichste My­thos von allen. Denn ge­rade KMU sind be­son­ders ver­wundbar. Kon­zerne haben Rechts­ab­tei­lungen, CISOs und de­di­zierte Da­ten­schutz­teams. Du als Mit­tel­ständler hast viel­leicht einen ex­ternen Da­ten­schutz­be­auf­tragten, der einmal im Quartal vor­bei­schaut. Und genau des­halb brauchst du eine klare Hal­tung – nicht trotz, son­dern wegen deiner Größe.

Di­gi­tale Sou­ve­rä­nität be­deutet üb­ri­gens nicht, dass du keine US-ame­ri­ka­ni­sche Soft­ware mehr nutzen darfst. Der rich­tige An­satz heißt „De-ris­king statt De­cou­pling": Ab­hän­gig­keiten kon­trol­lierbar ma­chen, statt sich kom­plett ab­zu­schotten. Exit-Stra­te­gien haben, bevor man den Ver­trag un­ter­schreibt. Wahl­frei­heit behalten.

Sicherheitscheck: stelle dir diese 5 wichtigen Fragen

Diese fünf Fragen kommen aus der Praxis – vom BSI, von Bran­chen­ex­perten und aus un­serer ei­genen Ar­beit mit mit­tel­stän­di­schen Un­ter­nehmen. Be­trachte sie als deinen Si­cher­heits­check, bevor du KI nutzt.

Und ein wich­tiger Hin­weis vorab: Diese Fragen funk­tio­nieren nur als Ge­samt­bild. Eine ein­zelne gute Ant­wort reicht nicht, wenn du bei den an­deren vier blind fliegst.

Frage 1: Passt die KI-Lösung wirklich zu meinem Problem?

Klingt banal, ist es aber nicht. Wir er­leben ständig, dass Un­ter­nehmen KI ein­führen, weil es ge­rade alle tun – nicht, weil sie ein kon­kretes Pro­blem damit lösen wollen. Das ist, als wür­dest du dir einen In­dus­trie­ro­boter in die Ga­rage stellen, um eine Glüh­birne zu wechseln.

Für viele re­pe­ti­tive Ver­wal­tungs­auf­gaben rei­chen ein­fache, re­gel­ba­sierte Sys­teme. Kein Ma­chine Lear­ning, kein neu­ro­nales Netz – eine simple Au­to­ma­ti­sie­rung. Sou­ve­rä­nität be­deutet auch die Frei­heit, sich gegen über­di­men­sio­nierte Lö­sungen zu ent­scheiden, die un­nö­tige Da­ten­flüsse und Ab­hän­gig­keiten erzeugen.

Frag dich: Ist KI die ein­fachste Lö­sung für mein Pro­blem? Oder gibt es einen schlan­keren Weg, der we­niger Daten braucht und we­niger Ri­siko erzeugt?

Frage 2: Verstehe ich, was die KI im Kern tut?

Viele ge­ne­ra­tive KI-Mo­delle sind eine “Black Box". Das be­deutet: Du gibst etwas hinein, du be­kommst etwas heraus – aber was da­zwi­schen pas­siert, ist für dich nicht nach­voll­ziehbar. Das klingt nach einem Technik-De­tail. Ist es aber nicht. Der EU AI Act ver­langt bei be­stimmten An­wen­dungen eine so­ge­nannte „Human Over­sight" – also mensch­liche Auf­sicht. Und die kannst du nur ge­währ­leisten, wenn du zu­min­dest im Grund­satz ver­stehst, wie das System zu seinen Er­geb­nissen kommt.

Frag dich: Kann ich einem Kunden, einem Prüfer oder einem Mit­ar­beiter er­klären, warum die KI diese Ent­schei­dung ge­troffen hat? Falls nicht, hast du ein Transparenz-Problem.

Frage 3: Wer kontrolliert meine Daten?

Das ist die Kö­nigs­frage. Auf welche Da­ten­quellen greift die KI zu? Wo werden sie ver­ar­beitet? Und – das ist der Punkt, der dir den Schlaf rauben sollte – fließen deine Un­ter­neh­mens­daten wo­mög­lich in die Trai­nings­da­ten­sätze des An­bie­ters ab?

Stell dir vor, du gibst deine Kal­ku­la­tion für ein Groß­pro­jekt in ein KI-Tool ein. Und drei Mo­nate später be­kommt dein Wett­be­werber von der­selben KI einen ver­dächtig ähn­li­chen Vor­schlag. Klingt pa­ra­noid? Ist es nicht. 50 % der Un­ter­nehmen geben an, dass der Da­ten­schutz das Trai­ning von KI-Mo­dellen er­schwert – und das hat gute Gründe.

Frag dich: Bleiben meine Daten in meinem Ein­fluss­be­reich? Oder ver­lasse ich mich auf ein Ver­spre­chen im Kleingedruckten?

🔍 KI-Bot­schafter In­fobox: Die Ber­liner Ver­wal­tung macht es vor: Mit dem Pro­jekt „BärGPT" setzt sie auf einen LLM-agnos­ti­schen An­satz – also die Wahl­frei­heit zwi­schen ver­schie­denen Sprach­mo­dellen, ge­hostet auf ei­gener In­fra­struktur. Das Er­gebnis: Keine Daten ver­lassen un­kon­trol­liert das System. Kein Vendor Lock-in. Ma­xi­male Sou­ve­rä­nität. Was für eine Ver­wal­tung funk­tio­niert, funk­tio­niert auch für dein Unternehmen.

Frage 4: Was passiert, wenn die KI ausfällt – oder Unsinn liefert?

KI-Sys­teme „hal­lu­zi­nieren". Das ist kein Bug, das ist ein Fea­ture – im schlech­testen Sinne. Sprach­mo­delle er­zeugen Texte auf Basis von Wahr­schein­lich­keiten, nicht auf Basis von Wahr­heit. Das be­deutet: Die KI kann dir mit ab­so­luter Über­zeu­gung einen kom­pletten Blöd­sinn er­zählen. Und wenn du diesen Blöd­sinn in eine Kun­den­mail, ein Ver­trags­werk oder eine Pro­dukt­be­schrei­bung über­nimmst, haf­test du.

Noch kri­ti­scher: Was, wenn das KI-System kom­plett aus­fällt? Wenn der Cloud-Dienst down ist? Oder wenn geo­po­li­ti­sche Ver­wer­fungen dazu führen, dass du plötz­lich keinen Zu­griff mehr auf deine Werk­zeuge erhälst?

Frag dich: Haben wir Not­fall­pläne? Können kri­ti­sche Ge­schäfts­pro­zesse auch ohne ex­terne KI-Dienste weiterlaufen?

Frage 5: Sind meine Geschäftsgeheimnisse geschützt?

Und damit meinen wir nicht nur den Schutz vor Ha­ckern. Wir meinen den Schutz vor dem An­bieter selbst. Wenn dein ge­samtes Wissen – Pro­zesse, Kal­ku­la­tionen, Kun­den­daten – in der In­fra­struktur eines ein­zelnen An­bie­ters liegt, bist du ab­hängig. Und Ab­hän­gig­keit ist das Ge­gen­teil von Souveränität.

Das Bei­spiel der Firma VM­ware zeigt, wie real dieses Ri­siko ist: Nach der Über­nahme durch Broadcom stiegen die Preise für viele Kunden dras­tisch, sie waren ge­zwungen von einem Kauf­mo­dell in ein teures Miet­mo­dell zu wech­seln. Wer keine Exit-Stra­tegie hatte, stand vor der Wahl: zahlen oder mo­na­te­langes, teures Mi­gra­ti­ons­pro­jekt. Das ist kein Worst-Case-Sze­nario. Das ist Alltag.

Frag dich: Kann ich den An­bieter wech­seln, ohne mein Ge­schäft lahm­zu­legen? Oder bin ich in einem Vendor Lock-in gefangen?

Die drei Risikoebenen, die du kennen musst

Die fünf Fragen adres­sieren ver­schie­dene Fa­cetten eines grö­ßeren Bildes. Um das Ganze stra­te­gisch ein­zu­ordnen, hilft es, die Ri­siken in drei Ebenen zu verstehen:

Technische Risiken

Das BSI iden­ti­fi­ziert drei Be­rüh­rungs­punkte: IT-Si­cher­heit für KI (Schutz der KI-Sys­teme selbst), durch KI (KI als Werk­zeug für An­greifer) und mit­tels KI (KI in der Ver­tei­di­gung). Neue An­griffs­vek­toren wie „Prompt In­jec­tion" – bei der An­greifer die Si­cher­heits­filter von Sprach­mo­dellen um­gehen, um in­terne Daten zu ex­tra­hieren – oder „Eva­sion At­tacks", die Ein­ga­be­daten ma­ni­pu­lieren, sind keine Sci­ence-Fic­tion. Sie pas­sieren jetzt.

Rechtliche Risiken

Der EU AI Act un­ter­teilt KI-Sys­teme in Ri­si­koklassen. Setzt du KI im Per­so­nal­wesen ein, um Be­werber zu be­werten? Dann ar­bei­test du mög­li­cher­weise mit einer „Hoch­ri­siko-KI" – und die un­ter­liegt strengsten Do­ku­men­ta­tions- und Trans­pa­renz­pflichten. Ver­stöße können Buß­gelder nach sich ziehen, die zwar für KMU ge­de­ckelt sind, aber trotzdem exis­tenz­be­dro­hend sein können.

Ökonomische Risiken

Der Vendor Lock-in ist das sub­tilste und gleich­zeitig ge­fähr­lichste Ri­siko. Wenn deine ge­samte KI-In­fra­struktur auf den pro­prie­tären Schnitt­stellen eines ein­zigen Hy­pers­ca­lers ba­siert, wird ein Wechsel tech­nisch und fi­nan­ziell na­hezu un­mög­lich. Du ver­lierst deine Ver­hand­lungs­macht. Und mit ihr deine stra­te­gi­sche Handlungsfähigkeit.

🔍 KI-Bot­schafter In­fobox – Die Risikoübersicht:

Dein Handlungsleitfaden: Die 10-Punkte-Checkliste für souveräne KI-Einführung

Genug der Ri­si­ko­ana­lyse. Jetzt wird es kon­kret. Diese zehn Punkte sind dein Fahr­plan – nicht als Theorie, son­dern als prak­ti­sches Werk­zeug, das du morgen früh auf den Tisch legen kannst.

📋 KI-Bot­schafter Check­liste: 10 Schritte zur sou­ve­ränen KI-Nutzung

1. Be­stands­auf­nahme ma­chen: Welche KI-Sys­teme sind be­reits im Ein­satz (auch die in­of­fi­zi­ellen!)? Do­ku­men­tiere sie alle – in­klu­sive Zweck und Datenfluss.
2. Ri­siken prüfen: Stufe jedes System nach dem EU AI Act ein. Wo werden sen­sible Daten ver­ar­beitet? Wo lauern die größten Gefahren?
3. Go­ver­nance auf­bauen: Be­nenne ge­trennte Ver­ant­wort­liche für Com­pli­ance und Da­ten­schutz. Nicht als Pa­pier­tiger, son­dern mit echtem Mandat.
4. Da­ten­hy­giene si­cher­stellen: Da­ten­mi­ni­mie­rung und Qua­li­täts­si­che­rung sind keine Kür – sie sind Pflicht. We­niger Daten = we­niger Angriffsfläche.
5. Do­ku­men­ta­tion auf­bauen: Halte tech­ni­sche Un­ter­lagen be­reit, die einem Audit stand­halten. Nicht erst wenn der Prüfer klingelt.
6. Mit­ar­bei­tende schulen: Kon­ti­nu­ier­lich. Nicht einmal im Jahr eine Pflicht­un­ter­wei­sung, son­dern echtes Ena­blement. Der AI Act ver­langt das sogar.
7. Trans­pa­rent kom­mu­ni­zieren: Sage Kunden und Be­leg­schaft offen, wo und wie du KI ein­setzt. Trans­pa­renz schafft Vertrauen.
8. Mensch­liche Kon­trolle si­cher­stellen: KI schlägt vor, der Mensch ent­scheidet. Immer. Keine Aus­nahmen bei kri­ti­schen Prozessen.
9. Rechts­schutz klären: Ur­he­ber­rechte, Haf­tungs­fragen, Ver­trags­klau­seln – kläre das vor dem Go-live, nicht danach.
10. Mo­ni­to­ring ein­richten: Die KI-Welt dreht sich schnell. Über­wache lau­fend tech­ni­sche Ent­wick­lungen, neue Ri­siken und re­gu­la­to­ri­sche Änderungen.

Diese Liste ist kein Einmal-Pro­jekt. Sou­ve­rä­nität ist ein lau­fender Pro­zess. Aber jeder ein­zelne Punkt, den du ab­hakst, macht dein Un­ter­nehmen ein Stück widerstandsfähiger.

Digitale Souveränität ist die Währung der Zukunft

Wenn du bis hierhin ge­lesen hast, dann hast du etwas ver­standen, das viele noch nicht be­griffen haben: Da­ten­schutz ist kein Hin­dernis für KI. Da­ten­schutz ist die Basis für Sou­ve­rä­nität. Und die ist Vor­aus­set­zung, dass du auch morgen noch selbst ent­schei­dest, wohin dein Un­ter­nehmen steuert.

Rund 70 % der Un­ter­nehmen be­stä­tigen, dass die DSGVO die Da­ten­si­cher­heit im ei­genen Haus ver­bes­sert hat. Das ist kein Zu­fall. Die DSGVO zwingt dich dazu, von An­fang an auf Da­ten­qua­lität und Trans­pa­renz zu achten – genau die Fak­toren, die auch über den Er­folg von KI-Pro­jekten ent­scheiden. Da­ten­schutz ist kein Brems­klotz. Er ist dein Qualitätsstandard.

Wir wissen: Das Thema fühlt sich manchmal über­wäl­ti­gend an. Neue Ge­setze, neue Tech­no­lo­gien, neue Ri­siken – jeden Tag. Aber genau des­halb hast du jetzt diese fünf Fragen in der Ta­sche. Sie sind dein Kom­pass. Nicht per­fekt, aber ver­dammt praktisch.

Di­gi­tale Sou­ve­rä­nität heißt nicht, alles al­lein zu ma­chen. Sie heißt, be­wusst zu ent­scheiden – welche Tools du nutzt, welche Daten du teilst, welche Ab­hän­gig­keiten du ein­gehst. Es heißt „De-ris­king statt De­cou­pling": die Vor­teile glo­baler Tech­no­logie nutzen, ohne die Kon­trolle über den ei­genen Kern aufzugeben.

Un­ter­nehmen, die heute in ihre KI-Re­a­di­ness und ihre di­gi­tale Sou­ve­rä­nität in­ves­tieren, werden nicht nur ef­fi­zi­enter ar­beiten. Sie werden re­si­li­enter sein ge­gen­über den un­ver­meid­li­chen Um­brü­chen der kom­menden Jahre. Und sie werden etwas haben, das man nicht kaufen kann: Ver­trauen – von Kunden, von Mit­ar­bei­tenden, von Partnern.

Also: Bevor du das nächste Mal auf „Senden" drückst, stell dir die fünf Fragen. Aus Souveränität.

Und wenn du dabei merkst, dass du Un­ter­stüt­zung brauchst – für klare Leit­planken, für die Schu­lung deines Teams, für den Fahr­plan von „Wir müssen" zu „Wir wollen": Dann weißt du, wo du uns findest.