#32: KI im HR-Bereich: Wenn Algorithmen über Karrieren entscheiden

00:00:01: Herzlich willkommen bei Law of the Ohr.

00:00:03: Aktuell, kritisch auf den Punkt!

00:00:06: In diesem Podcast befragt Gastgeber Martin Hinze Expertinnen und Experten aus der Welt von Recht und Gesetz zu brandaktuellen Themen.

00:00:16: Heute wird es besonders spannend denn wir sprechen über ein Thema das in vielen Unternehmen schon längste Realität ist oft aber eher leise im Hintergrund läuft nämlich den Einsatz von künstlicher Intelligenz im HR Bereich vom automatisierten Bewerbermatching über KI-gestützte Performance Tools bis hin zu Lernplattformen, die individuelle Entwicklungsphase vorschlagen.

00:00:37: All das verspricht Effizienz, bessere Entscheidungen und mehr Fairness.

00:00:42: Gleichzeitig stellen sich aber drängende Fragen – wo beginnt das Diskriminierungsrisiko?

00:00:46: Was dürfen Arbeitgeber überhaupt?

00:00:48: Welche Rechte haben Beschäftigte?

00:00:50: Und was ändert sich mit den neuen europäischen Vorgaben wie dem AI Omnibus?

00:00:55: Genau darüber spreche ich heute mit zwei Experten unserer Arbeitsrechterin Antonia Gutsche und unsere Tech-Anbältin Mareike Germann.

00:01:02: Ganz herzlich willkommen, ihr beiden!

00:01:04: Hallo!

00:01:07: Wir widmen uns heute zuerst zumal ihren persönlichen Perspektiven.

00:01:11: Dann schauen wir auf die praktischen Einsatzfälle von KI in der Personalarbeit und im Printblock steigen wir dann tiefer ein in die rechtlichen Leitplanken Risiken und To-dos für HR Teams.

00:01:22: also los geht's.

00:01:24: Wir wollen bei dir starten, lieber Antonian.

00:01:27: Stelle dich doch bitte mal ganz kurz vor wer bist du und was machst du bei Telewessing?

00:01:32: Ja sehr gerne!

00:01:33: Hi Martin Heimareike vielen Dank für die Möglichkeit dass wir heute hier so ein bisschen darüber sprechen können.

00:01:39: ich bin Antonia Gutsche Ich bin Senior Associated im Arbeitsrecht.

00:01:43: ja wir machen da die ganze Bandbreite an individuellem Arbeitsrecht kollektiven Arbeitsrecht Und meine Schwerpunkte liegen da so'n bisschen auf der Beratung von Unternehmen in Bezug auf den rechtskonformen Einsatz von KI.

00:01:56: Also genau das, worüber wir heute sprechen sowie auch zum flexiblen Personalinsatz und da auch viel fremdpersonal Einsatz im IT-Bereich.

00:02:06: Sehr schön!

00:02:07: Haben ja genau die richtige Expertin rausgepickt.

00:02:10: Gab es ein bisschen lang einen Fall oder einem Projekt bei dem du so gedacht hast?

00:02:13: Okay jetzt verändert KI das Arbeitsrecht wirklich spürbar und vielleicht könntest du das kurz skizzieren.

00:02:21: Ja, so aus unserer arbeitsrechtlichen Perspektive ist das zum einen erhöhter Regelungsbedarf.

00:02:28: Also wir merken natürlich dass Mandanten Beratungen brauchen.

00:02:32: wie kann ich KI einsetzen?

00:02:33: Das wird natürlich viel gemacht!

00:02:35: Was darf ich was muss ich beachten?

00:02:38: ganz praktisch merken wir auch dass sich so ein bisschen das verändert was wir machen oder womit wir kontaktiert werden.

00:02:44: Das Beispiel sind da Abmahnung.

00:02:47: Also noch vor ein paar Jahren haben wir ganz regelmäßig Abmahnungen für Mandanten geschrieben.

00:02:52: Das machen die jetzt selbst unter Einsatz von KI, sind also sehr formalisierte Dokumente und das kann KI oft auch gut, geht natürlich auch manchmal schief.

00:03:05: Das merken wir und wir selbst nutzen natürlich auch viel KI.

00:03:09: Das hilft uns sehr, auch wenn Vorsicht geboten ist bei uns Juristen.

00:03:16: Sehr schön!

00:03:16: Vielen Dank.

00:03:17: Ja, zu dir liebe Marike.

00:03:19: Würdest du dich auch mal kurz vorstellen bitte?

00:03:22: Ja klar und auch von meiner Seite immer vielen Dank hier für die Möglichkeit.

00:03:27: Mein Name ist Marike German ich bin Partnerin Martella Besingen Bereich TMT, das ist also Technology Million Telekom.

00:03:34: wir beraten rund ums IT-Rech Datenschutzrecht KI-Recht gerade sehr spannend und ist reguliert.

00:03:45: Ja, bin jetzt da im Jahr zwei Tausend Zwölf bei Telewessing und arbeite hier dann auch am selben Standort wie Antonian Düsseldorf.

00:03:54: Vor allen Dingen natürlich zu Kai.

00:03:57: Sehr schön!

00:03:57: Genau.

00:03:58: Antonia hat es ja auch gerade schon gesagt – bei uns kommt auch KI zum Einsatz.

00:04:02: Kannst du das vielleicht noch mal ein bisschen genauer ausführen?

00:04:06: Was wird denn da bei TeleWessing diskutiert und welche Gedanken macht sich unsere Kanzlei dann für die Zukunft?

00:04:13: Das ist wirklich sehr divers.

00:04:15: Wir haben verschiedene Anwendungsmöglichkeiten, also einmal natürlich die Frage wie können wir unsere rechtliche Beratung anders gestalten?

00:04:22: Also das KI uns unterstützt, den ihr vielleicht effizienter macht oder dass wir vielleicht auch Beratungsprodukte ganz anderer Art anbieten können.

00:04:32: in dieser Kombination und natürlich machen wir uns auf viele Gedanken was es denn wenn sich auch so die Beratungen ändert Man vielleicht, wie Antonias beschrieben hat gewisse Dinge dann von der KI übernommen werden.

00:04:45: Wo man sich vielleicht als Junge Anwalt langsam anrobt und lernt.

00:04:49: Was ist denn wenn das wegfällt?

00:04:50: Wie bildet man da noch die junge Anwälte aus, dass sie dann verhandlungssicher werden und die Erfahrungen sammeln?

00:04:58: Das sind viele Gedanken, wie wir uns dazu machen haben auch Energie geteckt dazu gegründet und sind am regen Austausch untereinander Und ich glaube, in zehn Jahren werden wir alle ganz anders arbeiten und auch ganz anders nochmal als Anwalt ausgebildet werden.

00:05:13: Das ist fürs Spannt!

00:05:15: Ein sehr spannendes Thema.

00:05:16: Dazu haben wir übrigens auch schon mal eine Podcast-Folge mit dem Kollegen Robert Bauer gemacht.

00:05:20: die kann ich an der Stelle noch einmal wärmstens empfehlen.

00:05:22: da gehen wir genauer auf das Thema ein über dass wir sicherlich hier auch noch locker die halbe Stunde füllen könnten.

00:05:27: aber wir haben ja heute das Thema KI im HA Bereich.

00:05:31: deswegen rein in unsere in den Einstieg und die rechtliche Einordnung Vielleicht, bevor wir so richtig rechtlich reingehen überhaupt eure Einschätzung.

00:05:42: Warum ist denn das Thema KI im LHA-Bereich gerade jetzt so brisant sowohl zum einen für die Unternehmen als auch für die Mitarbeitenden?

00:05:52: Der HR-Bereich ist da natürlich sehr im Fokus und da werden viele Emotionen auch geschwiegert.

00:05:57: Das merken wir auch bei Verhandlungen mit den Betriebsräten, zum einen geht es natürlich dem Arbeitgeber darum so ein bisschen die Kostendruppe zu senken, Effizienz zu steigern.

00:06:07: Natürlich auch mit Blick auf Generationenwandel und die Boomer steigen aus, dass man natürlich auch Ressourcen, die knapper werden, ausgleichen muss.

00:06:17: Da erhofft man sich viel Effizenz gleichzeitig aber auch Ängste beinem Mittel.

00:06:21: Ersetzt zu werden durch KI und wo es dann auch, da drängen auch auf so Betriebsräte.

00:06:29: Das merken wir auch hin eher die Leute zu entebeln, die mitarbeiten zur Schulen dass sie halt nicht ihre Jobs verlieren das merkt man halt.

00:06:38: plus auch dieses Risiko dass man vielleicht auch Menschen benachteiligt weil die KI vielleicht Daten Information anders bewertet und dass das eine Angst ist, dass man diskriminiert wird oder es da so Verzerrungen geht.

00:06:55: Das merkt man auf jeden Fall.

00:06:58: Ja Antonia möchtest du noch was ergänzen?

00:07:01: Ja genau das ist auf jeden fall das was uns immer wieder begegnet.

00:07:05: hinzu kommt dann auch ein bisschen der Dschungel der Regelung plus also wo's gerade für Nicht-Juristen zum Teil schwer ist, durchzusteigen.

00:07:14: Plus der Bereich, der noch nicht wirklich geregelt ist vom Gesetzgeber oder gereglt ist aber nicht so wirklich zu aktuellen Realität passt also sich seit Jahrzehnten nicht weiterentwickelt hat.

00:07:28: das ist ein bisschen ein Problem bei Mitbestimmungsrecht da sprechen wir ja auch wahrscheinlich im Laufe des Gesprächs drüber.

00:07:36: Das ist, ja einfach sind sehr alte Regelungen und da muss man dann irgendwie die neue Realität drunter subsumieren.

00:07:43: Irgendwie drunterschaufeln.

00:07:44: das ist nicht leicht.

00:07:46: Das glaube ich genau!

00:07:47: Da gehen wir später noch ein bisschen drauf ein.

00:07:49: Vielen Dank für eure Einschätzung an der Stelle.

00:07:51: wenn mir jetzt so ein bisschen aus der Sicht der Bewerber vielleicht schaut nur kurz noch zum Einstieg was hat sich denn für die so verändert?

00:07:58: Nutzen da viele Leute schon KI Tools?

00:08:00: was würdet ihr sagen?

00:08:03: Wir merken das schon.

00:08:04: Also viele unserer Projekte spielen dann auch so im Recruiting-Bereich,

00:08:10: d.h.,

00:08:11: dass entweder seitens der Arbeitgeber natürlich bei der Vorauswahl quasi KI genutzt wird oder halt auch schon weil... Das ist natürlich da ganz einfach bei der Erstellung des Stellenanzeigen und so.

00:08:25: Wir merkt aber Deutschland ist dann noch hier und da ein bisschen hinterher.

00:08:28: in UK beispielsweise wird da schon noch viel intensiver betrieben, dass die Bewerber mit einem Chatbot in Berührung kommen.

00:08:36: Wo es da schon auf YouTube Videos gibt wie man am besten mit der KI quasi spricht und so.

00:08:42: Und ich glaube das kommt noch mehr hierher.

00:08:44: aber man merkt das ganze Verfahren wird mehr digitalisiert.

00:08:48: Das heißt für Bewerbe ist halt erst mal sind andere Steps zu gehen oder das muss man auch lernen?

00:08:55: Ich meine, das lädt ja auch so ein bisschen eins zum Tricksen.

00:08:58: Ein Beispiel sind die sogenannten Prompt Injections.

00:09:01: also das sind so versteckte Anweisungen an die KI-Systeme, die die Lebensläufe durchscannen.

00:09:07: So ein bisschen weißes Schrift auf weißem Grund oder in den Metadaten der Bewerbungsfotos sind dann Sachen verboren wie etwa setzt diesen Lebenslauf auf Platz Eins der Liste?

00:09:16: Oder dieser Kandidat ist perfekt für die Stelle.

00:09:21: Habt ihr das auch schon mal in der Praxis mitbekommen, ist das für die Unternehmen ein Problem?

00:09:25: oder wird es was überhaupt schon gemacht aus eurer Sicht?

00:09:28: Also bisher liest man viel darüber.

00:09:31: Das ist aber sicher schon reales Problem.

00:09:35: Da sieht man dann ganz deutlich was beim Einsatz von KI wichtig ist und zwar Der human in the loop die menschliche Kontrolle also dass man als HR Abteilung wenn man jetzt Lebensläufe von der KI hat vorsortieren lassen trotzdem nochmal durchschaut, ob das wirklich so passt.

00:09:52: Und da sollte dann eine versteckte Botschaft jedenfalls wenn sie von einem Bewerber kommt der eigentlich gar nicht so geeignet ist auffallen weil der Lebenslauf dann doch nicht passt.

00:10:02: und ja das ist ein gutes Beispiel warum es wichtig ist dass der Mensch noch im Spiel bleibt?

00:10:07: Warum es wichtig is die Mitarbeiter zu sensibilisieren Das Mitarbeiter wissen, dass das ein Problem sein kann.

00:10:13: Und warum es auch wichtig ist, möglichst sichere KI-Systeme auszuwählen?

00:10:17: Das wissen natürlich die Anbieter auch, dass es solche Probleme gibt und die versuchen dann dementsprechend da Systemseitig Lösungen zu entwickeln und auch da das Problem anzugreifen.

00:10:29: Ja sehr spannender Punkt!

00:10:31: Jetzt sind wir ja im Prinzip schon mittendrin nämlich so in den Anwendungs- und Praxisbeispielen.

00:10:35: Antonia vielleicht kannst du noch mal ganz kurz benennen An welcher Stelle bei den Personalteams und der HR-Teams da die Tools eingesetzt werden, was so die häufigsten Anwendungsfälle sind vielleicht?

00:10:48: Eigentlich.

00:10:48: Eingesetzt werden können sie und werden hier sicher auch im gesamten Lebenszyklus eines Arbeitsverhältnisses.

00:10:56: Also es fängt an beim Recruiting, beim Bewerbungsmanagement.

00:10:59: Mareike hat's ja schon gesagt wie das aussehen kann.

00:11:02: also Stellenanzeigen natürlich kann man mit einer KI schreiben lassen oder aufhübschen lassen.

00:11:07: Es gibt Sourcing-Tools, um geeignete Kandidaten selbst zu finden.

00:11:11: Chatbots auf Karriereseiten die dann so First Level den ersten Kontakt übernehmen bevor dann Mensch da irgendwie reingeschaltet wird.

00:11:20: natürlich die automatisierte Auswertung von Lebensläufen oder das Ranking von Bewerbungen wie schon gesagt.

00:11:26: wichtig einfach dass da Menschen daran beteiligt bleiben Da kommen wir sicher auch noch zu.

00:11:32: das ist auch aus ja aufgrund rechtlicher Leitplanken zwingt erforderlich.

00:11:37: Dann Performance Management, da gibt es natürlich viele Tools die Performance Managen können und auswerten können.

00:11:47: Auch da gibt's rechtliche Grenzen insbesondere Mitbestimmungsrechte vom Betriebsrat.

00:11:52: dann Trainings lassen sich durch KI gut personalisieren und dann ja schaut die KI wie schnell kanns gehen bei dem konkreten Mitarbeiter.

00:12:00: welche Inhalte sind hier wichtig?

00:12:03: Das muss dann nicht mehr händisch gemacht werden.

00:12:05: und Workforce Management.

00:12:06: Also Schichtplanung, Einsatzplanung ist eine super Aufgabe für KI.

00:12:11: Muss man aber auch aufpassen weil die KI natürlich was der Mensch berücksichtigen würde.

00:12:15: Super viele individuelle Punkte berücksichtigte muss so eine Schicht Planung.

00:12:21: ja das sind viele Dinge die berücksichts werden müssen Aber das ist ein guter Einsatzbereich.

00:12:27: Okay vielen Dank für den Überblick.

00:12:29: also zusammengefasst relativ viele Einsatzbereiche, wirklich einen bunteren Blumenstrauß.

00:12:36: Lass uns ein bisschen tiefer einsteigen in die rechtlichen Leitplanken.

00:12:40: und in Sachen Compliance und zum AI, Obnibus den ganz aktuellen Thema wollen wir auch noch kommen.

00:12:46: Vielleicht ganz zu Beginn stellt euch doch mal vor in so einem HR Team kommt auf euch zu und sagt Wir wollen jetzt tatsächlich KI im Recruiting einsetzen Aber wir haben überhaupt keinen Plan, wo wir jetzt anfangen sollen.

00:12:58: Was wären denn eure Top drei Punkte die man dabei nicht übersehen sollte?

00:13:03: Ja genau du hast ja gerade das Gott Blumstrauß auch genannt.

00:13:07: deswegen muss man auch mal den Einsatz von Kaiji verstehen.

00:13:10: aber es gibt so ich sage mal drei Rechtsgebiete, Bereiche die man dann auf jeden Fall im Blick haben muss.

00:13:17: Das ist einmal jetzt natürlich das KI.

00:13:19: reguliert ist über die KI-Verordnung.

00:13:21: Jetzt nochmal auch ein bisschen angepasst wird durch den Digitalische Omnibus Act.

00:13:25: Kommen wir mit sich ja gleich noch mal zu.

00:13:27: und da natürlich klar das klassische Arbeitsrecht also Betriebsfahrt muss natürlich mit ihnen zugenommen werden.

00:13:35: Also es gilt weiterhin alles.

00:13:37: Da gibt's keine... Super Ausnahme für KI, auf einmal ist alles anders.

00:13:41: Und dasselbe gilt beim Datenschutz und bei Daten meistens natürlich um vor allem im HR-Bereich personenbezogene Daten verarbeitet werden aber deswegen nochmal ein bisschen nach vorne gerückt.

00:13:52: was ist denn überhaupt die KI Verordnung?

00:13:54: Was regelt dir und was würden wir da erstmal so ein bisschen erläutern?

00:13:58: Man muss vielleicht erst mal verstehen das die KI-Verordnung funktioniert ein bisschen wie eine Pyramide so risikobasierend.

00:14:06: Das heißt eben ja Risiko ich mit der Anwendung von KI habe, dass du strikter ist hier reguliert.

00:14:11: Das können wir uns alle vorstellen.

00:14:13: in der HAA-Bereich.

00:14:15: Da greife ich natürlich etwas... Die Brüfe sind für uns wichtig!

00:14:20: sichert unsere Lebensgrundlage.

00:14:22: Deswegen ist der Bereich natürlich hochreguliert.

00:14:25: und wenn man vor allen Dingen in dem Bereich Recruiting geht, aber auf Arbeitsanweisungen durch KI kann man sich auch vorstellen oder auch Beendigung von Arbeitsverhältnissen oder die Bewertung vom Performance sagen wir alle diese sensiblen Dinge, dann ist man natürlich im Hochrisiko KI Bereich.

00:14:46: Sprich da ist man hoch reguliert.

00:14:48: das muss man einfach im Blick haben.

00:14:52: dass man dieser Anforderung dann auch erfüllt so das ist auf jeden Fall das eine.

00:14:57: Dann der zweite große Punkt ist natürlich das Arbeitsrecht.

00:15:00: Das kann Antonia natürlich besser erläutern.

00:15:03: Ja, genau das ist ja auch schon angeklungen.

00:15:07: Ganz wichtig die Betriebsratsbeteiligung.

00:15:11: wenn im Unternehmen ein Betriebesrat besteht.

00:15:13: Das ist gerade bei großen Unternehmen natürlich sehr häufig der Fall dann muss er ganz früh mit ins Boot geholt werden weil eigentlich wenig E-Tools denkbar sind die am Betriebstrad vorbei eingeführt und genutzt werden können.

00:15:29: Und da ist Transparenz sehr wichtig damit man da irgendwie an einem Strang zieht und nicht gegeneinander arbeitet als Betriebsparteien.

00:15:37: Also frühzeitige Einbindung, ganz wichtig!

00:15:39: Und dann natürlich dieser formalisierte Mitbestimmungsprozess.

00:15:43: durch Abschluss von Betriebesvereinbarungen ist immer darauf zu achten dass die auch dynamisch genug formuliert werden das man für eine Anpassung nicht jedes Mal ganz neu von vorne den Betriebersrat beteiligen muss.

00:15:58: also das ist wichtig früh mitzudenken.

00:16:02: Genau und dann hatte ich ja quasi Datenschutz gesagt, vielleicht muss man das oder das muss man auf jeden Fall nochmal weiter denken.

00:16:08: Und zwar Daten der Umgang mit Daten.

00:16:11: denn klar wir haben einmal den Datenschutzt, d.h.

00:16:14: bei so einem Bezogen der Daten, damit ich diese verarbeiten darf.

00:16:16: Ich brauche eine Rechtsgrundlage.

00:16:18: Ich muss doch über die Betroffene informieren.

00:16:20: Die betroffenen haben Rechte Und so weiter.

00:16:23: Das muss sich halt alles erfüllen, auch die Frage automatisierte Entscheidungen.

00:16:27: ist das erlaubt unter welchem Voraussetzung?

00:16:29: da sind wir natürlich bei KI auch mittendrin.

00:16:33: Das muß ich eher vom Kick haben aber auch um beispielsweise Verzerrung, Benachteiligung oder schlechterdings Diskriminierung zu verhindern gute Daten zu haben nicht auf veralteten Daten oder Daten, die für diesen Zweck gar nicht so geeignet sind zu nehmen.

00:16:51: Und dann kommt es um die Zuverzerrung und vielleicht das Bewerber da beispielsweise benachteiligt werden.

00:16:58: Das sind deswegen diese Punkte.

00:17:00: Deswegen erst nochmal zusammengefasst.

00:17:02: Die KI-Regulierung jetzt im Blick haben Arbeitsrechteilt.

00:17:06: Wir sind halt im Personalbereich und dann wirklich der Ungarn mit Daten, dass der beherrscht wird.

00:17:14: Okay super!

00:17:14: Ja zwei drei große Punkte die ihr da jetzt schnell zusammengefasst habt.

00:17:19: Ihr sagtet auch, es gibt immer noch eine Menge Unsicherheit, die mit KI-Tools verbunden ist in der Praxis.

00:17:25: Wie wichtig ist denn aus eurer Sicht dafür unternehmen so eine KI-Policy aufzusetzen?

00:17:30: Und ja welche Rolle spielen die HR Team?

00:17:32: sollen die dann mithreden?

00:17:34: Sind die da eh außen vor?

00:17:35: was meint ihr?

00:17:37: Ja also man muss das ein bisschen so begreifen wie jetzt so aus einem gewissen Komplienz folgt oder wie man das auch vom Datenschutz kennt.

00:17:46: Aber vielleicht der Vorteil ist, dass viele Unternehmen sich schon gewisse Strukturen durch diverseste Regulierungen, vor allem Datenschutze etabliert haben und da kann man quasi Kaima drandocken.

00:17:57: Man muss also nicht immer die Welt neuer finden sondern kann bestehende Prozessestrukturen für Suchen zu nutzen.

00:18:03: Und was man schon haben sollte es eine Art Policy, ob man die jetzt Policy nennt oder wie auch immer.

00:18:09: aber man muss sich als Unternehmen... Geht natürlich jetzt erstmal für die Geschäftsführung oder im Vorstand Gedanken machen, wie soll KI eingesetzt werden?

00:18:19: Ist ja ein Teil der Digitalisierung letztendlich auch.

00:18:24: Und welche Risiken wollen wir vielleicht auch tragen?

00:18:29: Das heißt hier nachdem wo KI eingesetzt wird ist es vielleicht auch risikoreicher.

00:18:35: deswegen welche Schutzmaßnahmen muss man deswegen etablieren.

00:18:38: Und das heißt, dass ist ja eigentlich der Step den sich erst mal die Unternehmensführung setzen muss und überlegen muss.

00:18:46: Dass man nicht einfach anfängt so Ja entweder KI verbietet und man weiß, dass ganz vieles doch irgendwie dann nutzen privat und das dann für die Ergebnisse beruflich nutzen oder dass man einfach sagt hier probiert einfach mal wenn jeder soll jetzt mal los starten sondern dass man das steuert um halt auch Vorher hieß es immer Shado IT, jetzt Shadokai zu verhindern und das halt auch unter Kontrolle zu haben.

00:19:12: Und man muss sich das vielleicht auch so... Ich nehme immer das Beispiel der Intensivstation.

00:19:17: wenn man da ein neues Beatmungsgerät bekommt werden die Mitarbeitenden ja aufgeschult wie sie dieses Beatmung Geräte nun anwenden.

00:19:24: Auch wenn Sie schon Beatmungen aus der Vergangenheit natürlich kennen die Umgang damit, dass man dann halt auch die Risiken kennt und aber auch die Chancen.

00:19:38: Und das man die Mitarbeiter letztendlich auch enabled KI vernünftig zu nutzen.

00:19:44: Man sollte als Unternehmen wissen was für KI-Systeme werden eingesetzt?

00:19:49: Dass man erstmal das System an sich auch freigeben muss, dass da so ein Prozess hat.

00:19:54: Das ist vorher von von der Rechtsabteilung, Datenschutzabteilungen damit überprüft wird und dass man dann sich aber immer auch nochmal die Use-Case anguckt.

00:20:06: Was macht man denn alles mit dem KI System?

00:20:09: Abhängig vom Prompt beispielsweise kann etwas sehr mehr oder weniger risikoreich sein.

00:20:16: Ein Beispiel, da hat eine Mandantien Co-Pilot genutzt um Bewerbungsgespräche zusammenzufassen und das ist erstmal total nützlich.

00:20:25: Die wurden halt digital über Videokonferenztour geführt und dann haben wir uns aber den Prompt angeguckt und da waren beispielsweise... Da war es sich die Fachabteilen dessen gar nicht so bewusst.

00:20:37: Auch so, ja wie hat denn der Bewerber auf die so eine Frage reagiert?

00:20:40: Weil er besonders gestresst.

00:20:42: Und dann geht man schon in die Bewertung des Bewerbers und da kommt man dann in andere Sphären.

00:20:46: Das heißt deswegen sollte man bis sich so ein Kompleinssystem aufgebaut haben.

00:20:51: Man muss das ans Unternehmen anpassen.

00:20:55: Wie ist das Unternehmen aufgebaut?

00:20:56: Wie kann das umgesetzt werden?

00:20:58: Ich sage mal bei IT-Sicherheit nicht mehr Fort Knox ist hier angebracht.

00:21:03: Aber dass man dafür im Prozess hat, das ist schon wichtig!

00:21:06: Okay, also nicht nur das dreißig Seiten PDF irgendwo ins Internet stellen und dann ist das Ding abgehakt sondern wirklich auch unter die Leute bringen wenn es geht sogar Schulen.

00:21:16: Verstanden?

00:21:16: Wichtiger Punkt!

00:21:18: Noch ein Thema bei der Einführung von KI Tools welches Stakeholder sollten denn da noch mit eingebunden werden?

00:21:26: Also das Stichwort Betriebsrat ist ja schon öfter gefallen aber vielleicht gibt's ja noch mehr die man damit ins Boot holen sollte.

00:21:32: Wie gesagt, zuerst ist natürlich immer die Unternehmensleitung.

00:21:35: Die muss sich halt die Entscheidungen entsprechend fällen.

00:21:38: wie und also ob und wie soll KI genutzt werden?

00:21:42: Dann braucht man aber auch so ein gewisses Team weil die Erfahrung lehrt, man sollte nicht nur technisch und auch nicht nur echtlich auf das Thema gucken sondern man muss sich gegenseitig dass die KI-Systeme ansehen.

00:21:56: diese bewerten deswegen ein gewisses Kompetensteam aus IT Rechtsabteilung, Datenschutz, neue HR.

00:22:06: Da sehe ich schon die Schwerpunkte.

00:22:07: und natürlich die Einkaufsabteilungen muss natürlich auch über diese Bewertung quasi beschreit wissen, dass sie ja doch wissen worauf muss sich schon beim Einkauf achten?

00:22:15: Nicht das man dann was einkauft und letztendlich verstellt Das Geld ist umsonst ausgegeben weil man das so gar nicht nutzen kann.

00:22:24: Das wäre der Worst Case, das stimmt.

00:22:25: Soweit sollte es nicht kommen.

00:22:28: Du hast als ein der Top drei Punkte genannt Mareike Arbeitsrecht, das Thema.

00:22:34: Antonia vielleicht können wir das nochmal ein bisschen genauer ausdifferenzieren.

00:22:38: welche Kernnormen oder Themenfelder des Arbeitsrechts sind denn bei der KI Einführung typischer oder KI Nutzung typischerweise berührt?

00:22:46: Kann man das so ein bisschen abschufen?

00:22:48: vielleicht Ja, das lässt sich ganz gut abstufen.

00:22:52: Ganz wichtig Diskriminierungsfreiheit.

00:22:55: dann natürlich was jetzt schon mehrmals zur Sprache kam die Mitbestimmung durch den Betriebsrat der Datenschutz natürlich auch aus aus arbeitsrechtlicher Perspektive Das ist ja manchmal so bisschen überlappend.

00:23:08: auch super wichtig.

00:23:10: vielleicht zuerst zum Diskriminierung.

00:23:11: verbot also genauso wenig wie Menschen andere Menschen diskriminieren dürfen dürfen KI-Tools diskriminieren.

00:23:19: Also die KI-tools müssen vom Unternehmen so eingekauft werden und dann auch genutzt werden, dass sie diskriminierungsfrei bleiben.

00:23:28: Jetzt zum Beispiel wo wir schon gesprochen haben Recruiting Lebenslaufanalyse.

00:23:36: Die KI darf natürlich selbst, wenn der Mensch das jetzt nicht promptet.

00:23:39: Aber das Ergebnis kann nicht sein dass die KI zum Beispiel Bewerbung von Frauen aussortiert.

00:23:44: Bewerbungen von älteren Menschen aussortieren oder auch so ein bisschen indirekter oder mittelbarer diskriminiert indem

00:23:50: z.B.,

00:23:51: das ist denkbar... Bewerbungen von potenziellen Mitarbeitern mehr berücksichtigt werden, die in strukturstärkeren Stadtbezirken wohnen.

00:24:02: Dann könnten sie eine Diskriminierung zum Beispiel aufgrund der ethnischen Herkonflikt oder ähnlichen Stadt finden?

00:24:07: Das ist natürlich so ein bisschen theoretisch aber man kann sich ganz gut vorstellen dass das schon Probleme sein können.

00:24:14: und wenn das dann so ist haben die Arbeitgeber schnell schnell AGG Probleme am Heils, also auf allgemeines Gleichberechnungsgesetz.

00:24:24: Und KI BIAS, dass die KI irgendwie BIAS Probleme hat.

00:24:29: das ist auch bekannt.

00:24:31: es ist unter anderem Phänomen Durch die Trainingsdaten, die eingespeist werden menschliche Vorurteile übernimmt.

00:24:40: Und dessen muss man sich bewusst sein und da muss man Awareness bei den Mitarbeitern schaffen, die das anwenden damit sie das merken wenn es gar nicht durch sie selbst sondern durch die KI passiert ist.

00:24:52: Genau mit Bestimmung Hatten wir schon angesprochen, ganz wichtig.

00:24:57: Da ist im Betriebsverfassungsgesetz geregelt das der Betriebesrat bei der Einführung und der Anwendung von technischen Einrichtungen die dazu bestimmt sind das Verhalten oder die Leistung der Arbeitnehmer zu überwachen so heißt es im Gesetz.

00:25:10: da ist der Betrieb Rad zu beteiligen hat mit zu bestimmen.

00:25:14: hier ist wichtig.

00:25:14: Es muss nicht das Ziel des eingesetzten KI-Tools sein die Leistung oder das Verhalten zu überwachen, es muss dafür nur objektiv geeignet sein und das ist der Knackpunkt.

00:25:24: Das ist einfach ganz häufig der Fall.

00:25:26: Du kannst fast alle gewonnenen Daten am Ende irgendwie so auswerten dass du Rückschlüsse auf die Leistungen oder das verhalten ziehen kannst Und damit nicht der Arbeitgeber irgendwas einführt was dann der Betriebsrat wieder lahm legt.

00:25:43: Es ist wie schon gesagt ganz wichtig den betriebsrad da frühzeitig mit ins Boot zu holen und Betriebsvereinbarung abzuschließen.

00:25:53: Dann gibt es gerade was diese Leistungs- und Verhaltenskontrolle angeht, das Verbot der totale Überwachung.

00:25:58: also du darfst nicht die ganze Zeit KI-Tools irgendwie im Hintergrund laufen lassen, die messen können was der Arbeitnehmer so macht.

00:26:06: Und selbst wenn es keinen Betriebsrat gibt, dann gelten ähnliche Grundsätze über die Verhältnismäßigkeit und letztlich dann über das allgemeine Persönlichkeitsrecht der Arbeitnehmer.

00:26:16: Was auch die Arbeitgeber berücksichtigen müssen natürlich.

00:26:20: Dann gibt's bestimmte Unterrichtungs- und Beratungspflichten.

00:26:24: zusammengefasst heißt das ist auch schon angeklungen Wenn der Arbeiten über plant KI einzusetzen, dann muss er den Betriebesrat die Art, den Umfang und ja was da alles so geplant ist informieren.

00:26:37: Deswegen ganz wichtig dem Betriebsrat da früh ins Boot zu holen.

00:26:41: selbst wenn kein Mitbestimmungsrecht bestünde würde dennoch der Betriebesrat das Recht haben irgendwie informiert zu werden.

00:26:49: Dann ergibt sich aus der KI-Verordnung Das ist den Arbeitnehmer natürlich wichtig nachvollziehbarer Weise.

00:26:56: Es gilt das Verbot der Emotionserkennung.

00:26:58: also du darfst im Grunde nichts Messen, woraus du schließen kannst.

00:27:02: Wie geht es dem Arbeitnehmer oder wie reagiert er?

00:27:04: Das ist auch das was Marike gerade angesprochen hat wenn du das Bewerbungsgespräch aufnimmst und dann irgendwie schon zu stark in die Richtung gehst dass du misst Ist der Arbeitnehmer jetzt gestresst oder nicht?

00:27:15: Das is eigentlich immer verboten.

00:27:18: Es gibt da irgendwie so ja denkbare Ausnahmen zum Beispiel dass man aus Sicherheitsgründen schon messen kann.

00:27:24: ist der Pilot der grade das Flugzeug fliegt müde oder eingeschlafen, das ist natürlich ein Sonderfall.

00:27:32: Aber im Grunde ist es verboten und Datenschutzrechtlich, Transparenz- und Informationspflichten den Arbeitnehmern oder Bewerbern gegenüber.

00:27:41: Und Artikel Zweiundzwanzig DSGVO regnet genauso wie jetzt auf die KI verordnung dass der Jungen in den Luft bleiben muss.

00:27:50: Das heißt Es Muss Immer Ein Mensch Die Letzte Entscheidung treffen.

00:27:53: die KI darf nicht entscheiden welchen bewerber nehmen wir und welche nicht.

00:27:57: Die Entscheidung muss ein Mensch

00:27:58: treffen.".

00:27:59: Das ist aber nicht nur aufgrund von Artikel zweiundzwanzig wichtig, sondern das ist einfach auch sonst wichtig dass man der KI keine zu weitreichende Entscheidung überlässt.

00:28:10: Okay wunderbar!

00:28:11: Ja eine Menge Hausaufgaben würde ich sagen für die Arbeitsrechtler in den Unternehmen.

00:28:16: Das Thema Diskriminierung ist ein ganz wichtiges so hat es bereits angesprochen vielleicht da an dieser Stelle nochmal nachgehakt wie können Unternehmen dem aktiv entgegenwirken?

00:28:25: liegt?

00:28:26: Kann man da einfach ein anderes Tool auswählen?

00:28:29: Ich meine, die werden ja wohl wahrscheinlich nicht damit wärmen, dass sie jetzt diskriminierend sind.

00:28:33: Wie kriegt man das denn raus und welche Gegenmaßnahmen kann man vielleicht ergreifen?

00:28:37: Ja, vielleicht muss man erstmal verstehen, wo kommt das dann überhaupt her?

00:28:41: Denn Tendenz selbst ist ja nun mal so... ich würde mal seine großen, großen Mehrheit hören, weil wir ja nicht diskriminieren oder jemanden benachteilen.

00:28:48: Das ist ja klar!

00:28:50: Aber es ist nur mal so wie alle haben.

00:28:52: davon können wir uns nicht frei machen, gewisse seltschaftliche Vorprägungen, gewisse Erfahrungswerte.

00:29:01: oder treffen gewisse Annahmen.

00:29:04: Und die können halt dazu führen, dass man vielleicht eine Person, die jetzt etwas anderen Lebenslauf hat also auf dem zweiten Bildungsweg Abitur gemacht hat und neben dem Beruf quasi studiert hat das anders bewertet wird als jemand der klassische Abiturt gemacht hat dann direkt in Studium begangen ist Diese ganze Flut an Daten, die mit der man natürlich die KI füttern muss, sage ich mal in Anführungsstrichen.

00:29:37: Also im Rahmen des Trainings eingibt da muss man sich dann schon klar darüber sein das trifft dann natürlich die Angieter und Hersteller letztendlich dass man da Datensätze nimmt die adäquat sind, die passend sind einmal für den Zweck natürlich.

00:29:55: Die nicht veraltet sind.

00:29:56: ja also ein Beispiel wenn man jetzt Daten von Postlei-Zahlgebieten nimmt und ich sage mal in den siebzehr Jahren war das vielleicht ein Gebiet wo sehr viel Kriminalität herrscht oder heute lebt er der klassische Mittelstand sage ich jetzt mal, dann kann man diese Daten von damals eigentlich gar nicht mehr nehmen.

00:30:18: Weil das heute dann beispielsweise vielleicht wenn man dann gewisse die Kreditfähigkeit oder sowas mit prüft an so ganz falschen Ergebnissen führen würde.

00:30:27: Dessen muss man sich vergewissern, das heißt nicht umsonst sind die Anbieter ja auch verpflichtet.

00:30:33: zwar mit welchen Daten haben sie trainiert.

00:30:35: Wir haben sie da quasi teniert und müssen das entsprechend dokumentieren.

00:30:39: Das heißt als Grunde muss ich da viel nachfragen wie ist man damit umgegangen?

00:30:43: Haben Sie quasi so Sicherheitswasser auch mit implementiert um quasi somit Fallbeispielen zu arbeiten und quasi solche Beise quasi so zu entdecken?

00:30:55: Und dann es natürlich Der zweite Risikobereich, die Anwendung.

00:30:59: Das heißt auch als Unternehmen unabhängig davon... ob ich jetzt so hoch Physikoeinsätze oder nicht, sollte man natürlich mal sehr gut Ergebnisse an die KI sowas bringen.

00:31:09: Also sollte man dafür sicher auch gucken dass man Kontextbezogenheit dann die KI einsetzt.

00:31:16: also für welchen Zweck ist die KI freigegeben quasi auf dem Markt und nutzt sich sie dann auch richtig?

00:31:21: Und das man auch die Mitarbeitenden da hingehen schult, dass die dann wiederum nicht bei der Anwendung Daten eingeben die dazu vielleicht gar nicht passen oder dass dann andere Gruppen im Unternehmen auch Zugriff drauf haben und quasi dadurch der weitere Lernprozess, das sich so verschiebt.

00:31:41: Dass man Feedback schleifen hat, human envelope, also dass es immer eine menschliche Aussicht ist.

00:31:46: Die ist zwar aktuell nur für Hoch-Easy-Co-KI vorgesehen aber es ist halt auch empfehlenswert mal quasi eine gewisse Überprüfbarkeit zu haben oder halt ein Kontakt, also auch wenn es nicht hoch ist ECO-Karriers wo sich Mitarbeitenden wenden können und sagen können kommt immer so das Ergebnis raus.

00:32:07: aber das kann ja eigentlich gar nicht sein.

00:32:09: Und da muss man da als Unternehmen dann halt auch entsprechend rein.

00:32:12: und vielleicht ist es auch vor dem Hintergrund interessant dass sich das BSI auch schon damit befasst hat und auch im White Paper dazu halt auch publiziert hat wo's auch Fiederung geht zu erkennen erstmal auch, dass man da vielleicht Verzerrung hat und dann aktiv dann auch dagegenzuwirken.

00:32:29: Und schlechterdings gibt es auch die Beispiele, auch die großen Konzerne trifft das, dass das schon mal einfach schief gelaufen ist.

00:32:35: Schlechterdings muss man eine KI auf einfach abstellen.

00:32:40: Indertat!

00:32:41: Ja vielen Dank der Firma Reike.

00:32:44: Nehmen uns nochmal das nächste Stichwort vor, nämlich Datenschutz.

00:32:47: Ist ja hier auch schon öfter gefallen.

00:32:49: Vielleicht kannst du das noch einmal ganz klein wenig auseinanderdröseln was man da im Einzelnen beachten muss?

00:32:54: Genau, also erstmal kommt man natürlich in meine Rechtsgrundlage.

00:32:57: Das heißt wenn ich neue Daten verarbeite muss ich mich natürlich erst mal fährgewissern.

00:33:02: darf ich das denn eigentlich?

00:33:04: und da gab es immer große Diskussionen was ist dann?

00:33:06: werde ich KI trainieren?

00:33:08: Ich habe ja die Daten für einen ganz anderen Zweck erhoben.

00:33:10: auf einmal nutze ich die dann für ein KI Training.

00:33:12: darf ich dass denn eigentlich?

00:33:16: Es gibt ja jetzt den Digital Omnibus Act, das ist ja quasi so ein EU-Sammelgesetz wo die bisherigen Digitalisierungsgesetze angepasst werden.

00:33:26: Unter anderem auch die KI-Verordnung und die DSGVO also die Datenschutzbrotverordnung.

00:33:31: Und da ist dann auch quasi vorgesehen dass es da eine gewisse Erleichterung geben soll, KI-Anwendung nutzen darf, um halt auch nicht im Wettbewerbsnachteil zu sein mit den USA.

00:33:46: Dennoch muss dann Sicherheitsmaßnahmen natürlich implementierendechnische und organisatorische Art.

00:33:53: Und darüber hinaus hat man die klassischen Rechtsgrundlagen, sei es Einwilligung oder die sogenannte Interessenabwägung.

00:33:58: Einwilligungen ist man nie so gut weil sie kann wieder rufen werden.

00:34:01: Man kann ja keine Daten mehr aus der KE wieder rausziehen quasi und die Daten löschen.

00:34:06: Da sind wir vielleicht auch so beim Thema Betroffenenrechte.

00:34:09: betroffener haben das Recht auf Auskunft der Flaschung und Sperrung von Daten unter anderem.

00:34:15: Und natürlich ist es sehr schwer für einen Anwender zu sagen, wie werden denn jetzt die Daten exakt in einer KI, wo ja mehrere Schichten sind?

00:34:25: Man hat ein Input-Lehrer, ein Output- Lehrer und viele Hidden-Lehre dazwischen.

00:34:28: Man weiß gar nicht so richtig, wie diese Daten manchmal auseinandergebröselt und verarbeitet werden und kann da manchmal gar nicht immer so die Auskünfte in einem gewissen Detailierungsgrad geben.

00:34:38: Und da hat es ja auch schon viel Diskussion unter den Behörden gegeben, dass man letztendlich gar nicht so zu hundert Prozent diese Betroffenen recht erfüllen kann.

00:34:47: Man kann dann die Daten auch nicht aus der KI löschen.

00:34:49: deswegen muss man sich auch überlegen welche Daten gebe ich da ein und vielleicht auch gar nicht nur mit Blick auf Datenschutz auch Geschäftsgarnis oder andere sehr sensible Daten außerhalb des personenbezogenen Bereichs.

00:35:00: Man muss sich gut überlegen was packe ich in die KI?

00:35:04: Und da sind wir auch noch nicht am Ende.

00:35:07: Da gibt es noch nicht so viele Anforderungen vom Gesetzgeber, wie man damit umgeht dass man letztendlich nicht hundert Prozent komplett beim Datenschutz sein kann wenn man bei ihr einsetzt.

00:35:16: aber man sollte trotzdem so Bestmöglichheit dann entsprechend versuchen Auskunft zu geben oder halt die sagt eher vor hineinzugucken bestmöglich wenig Daten oder nur Daten wirklich erforderlich sind einzugieben Und klar, automatisiert Entscheidung.

00:35:34: Das ist auch immer noch so ein ganz großes Thema.

00:35:39: Das darf man ja nur unter bestimmten Voraussetzungen.

00:35:42: das ist jetzt sogar auch eher gesteigert.

00:35:43: wenn wir im Hochrisiko KI Bereich sind reguliert es halt auch die KI-Verordnung dass das zwar es ist erlaubt aber halt nur wenn man wiederum entsprechend entweder einen Gesetz umsetzt oder eine Einwilligung dann halt auch entsprechend dafür hat vom Vertrag hier absolut erforderlich ist und automatiziert die Entscheidung zu fällen.

00:36:04: Und letztendlich, wenn sich jemand beschwert muss immer noch mal ein Mensch drüber gucken auch da.

00:36:08: dieses Human im Blut hat sich schon vorher angedeutet und wird jetzt eher nochmal verstärkt.

00:36:14: Noch eine ganz kurze Nachfrage zum Thema Datenbasis und KI-Tool ist ja immer nur so gut wie die Daten mit denen man es füttert.

00:36:20: Wie können Unternehmen überhaupt erkennen welche Daten sie da jetzt reinkippen dürfen?

00:36:26: Ja, das ist wirklich nicht so einfach.

00:36:29: Das ist so das große Stichwort Data Governance und deswegen sind auch diese KJ-Polices halt wichtig, dass man halt genau überlegt in welchem Bereich setze ich denn überhaupt KJ ein?

00:36:40: Und es könnte ja auch beispielsweise wirklich eine Entscheidung sein im HR-Bereich nicht.

00:36:45: oder es muss halt auf jeden Fall speziell abgekapselt sein mit Schutzmaßnahmen unteilt, muss letzten Endes auch jeder Anwendungswahl geprüft werden.

00:36:57: Welche Daten da rein dürfen, was dann quasi freigegeben ist?

00:37:02: Deswegen ist es auch so schwierig... da entsprechend compliant zu sein, weshalb die Unternehmen ja auch gesagt haben, boah die ganz regulieren das.

00:37:14: Das ist schon sehr viel aber da bleibt nichts anderes übrig.

00:37:17: hierzu sagen okay, da dürfen dann beispielsweise sensible Daten einfach nicht genutzt werden oder wie beispielsweise Gesundheitsdaten, Religion und Sogeheuerigkeit oder dass man wirklich sagt bitte Von Kunden keine Daten eingeben, nur eigene Unternehmensdaten.

00:37:36: Genau!

00:37:38: Also auch da das Prinzip in doubt live it out vielleicht besser nicht alles rein kippen in das KI-Tool?

00:37:45: Okay verstanden nochmal auch nachgefragt KI.

00:37:49: Verordnung ist ja einer unserer ganz zentralen Stichpunkte heute.

00:37:53: ihr hattet vorhin schon mal kurz erwähnt diese Pyramide je risikoreicher desto mehr Auflagen und Regulierung gibt es.

00:38:00: Aber wie können Unternehmen überhaupt erkennen, ob jetzt ein KI-Tool zu den Risikoreichen zählt oder nicht?

00:38:08: Genau.

00:38:09: Und zwar ist es nicht so, dass ein KI-System verboten ist oder gesagt wird, wenn man dieses KI System nutzt, ist das besonders risikoreis.

00:38:20: Sondern der Gesetzgeber schaut auf den Anwendungsfall und das ist halt entsprechend reguliert.

00:38:25: Das hat bestimmte Praktiken genannt sind.

00:38:27: Das ist ein Mathikel V der KI-Verordnung die verboten sind wo wir sagen, das geht mit unseren Grundrechten nicht vereinbar wie Social Scoring beispielsweise.

00:38:39: Und oder halt auch das in Annex I und Annex III der KI-Verordnung, wo dann die Hochrisiko Anwendungsfälle oder Bereiche genannt sind.

00:38:48: Da muss mal prüfen, fällt dann der Anwendungswahl mit meinem KI System da drunter?

00:38:54: Und wenn es rausfällt, dann ist das quasi vielleicht ein bestimmtes KI-System.

00:38:57: Das heißt, in der Interaktion mit einem Menschen ist wie so einen Chatboard oder bei einer Kundenhütte kann man sich sehr gut stellen Einsatz davon KI vorstellen.

00:39:05: Da muss es transparent immer sein für einen Menschen dass ich jetzt nicht mit einem Schatter sondern mit einem Chatboard das sind mal noch die dritte Ebene.

00:39:14: und dann sind halt die sonstigen KI Systeme wo man sagt da ist jetzt kein großes Risiko die sind auch gar nicht groß.

00:39:24: Wenn man jetzt so einen Hochrisiko-KI-Tool hat und das identifiziert hat, was sollte man denn da beim Einsatz beachten?

00:39:32: Man muss das jetzt endlich ein bisschen verstehen.

00:39:34: Wieso das Produkt Haftungsrecht oder Produkt Sicherheitsrecht so ein bisschen dass man über diesen Lebenszyklus dieses KI Systems als Anbieter aber dann letztendlich auch wenn es in Unternehmen eingesetzt wird als Betreiber, so werden immer die Unternehmen genannt, die quasi KI Systeme anwenden quasi Pflichten erfüllen müssen.

00:39:54: Und das für ein Unternehmen, was quasi KI bei sich nutzt beispielsweise im HA-Bereich um Bewerber vorauszuwählen ist halt einmal die Data Governance.

00:40:07: letztendlich also dass das Daten für den Spec entsprechend dann nur eingegeben werden und das dann halt auch eine gewisse Qualität haben, dass man es entsprechend beaufsichtigt.

00:40:20: Dass man natürlich auch prüft hat das in der entsprechenden C-Kennzeichnung und man darf es auch nur dafür einsetzen wie es auf freigegeben wurde weil auch nur so hat der Anbieter letztendlich für dem Markt dann auch frei geben lassen.

00:40:36: Dann, wie gesagt die sonstigen Rechte gelten natürlich weiterhin.

00:40:41: Man muss aber auch entsprechend eine IT-Sicherheitsmaßnahmen ergreifen damit es da entsprechend dann auch geschützt ist.

00:40:52: Ja also deswegen rund quasi um diesen Lebenszyklus im Weg hat man diese Flächen um halt diese Gefahr zu vermeiden, die es halt in sich biert.

00:41:03: Ja, sehr gut.

00:41:04: Genau das waren jetzt die Pflichten für die Betreiber.

00:41:06: Du hast gesagt diese andere Rolle ist ja jedes Anbieter.

00:41:10: sind da die Grenzen eher fließend was die pflicht angeht oder kommt dann noch mal etwas on top sozusagen an auflagen.

00:41:17: Also Anbieter haben deutlich, deutlich mehr Pflichten.

00:41:20: Das ist auch so ein Produkt.

00:41:21: Schon bei der Entwicklung natürlich aber auch wenn dann das Produkt auf den Markt ist.

00:41:25: oder Produktbeobachtungspflicht in letzten Endes.

00:41:28: und man muss halt einfach sagen die Grenzen vom Betreiber zum Anbierter können so ein bisschen fließend sein.

00:41:34: Das muss man immer als Unternehmen was KI bei sich einsetzt entsprechend im Blick haben und zwar beispielsweise Das gilt aber für Risiko-KI-Systeme, wenn man da quasi so die eigene Handelsmarken mit drauf setzt oder so den Namen.

00:41:49: Man erweckt den Eindruck das ist eigentlich mein KI System.

00:41:52: So dann kann man zum quasi Anbieter werden.

00:41:58: Also wie gesagt ein falschen... Eindruck erweckt oder auch bewusst, den dann erwägt.

00:42:04: Wenn man wesentlich so ein Hochisikokaisystem ändert, da muss man aber schon sehr viel machen.

00:42:09: Da muss man es quasi schon umtrainieren.

00:42:12: Das streitet man sich gerade noch und das ist noch unklar.

00:42:14: was heißt Wesentliche Veränderung?

00:42:16: Aber da muss Herz und Nieren des KI-Systems gehen, das ist jetzt nicht einfaches Feintuning so ein bisschen auf den eigenen Anwendungsfall gemünzt.

00:42:26: Da ist man noch nicht drin.

00:42:27: aber wo viele Unternehmen aufpassen müssen ist halt wenn man einen KI System einsetzt was nicht im Hochrisikokolleybereich ist kann normaler Chatboard sein Coop-Pilot usw.

00:42:43: Und das dann für Hochrisikoswecke nutzt, wie beispielsweise im HR Bereich.

00:42:49: Da kann man zum Anbieter werden, obwohl der eigentliche Anbierter vorne, der das KI System entwickelt hat nicht im Hochrisiko-KI Bereich ist und der ist dann auch nicht so strikt reguliert.

00:43:02: Und da muss man als Unternehmen aufpassen... Und wir hatten auch so Anwendungsgelebe, wo wir dann noch schon meinen Danten gesagt haben.

00:43:10: Oh Achtung!

00:43:10: Achtungen!

00:43:12: Ihr nutzt das jetzt für einen anderen Zweck.

00:43:14: Daran werden jetzt nochmal ein paar Hinweise durch die EU-Kommission bekommen weil natürlich die Gefahr oft schnell ist dass man ein KI-System für den anderen Zwecks einsetzt und dann auf einmal auch für den Hochysikokaids weg und dann zum Anden geht er wird.

00:43:30: Das dann wurde die EU.

00:43:31: Kommission meinte, dass der Anbieter um das zu verhindern wirklich sehr klar auf allen Marketing-Sachen adressieren muss.

00:43:42: Achtung!

00:43:42: Das ist kein Hochrisiko-KI System und ich will auch bloß nicht, was für diesen Zweck genutzt wird.

00:43:47: Deswegen denke ich mal, die großen Anbieten bei diesem ganzen JNAI-System da jetzt nochmal einiges umändern werden, auch Marketingtechnisch und Integrationstechnische Aber das muss man halt im Blick haben.

00:44:04: Genau, super!

00:44:05: Stichwort EU-Kommission ist auch ein sehr gutes denn da ist ja noch mehr passiert.

00:44:09: Anfang des Monats es war am sieben Mai glaube ich gab es eine Einigung beim sogenannten AI Omnibus.

00:44:16: nochmal ganz kurz was versteckt sich genau dahinter.

00:44:19: und was sind so vielleicht die wichtigsten Änderungen die es da gab?

00:44:23: Genau, also der AI Omnibus kündigte sich ja schon seit etlichen Monaten an.

00:44:28: Jetzt gab es endlich eine Einigung die hoffentlich zeitnah dann auch umgesetzt wird und Kraft tritt.

00:44:33: aber die Einigung steht Und das ist ein Gesetzespaket Das hatte Mariah schon mal angedeutet dass der Vereinfachung der digitalen Regulierung dient nicht nur in Bezug auf die KI-Verordnung Aber für uns jetzt hier heute entscheidend mitbezug darauf.

00:44:50: Dadurch soll einfach Bürokratie abgebaut werden.

00:44:53: Es soll vermieden werden, dass es Dopperegulierungen durch verschiedenste Regelwerke gibt und fristen.

00:44:58: das ist für Unternehmen besonders wichtig.

00:45:00: Fristen werden praxisgerecht verschoben.

00:45:02: Das ist vor allem für die Hochrisiko KI-Systeme im HA Bereich eigentlich immer darunter fallen wichtig.

00:45:09: Eigentlich sollten die neuen Regularien ab dem zweiten August XXVI also schon sehr bald gelten.

00:45:16: Das wird verschoben, größtenteils auf den zweiten Dezember twenty-seven zwanzig.

00:45:20: Also Unternehmen haben Zeit oder mehr Zeit sich darauf einzustellen sollten sich jetzt aber nicht zurücklehnen und denken ja jetzt haben wir super viel Zeit jetzt können wir erstmal so weitermachen.

00:45:31: man sollte das nutzen um dann zum zweiten december siebenzwanzig quasi Allset zu sein und rechtskonform weitermachten zu können.

00:45:41: Transparenzpflichten, da hat sich auch was geändert.

00:45:43: Da ist ein bisschen Vorsicht geboten und da wurden Pflichten vom zweiten August zum zweiten Dezember verlängert.

00:45:52: Das ist so ein bisschen gerade in der Diskussion.

00:45:54: wie verstehen das so dass das für Bestandssysteme gilt?

00:45:56: Dass aber für neue Systeme durchaus der zweite August-sächsenzwanzig weiter entsteht?

00:46:03: also auch da sollte man sich nicht zurücklehnen.

00:46:07: Okay prima vielen Dank!

00:46:09: Michael ist dann bei dieser Schulungspflicht, die ja auch viel diskutiert wurde.

00:46:12: Gibt es da noch was Neues?

00:46:13: Hat sich da etwas getan?

00:46:15: Ja und zwar war's sehr vorher so das Standteil Mathematik IV der KI-Verordnung.

00:46:21: deshalb unternehmen, die KI-Systeme entweder entwickeln oder anwenden um Personal haben oder auch Externe also beispielsweise Zeitarbeitnehmer, die dann KI einsetzen, dass sie entsprechend eine KI Kompetenz aufbauen müssen Das heißt quasi letztendlich geschult werden müssen.

00:46:43: Und das wurde jetzt so ein bisschen aufgeweicht, dass halt gesagt wird die Kommission die Mitgliedsstaaten sollen halt die Unternehmen entsprechend, also wie hieß es im Mutigen diese KI-Kompetenz aufzubauen?

00:46:57: Da lehnt sich gerade, das merken wir auch bei einem Mandanten viele erst mal zurück und sagen oh jetzt muss ich nicht mehr alle meine Mitarbeitenden in Schulen, wenn man aber auch mit KI Wissenschaftlern spricht so wichtig weiter in die Mitarbeitenden zu schulen.

00:47:12: Warum?

00:47:14: Einmal rechtlicher Sicht, wir diskutieren das gerade auch hier viel intern aber wir glauben dass letztendlich doch eine gewisse Pflicht besteht.

00:47:21: eher dann mittelbar steht jetzt nicht mehr in der KI-Verordnung aber letzten Endes muss man ja als Unternehmensleitung aufschauen, dass man das Unternehmen schützt und dass letzt endlich auch verhindert wird Ohegeberrechtsverletzung vielleicht begangen werden oder Datenschutzverletzungen und so weiter, oder Verpflichtung aus einem Vertraulichkeitsbeinbarungs-MDL verletzt werden in dem Daten beispielsweise mit KI eingegeben werden.

00:47:51: Das heißt also es gibt ja noch viele weitere Punkte die man berücksichtigen muss und deswegen ist das so wichtig da die Mitarbeitenden zu sensibilisieren.

00:47:59: nachgesehen davon die KI.

00:48:01: Ergebnisse werden auch besser Wenn ich die Mitarbeiter in Schule, wenn sie verstehen was ist der Unterschied zur traditionellen Software.

00:48:08: Wo sind die Risiken?

00:48:09: Wo sind Chancen?

00:48:10: Was muss ich beachten?

00:48:12: Dann ist das einfach wichtig nicht nur aus rechtlicher Sicht und deswegen sind sich da auch viele Techniker einig dass man das eigentlich braucht um letzten Endes gute Ergebnisse zu erzählen.

00:48:24: und vielleicht noch mal zum Stichwort Diskriminierung, Bias.

00:48:31: Für Bias Detections soll es dann eine Neurichskundlage geben.

00:48:37: Das war ja voll nur für Hoch-Risiko-KI-Systeme das gesagt wurde.

00:48:41: Man darf auch sehr sensible Daten, also heute sind wir neun Datensuntrechtsdaten beispielsweise nutzen oder daten über die Herkunft eines Menschen um solche Diskriminierungen wenn man diese entdeckt und Verzerrung zu beheben.

00:48:54: Und das darf man jetzt außerhalb des Hochrisikokaibereises natürlich sinnvoll ist, um halt Benachteilung zu finden.

00:49:02: Okay wunderbar!

00:49:03: Mit Blick auf die Uhr fürchte ich muss mal noch fix zur Abschlussfrage kommen aber die finde ich eigentlich ganz spannend nochmal in die Lage der HR-Teams versetzt.

00:49:13: was sollten denn diese Teams heute aufbauen um in zwei drei Jahren nicht überall zu werden?

00:49:19: eher die Prozesse eher das Knowhow oder eher die technische Infrastruktur?

00:49:22: Was meint ihr?

00:49:24: Ja, im Grunde alles davon was du gesagt hast.

00:49:28: Da kann man eigentlich keinen Bereich ausklammern.

00:49:30: ganz wichtig das ist glaube ich klar geworden aus dem Gespräch heute ist der Know-how Aufbau.

00:49:38: also es muss jetzt nicht jeder zwingt lernen wie funktioniert KI?

00:49:42: Was steckt technisch dahinter?

00:49:44: Es sollte aber so ein Grundverständnis geschaffen werden.

00:49:48: Wie funktioniert das grob?

00:49:50: Welche Prozesse lassen sich automatisieren?

00:49:53: Wie können wir das machen, welche Regeln müssen wir dabei einhalten.

00:49:57: Und ja da ist alles was wir besprochen haben wichtig datenschutzrechtlich Datenschutz muss berücksichtigt werden Bias das Problem der KI-Bias und der Folgen Transparenz und Governance.

00:50:09: also da darf nichts ausgeklammert werden.

00:50:11: dann muss verstanden werden ganz wichtig wie benutze ich die KI wie prompte ich Und wie führe ich vielleicht auch eine Qualitätskontrolle durch als Arbeitgeber?

00:50:19: Wie schaue ich, wie meine Mitarbeiter das machen.

00:50:21: Was muss sich anpassen?

00:50:24: KI wird sich weiterentwickeln und auch wenn heute die Mitarbeiter super gut damit umgehen können heißt es nicht dass das in zwei Jahren noch so ist.

00:50:32: Also ein Ziel wäre so ein bisschen Das in der HR Abteilung aber natürlich lässt sich übertragen auf die anderen Abteilungen so im Unternehmen.

00:50:42: Spezialwissen müssen nicht alle haben.

00:50:43: Grundverständnis sollten alle haben und dann sollte es natürlich auch Mitarbeiter geben, die das Spezial-Wissen haben was erforderlich ist und zu denen dann die Kollegen gehen können, die da meine Frage haben und dass Leute gut dokumentiert werden.

00:50:57: Da sollten Strukturen geschaffen werden, dass alle wissen.

00:51:01: wen spreche ich jetzt an wenn ich hier vielleicht eine Frage habe Und dann müsste natürlich die Prozesse zum Teil verändert werden und die KI sollte jetzt nicht auf Prozisse einfach oben draufgesetzt werden.

00:51:12: Also es sollte geschaut werden, wo kann ich die KI sinnvoll einsetzen?

00:51:16: Wo kann ich sie vielleicht nicht einsetzen, wo ist menschliche Empathie besonders wichtig?

00:51:20: Wo muss der Human in the Loop besonders viel selbst noch überprüfen?

00:51:25: Und wo sind aber die Aufgaben so repetitiv... dass man KI super gut einsetzen kann.

00:51:32: Das sind so die Sachen, die aus Know-how Sicht und aus Prozess Sicht wichtig sind.

00:51:39: Und dann ist natürlich auch die technische Infrastruktur wichtig.

00:51:41: ganz klar Die ausgewählten Tools müssen natürlich rechtlich sauber sein, da muss auch Vertrauen der anwenden Mitarbeiter in das Tool bestehen.

00:51:52: Man braucht saubere Daten – das hatte Marike sehr anschaulich beschrieben –.

00:51:57: welche Daten können die Mitarbeiter nutzen und welche Daten nutzt die Technik dahinter?

00:52:07: Vielleicht nochmal zu übernehmen wenn man jetzt so zwölf Monate vielleicht so hat.

00:52:13: Wie sollte man sich quasi als HR-Team aufstellen?

00:52:17: Ich glaube, Punkt eins nicht jeden Halb hinterherrennen und so möglichst viele Tools wie möglich nutzen sondern ja also wie gesagt zur AI Kompetenz bei sich aufbauen im Team Grundverständnis dann halt mal wirklich schauen welche Prozesse kann ich denn gut automatisieren was würde mir super helfen und zwar Das kann ja auch von Unternehmensunternehmen ein bisschen unterschiedlich sein.

00:52:43: Und das wirklich mal neppen, wo habe ich mehr Wert?

00:52:46: Wo werde er nutzen?

00:52:48: dann für sich als kleiner Teilung eine Governance aufbauen?

00:52:54: Was soll KI dürfen, was nicht?

00:52:57: Was wollen wir uns wirklich noch bei uns quasi behalten und wollen da nochmal drüber gucken um halt auch so Benachteiligungen zu verhindern.

00:53:05: Dann vielleicht erst mal mit zwei drei Low-Resting-Staaten, kleinen Pilotphasen.

00:53:10: wie funktioniert das?

00:53:12: Nicht gleich mit dem großen Projekt.

00:53:17: Wir nehmen die Mitarbeitung an und wichtig interdisziplinär arbeiten.

00:53:21: ich glaube dass ist beim Stichwort KI und auch Digitalisierung einfach wichtig, IT-Legeln mit reinnehmen um Dinge zu verhindern.

00:53:30: Und das so einen Rundumblick zu kriegen.

00:53:32: So dreihundertsechzig Grad Review sagt man ja da immer so schön zu.

00:53:37: Wie sagt dann lernt man step für step?

00:53:39: Und wie sagt aber nicht übereinanderrennen?

00:53:41: Das brauchen wir jetzt.

00:53:42: Das haben alle.

00:53:43: Das kann vielleicht vor allem selbst gar nicht das Tool sein!

00:53:47: Okay also nicht so sehr dem Hype hinterher, sondern erstmal bei sich wirklich schauen.

00:53:51: was kann man wirklich gut brauchen?

00:53:53: Super.

00:53:54: Ja, euch beiden ganz, ganz vielen Dank!

00:53:56: Wir sind schon am Ende des Podcasts und die Zeit ist verflogen, sprich wirklich verflugen.

00:54:02: wir sind ein bisschen länger als sonst heute auf Sendung aber ich finde die Minuten haben sich sehr gelohnt.

00:54:08: toll dass ihr da so Ordnung reingebracht habt und das mal so ein bisschen abgestuft habe.

00:54:13: Ich hab' sehr viel gelernt.

00:54:14: Ich hoffe den Hörerinnen und Hörern geht's genauso.

00:54:17: nochmal ganz vielen dank Marika und Antonia.

00:54:19: Das hat sehr viel Spaß gemacht.

00:54:22: Danke dir, danke euch.

00:54:23: Danke und bis ganz bald!

00:54:33: Ciao!