#35: Von M&A bis Smart Glasses: Worauf es beim Einsatz von KI in Unternehmen ankommt

00:00:02: Hallo und herzlich willkommen zu einer neuen Folge Law of the Org.

00:00:05: Heute mit Benedikt und mir, Christian zum Thema KI zwischen Hype & Real Business Use Case.

00:00:12: Künstliche Intelligenz ist längst kein Zukunftsthema mehr sondern inzwischen Teil des unternehmerischen Alltags.

00:00:17: Das zeigt sich nicht nur daran wie Unternehmen KI heute bereits einsetzen Sondern auch daran wie stark das Thema mittlerweile in den rechtlichen Fokus rückt.

00:00:26: Gerade in der anwaltlichen Praxis nimmt die Bedeutung spürbar sowohl in der eigenen Arbeitsweise also in den Fragestellungen, mit denen Mandantinnen und Mandanten auf Kanzleien zukommen zu.

00:00:36: Mit dem immer größer werdenden Anwendungsbereich von KI entstehen neue aber eben auch rechtlich- und organisatorische Herausforderung.

00:00:43: Zuvor es um die beiden heute zu besprechen an Anwendunsfälle und damit verbundenen rechtlichen Fragen und dem Blick nach vorne geht möchten wir uns beide kurz vorstellen.

00:00:51: Mein Name ist Christian Dietz.

00:00:53: ich bin Celery Partner Münchner Standort im Bereich Corporate M&A Und neben den klassischen M&A-Transaktionen liegt mein Branchenfokus auch auf dem sogenannten Corporate AI, sprich sämtliche Fragen rund um KI im betreffen Gesellschaftsrecht als auch Transaktion.

00:01:10: Ich bin hier heute nicht alleine sondern mein Kollege Benedict ist mit mir dabei.

00:01:14: Ja, Benedikt, Benedik Kohn.

00:01:16: Ich bin Cedar Repartner im Technologiebereich, Technology Media und Telekom.

00:01:20: was wird das bei uns erheißt?

00:01:22: Und zwar am Düsseldorfer Standort.

00:01:24: ich komme lustigerweise übersprünglich auch aus München, wenn aber dann wie ich immer sage vom schönen München ins noch schönere DüsselDorf gezogen und seit einigen Jahren hier eben im Technologienbereich tätig.

00:01:36: Vielen Dank liebe Benedikt für die sehr frischen Bevorstellungen an der Stelle!

00:01:40: Du hast jetzt schon ein bisschen was persönliches von dir erzählt, dass du ursprünglich aus München kommst.

00:01:45: Lenken wir den Fokus auch mal noch ein wenig auf deine persönlichen Erfahrungen mit KI weil es ja heute auch sehr um KI gehen soll.

00:01:53: Wir haben ja schon gehört, wir haben zwei Anwendungsfälle in dem Bereich über die wir gleich berichten werden und da haben wir uns überlegt das wir zu Beginn so eine kleine persönliche KI-Runde machen wollen vier kleinere Fragen an dich mitgebracht, die ich dir gerne so stellen möchte und Frage für Frage können wir uns ja dem eigentliche Thema der heutigen Folge auch annähern.

00:02:19: Und die erste Frage wäre gleich mal was ist denn deine bisher skurrilste oder absurdeste Antwort, die du von einer KI bekommen hast?

00:02:31: Also so richtig skurrile Antworten hatte ich tatsächlich noch nicht, also solche Sachen die man dann auf Reddit und Co lesen kann.

00:02:39: Was ich einmal hatte, als ich private Rede vorbereiten wollte.

00:02:43: Dann da auch so ein bisschen Humor habe einfließen lassen und das Ganze mit Chachapiti meines Vertrauens gegen gecheckt hab.

00:02:51: Ob das ganze dann auch im Publikum landet?

00:02:52: Dann kam irgendeine Antwort zurück wie dass sei doch Papa-Humor für Leute die zum Lachen in den Keller gehen.

00:02:58: also es war nicht dann doch reichlich absurd.

00:03:00: aber ansonsten hatte ich keines gurgeln antworten.

00:03:03: Aber vielleicht mal bald zurück gespielt.

00:03:05: wir haben ja FußballWM.

00:03:06: wie sieht's denn bei dir aus?

00:03:07: was hat das denn du so?

00:03:10: Ja, also tatsächlich so ... Ich kann mich nur anschließen.

00:03:13: So eine richtig skurrile Antwort hatte ich nicht aber ich hatte mal gefragt wie man sich denn richtig und am besten entschuldigt?

00:03:22: Und ich bin ja auch ein großer Chech Petit des Vertrauensnutzer um das mal aufzugreifen.

00:03:27: die.

00:03:28: die Antwort war dann kurz ehrlich und ohne Ausreden und dann schob die Kain noch nach als würde sie mich kennen.

00:03:36: Beginnen Sie auf keinen Fall mit ja rein juristisch oder rein rechtlich gesehen?

00:03:40: Ich habe es ausprobiert.

00:03:42: Es hat jetzt tatsächlich besser funktioniert als sonst, aber das so vielleicht keine skurrile Antwort, aber doch eine erfrischende Antwort die man als Jurist sich dann manchmal doch vergreifen muss dass man in den Verteidigungsmodus geht und mit der Rechtskoille kommt.

00:04:02: Genau, dann spiele ich den Ball aber auch gerne wieder zurück.

00:04:05: Und wann hattest du denn deine erste Berührung mit KI und in welchem Zusammenhang?

00:04:10: Das Thema ist jetzt schon länger publik, aber jeder erinnert sich vielleicht noch so an die First Magic als man das erste Mal KI für sich genutzt hat.

00:04:22: Ich würde sagen, erste Berörung war bei mir so Ende der Neunziger Anfang der zweitausendah.

00:04:28: Und zwar beim Zocken.

00:04:29: Also ich oute mich jetzt mal, ne?

00:04:30: Ich war ein großer Fan von Strategiespielen die damals meine ich aber auch noch cooler waren als es jetzt sind und man hat damals weniger online gespielt.

00:04:39: Also vielleicht hatten wir einen Online-Gespiel, aber ich habe zumindest nicht online gespielt was unsindert einfach super schlecht war sondern gegen Computer also Kompagnienmodus ansonsten spiele gegen den Computer und das hieß dann gegen die KI Und ich kann mich erinnern, die war dann auch unterschiedlich gut.

00:04:55: Es gab KI, die richtig fordernd war.

00:04:58: Manche, die man dann relativ leicht austricksen konnte.

00:05:02: Alles natürlich im Vergleich zu den KI-Anwendungen der man heute hat.

00:05:06: aber es ist so meine erste Berührung gewesen.

00:05:09: Ja super spannend!

00:05:10: Ich kann mir noch erinneren... ...es gab bei einem Videospiel den Trick einen zweiten Controller irgendwie an dem Slot anzuschließen um so den unbesiegbaren Entgegner auszutricksen.

00:05:22: Was ist denn aktuell deine liebste KI Anwendung im beruflichen Alltag, wenn wir uns schon langsam der juristischen Arbeitsweise und unseren heutigen Fällen nähern wollen?

00:05:32: Also ich muss sagen, von den Tools die wir so nutzen finde ich Libra ganz praktisch.

00:05:37: Gerade für so Rechercheaufgaben oder auch mal Sachverhalt zusammenfassen lassen.

00:05:42: Teilweise auch um eigene Arbeitsergebnisse und eigene Argumentationen zu challenging.

00:05:48: Das ist für mich ein super Tool gerade seitdem man da verschiedene Modelle mit einfließen lassen kann.

00:05:53: Klar, also viele sagen bei uns auch man muss das Ganze nochmal kontrollieren.

00:05:58: Es macht auch Fehler!

00:05:59: Das ist natürlich so.

00:06:01: aber ehrlicherweise muss man das ja auch mit Arbeitsergebnissen von wissenschaftlichen Mitarbeitern und auch mit den eigenen dass man da noch mal kritisch drüber guckt.

00:06:08: Das ist für mich jetzt zumindest kein Hinderungsgrund und ich finde es ganz praktisch.

00:06:14: Ja absolut, also das ist sicherlich auch oft... Gerade für uns Juristen ja auch am Ende die Qualitätskontrolle, die sehr entscheidend ist.

00:06:23: Aber du sprichst die richtige Thematik an!

00:06:25: Das muss man sicherlich auch bei einem Associate oder jemanden der am Beginn steht.

00:06:32: Die Frage ist, lässt sich die Kontrolle so letztendlich durchführen?

00:06:34: Das werden wir nachher auch nochmal in einen von unseren Anwendungsfällen sicherlich thematisieren können.

00:06:40: und als allerletzte Frage jetzt vielleicht noch... Du hast schon gesagt, GPPT.

00:06:45: aber Wofür nutzt du ChatGPT letztendlich im privaten Lauch am liebsten?

00:06:51: Oder was sind da die klassischen Fälle, wann du dein Handy oder deinen PC zuckst und nachfragst.

00:06:58: Ich muss sagen privat bin ich da echt super langweilig.

00:07:00: also ich nutze es im Grunde dafür was man früher gegoogelt hat.

00:07:04: Ich glaube mein letzter Prompt war irgendwie ob welche Kühltruhe ich kaufen soll.

00:07:09: aber bei uns der Keller... ... habe so ein bisschen eine sehr enge Tür.

00:07:12: Also es ist recht geräumig, aber die Tür ist halt sehr eng... ... oder passen sich jede Kühltruhe rein an?

00:07:16: Ich denke dass ich damit Google Gemini dann doch die Richtige gefunden habe.

00:07:19: also für solche Geschichten!

00:07:22: Ja super vielen Dank Benedikt für diesen persönlichen Einblick auch an der Stelle und das soll uns jetzt gleich auch zu unseren beiden Hauptthemen heute bringen.

00:07:32: zum einen haben wir ein gesellschaftsrechtliches Thema mitgebracht.

00:07:36: da geht's tatsächlich um die Frage Wie kann denn KI oder wie ist denn KI durch die Geschäftsleitung bei unternehmerischen Entscheidungen einzusetzen?

00:07:44: Welche rechtlichen Fragen sind hier insbesondere vor dem Hintergrund der Sorgfahrtspflichten, der Geschäftsführer oder Geschäftsfühlerinnen zu beachten?

00:07:52: und das andere Benedikt wenn du kurz deinen Mitbringsel dass ich super spannend fand als wir uns im Vorfeld dazu ausgetauscht haben vorstellen möchtest.

00:08:01: Ich

00:08:03: habe auch ein spannendes Thema dabei, nämlich Spatial Computing und konkret gesagt der Einsatz von Smartglasses im Medizinbereich.

00:08:16: Ja vielen Dank für die kurze Vorstellung!

00:08:18: Liebe Benedikt dann schlagen wir auch direkt ein und spannen unsere Hörer und Höreren gar nicht mehr länger auf die Folter.

00:08:24: ich würde das anhand eines kurzen Fallbeispiels erläutern, damit man sich auch was darunter vorstellen kann.

00:08:29: Wenn wir sagen Einsatz von KI durch Geschäftsführer in welchem praktischen Bereich sind wir da vielleicht unterwegs?

00:08:36: Und zwar grundsätzlich Unternehmenstransaktion das Stichwort, dass Unternehmen prüft eben beim Erwerb eines Wettbewerbers oder einer größeren Investition ob und inwieweit diese Zielgesellschaft geeignet ist und diese Prüfung wird durch KI durchgeführt.

00:08:53: Das KI-Tool, das die Geschäftsleitung dann für ihre unternehmerische Entscheidung einsetzt prüft die Finanzkennzahlen, die Marktdaten, Kunden und Umsatzentwicklungen Risiken und Chancen der Transaktion mögliche Synergieeffekte.

00:09:07: Das KI Tool erstellt darauf Inszenarien, Prognosen und Handlungsempfehlungen und daraus kann sich dann eben für die Geschäftslitung ein besseres Bild ergeben ob die Investition wirtschaftlich sinnvoll ist.

00:09:16: Gleichzeitig bleibt die Entscheidung aber risikobehaftet Denn auch die KI arbeitet ja letztendlich nur mit Wahrscheinlichkeiten, Annahmen und Daten.

00:09:25: Wobei natürlich insbesondere auch – und das ist immer und immer wieder entscheidend – die Qualität der Daten und deren Gewichtung für das Ergebnis des KI-Tools entscheidends sind.

00:09:35: Gibt es denn dafür spezielle KI Tools?

00:09:38: oder ist das was, was man mit einem gut trainierten LRM und den richtigen Prompts auch erreichen kann?

00:09:42: Also weißt du, was Unternehmen da für KI einsetzen?

00:09:47: Ja, sehr gute Frage.

00:09:47: Letztendlich liegt die Antwort hier so ein bisschen in der Mitte was wir natürlich feststellen und da stellen wir nicht nur im rechtlichen Bereich sondern auch im Bereich der Unternehmensbewertung fest dass der Markt ja momentan von KI Tools für verschiedene Anwendungen regelrecht überschwemmt wird.

00:10:02: Und letztendlich ist die Antwort die das sich beides gut trainiertes LLM-Model oder ein konkretes Tool nicht ausschließt.

00:10:10: So kann zum Beispiel Deal-Sourcing und eine erste Due-Diligence mit spezialisierten Tools vorgenommen werden, wo die Prompts beispielsweise auch schon in der Legtes, wo ich vielleicht den Workflow auch schon integriert habe.

00:10:22: Oder die anschließende Q&A Aufbereitung oder der Stresstest dann letztendlich über Chatchity oder Claude oder einen Co-Pilot laufen.

00:10:32: Wichtig ist aber am Ende festzuhalten, dass die KI weder den Wirtschaftsprüfer noch den Steuerberater noch den M&A-Anwalt ersetzt.

00:10:38: Sie verdichtet aber die Vorarbeit gibt vielleicht auch schon so ein bisschen eine Richtungszeige dahingehend ob die Transaktion möglicherweise sinnvoll sein kann und weitere Kosten investiert werden sollten in die Berater dann eben oder auch schon eine gute Grundlage schaffen auf der die berater dann möglicherweise aufsetzen können.

00:10:57: Problematisch wird es dann eben wenn sich die Geschäftsleitung umgeprüft auf das Ergebnis, dass KI-Tools verlässt und sich das Ergebnis dann im Nachgang als falsch erweist und beim Unternehmen einen Schaden verursacht.

00:11:11: Denn wir haben es vorhin schon angesprochen die Sorgferspflicht der Geschäftsführer oder Geschäftsführerin bestimmt sich maßgeblich nach der sogenannten Business Judgment Rule.

00:11:22: Und die Business Judgement Rule sagt letztendlich ich darf unternehmerische Entscheidungen mit einem gewissen Risiko treffen.

00:11:31: Ich muss allerdings hinreichend validieren und bewerten.

00:11:35: Und auch dann zu einem entsprechenden Ergebnis kommen, warum ich diese Entscheidung so getroffen habe?

00:11:41: Was eben wenn ich mich blind auf die KI verlasse – da sind wir wieder bei dem Prinzip der Qualitätssicherung und auch bei der Qualitetsprüfung des Ergebnisses -, dass ich dann möglicherweise in eine Verletzung der Sorgfaltspflicht hineinlaufe weil dem Sorgfaltserfordernis der Business Judge mit wohl Rechnung getragen habe.

00:12:03: Du sagst ja validieren, wie ist das jetzt beim Einsatz von KI?

00:12:09: Also was genau muss ich überprüfen können?

00:12:12: Muss sich da ins Technische rein also wie die KI technisch funktioniert oder reicht es zum Beispiel schon dass ich weiß, dass KI zum Einsatz gekommen ist?

00:12:23: Das ist eine sehr gute Frage und das ist momentan sicherlich auch die mit meist gestellte Frage, die wir von Mandanten bekommen oder von Geschäftsführern bekommen.

00:12:33: Wenn ich KI einsetze, was genau muss ich über die KI wissen?

00:12:37: Und da gibt es jetzt verschiedene Ansätze.

00:12:40: Es gibt den einen Ansatz der sehr rigoros ist würde ich das bezeichnen, der dann eben sagt naja es geht nicht nur darum zu verstehen welche Daten da eingesetzt wurden.

00:12:51: Das geht auch nicht nur darüber um zu verstehen dass KI eingesetzt wurde sondern du musst in einem gewissen Umfang, die dahinterstehende Technik der KI verstehen als Geschäftsführer oder Geschäftsführerin, die das einsetzt.

00:13:04: Das ist allerdings die Ansicht, die etwas über das Ziel hinausgaloppiert – die herrschende Meinung hat sich so ein bisschen in der Mitte eingependelt und zieht da ein wenig die Rechtsprechung heran, die der BGH vor Jahren erlassen hat im Bereich wenn eine Geschäfts- führerin sich Rechtsrat einholt.

00:13:22: Und da wird argumentiert, müssen das Ergebnis nicht auf richtig oder falsch überprüfen, sie müssen aber den Weg dorthin überprüpen können.

00:13:32: Und da sind wir bei einem Problem angekommen dass bei der Nutzung von KI natürlich nicht ganz so einfach ist.

00:13:38: Wir sprechen hier immer über Blackbox.

00:13:39: Das bedeutet ich kann den Weg Den die KI zu ihrem Ergebnis genommen hat und auch vielleicht die gesamte Datengrundlage gar nicht so genau überblicken Bedeutet.

00:13:49: eins-zu-eins lässt sich das nicht übertragen.

00:13:51: Aber Ich muss eben als Geschäftsführer schon prüfen und schauen, ist das System was ich hier einsetze?

00:13:59: Passt das konkret zu der Aufgabe?

00:14:02: sind die Daten, die dahinter stehen zumindest auf einer High Level Perspektive geeignet rechtmäßig unmöglich diskriminierungsfrei dass sich das eben nutzen kann.

00:14:11: Die Ergebnisse sollte schonen stichprobenartig oder entsprechend auf Plausibilität prüffen.

00:14:16: wenn das jetzt ganz abwägig ist und nicht Störgefühle habe oder aus beispielsweise aus einer Fachabteilung ein ganz anderes Ergebnis bekommen haben Finanzzahlen zum Beispiel, dann sollte mich das schon stutzig machen und ich sollte das kritische hinterfragen.

00:14:31: Und bei wichtigen Entscheidungen sollte auf jeden Fall dokumentiert werden warum die KI eingesetzt wurde oder warum sie auch bewusst nicht eingesetzt wurden einfach um diesen Prozess der Sorgfaltspflicht Rechnung und Genüge zu tragen.

00:14:45: Bei widersprüchlichen und unplossiblen Ergebnissen muss da natürlich entsprechend nach geprüft werden.

00:14:51: Wenn man es in wirklich kurzen Punkten festhalten möchte und das möchten wir ja sehr gerne, dann muss man sagen KI darf als Entscheidungsunterstützung eingesetzt werden.

00:15:02: Es gibt derzeit keine wirklich allgemeine Pflicht KI immer einzusetzen.

00:15:07: In bestimmten Situationen kann es aber naheliegend sein dass man die KI einsetzen sollte.

00:15:14: Entscheidend ist aber dass die Geschäftsleitung auf einer angemessenen Informationsgrundlage handelt und die endgültige Verantwortung, Prinzip Human in the Loop letztendlich bei der Geschäfts- leitung bleibt.

00:15:26: Und ich nicht sagen kann, die Entscheidung hat die KI so getroffen und deswegen schließe ich mich der an!

00:15:33: Das fand ich jetzt ganz spannend, weil wir ja normalerweise immer so ein bisschen von der Denke herkommen.

00:15:38: Ja da gibt es diese KI kann relativ viel als

00:15:42: Tool

00:15:43: aber die macht auch Fehler und man muss immer super genau auf die KI aufpassen und möglichst wenig einsetzen, möglichst viele selbst machen.

00:15:52: Aber wir wissen, dass das Anwälte ja selber wenn man irgendwie um halb zwei im Datenraum sitzt dann macht man wahrscheinlich mehr Fehler als die KI.

00:15:59: Ja deswegen interessant so den Impuls und gesagt, dass es perspektivisch möglicherweise sogar sorgfaltpflichtverstoß sein kann wenn man keine KI

00:16:08: nutzt genau vollkommen richtig.

00:16:12: also es gibt tatsächlich auch schon Diskussionsstand in der Literatur.

00:16:17: Natürlich die Thematik ist neu, deswegen gibt es noch keine Gerichtsentscheidungen dazu.

00:16:21: Dass in gewissen Situationen eine Ermessens- quasi Ermessungsreduktion auf Null vorgenommen werden kann dass die Geschäftsleitung die KI sogar einsetzen muss vor allem eben dann, wenn das KI-Tool beispielsweise sich schon als probates Mittel bewährt hat.

00:16:38: Und ich weiß dass es auf jeden Fall eine sehr gute Erkenntnisquelle für meinen derzeitigen Anwendungsbereich sein kann und ist dann für die konkrete Entscheidung vielleicht sogar offensichtlich bessere schnellere oder umfassendere Informationen liefern kann, als die Geschäftsleitung aus den sonst zur Verfügung stehenden Mitteln bekommen könnte.

00:16:57: Dann wäre es schon so, dass ein solches außer Acht lassen der KI-Möglichkeit oder Nutzungsmöglichkeit der KI dazu führen kann, dass wir hier von dem Sorgfaltspflichtverstoß sprechen.

00:17:08: Weil grundsätzlich gilt die Geschäftsseitung sollte all die ihr zur Verfügung stehenden Erkenntnisquellen hinreichend ausnutzen um eine unternehmerische Entscheidung zu treffen und dann eben einen möglichen Sorgfalspflichtverstoß zu vermeiden.

00:17:24: Und das finde ich eben super spannend, dass man jetzt auch schon davon spricht gegebenenfalls sogar einsetzen muss.

00:17:32: Es gibt kein Muss in jedem Fall, es gibt auch keinen ich darf nicht in jedem fall sondern es ist so ein bisschen die goldene Mitte genauso eben auch wie die Frage nach der rechtlichen Überprüfung.

00:17:46: und inwieweit muss die Geschäftsleitung denn letztendlich Kenntnis über die Technik haben die dahinter steht um auch dazu so ein bischen den den Bogen wieder zu schließen.

00:17:58: So genug Zum Einsatz bei Geschäftsleitung, ich habe ja auch.

00:18:02: Benedikt hat uns ein super spannendes Thema mitgebrachte Spatial Computing und das als konkreter Use Case.

00:18:10: Ich glaube aber, Benedikt für unsere Hörerwärts- und Hörerin wäre es super interessant wenn du erstmal den Begriff Spatical Computing was ist denn darunter zu verstehen?

00:18:20: Einfach mal ein bisschen aufdröseln und erläutern könntest!

00:18:25: Was ist Spatual Computing?

00:18:27: Im Grunde geht es darum, dass digitale Informationen nicht mehr nur auf einem Bildschirm stattfinden wie zum Beispiel bei uns jetzt gerade sondern direkt in der Umgebung.

00:18:37: Also man trägt eine Brille.

00:18:38: kennt man vielleicht noch diese fetten AR VR-Brillen heutzutage natürlich mit Smart Glass ist viel kleiner und handlicher ja die kann man im Grunde nicht mehr von einer normalen Brille unterscheiden.

00:18:49: Und mit diesen Brillen, die blenden dann Kontext bezogen in Echtzeitinformationen ein.

00:18:56: Die normalerweise auf dem Bildschirm sein würden Wenn man sich das mal vorstellt.

00:19:02: der Use Case ist meiner Meinung nach für sehr viele berufe sehr spannend zum beispiel auch für uns als anwälte.

00:19:10: wenn man sich überlegt man muss jetzt doch was fertig machen ja es ist ein flugzeug ist einer vollen u-bahn dann kann man natürlich also laptop vielleicht gerade noch auf keinen fall irgendwie zwei bildschirmen auspacken ohne dass man diese oberung gejagt wird aber mit so einer brille wo man dann im grunde zickbildschirme nebeneinander schalten könnte vielleicht noch eine kleine Trastatur dabei hat oder vielleicht sogar direkt in der Luft schreiben kann, dann könnte man die Arbeit natürlich ohne Probleme auch in dieser U-Bahn machen.

00:19:40: Deswegen spannendes Thema vor allem aber aus meiner Sicht im Medizinbereich, im Krankenhaus und was mein Setting jetzt angeht im OP.

00:19:52: Stellt ihr vor... Du bist Assistenz-Arzt, hast deine erste OP bis vielleicht so ein bisschen aufgeregt.

00:19:58: Patient liegt vor dir überall blinkt es, überall piepses.

00:20:03: ja du musst gucken Vitalparameter passt das jetzt alles muss dich drehen hast ständig Leute um dich rum?

00:20:09: Das ist natürlich eine Hochstressumgebung und da würde es schon deutlich erleichtern wenn man sowas wie Smart Glass hätte die dann Sicht fällt, mein Ding irgendwie links die Vitalparameter einblähen könnten.

00:20:25: Ja grün wenn alles in Ordnung ist vielleicht orange wenn sich es verschlechtert rot wenn's kritisch ist oder eine Checkliste.

00:20:32: ja.

00:20:33: also was hat so einen OP noch nicht durchgeführt zumindest nicht am echten Patienten?

00:20:37: einfach die checkliste mit den Schritten die man durchführen muss um die OP auch über die Bühne zu kriegen.

00:20:46: All das, dafür könnten dieses Smart Glasses ja durchaus einen Mehrwert bieten ohne dass man solche ja sag ich mal etwas fern die genannten Sachen hätte, dass die KI einem zeigt wo genau man Schnütte setzen muss oder wenn es die KI vielleicht noch nicht macht dann irgendein Experte in den USA der vielleicht da am Rechner sitzt und einem dann im Sichtfeld direkt allen einzeichnen kann wo man genau die Schnitte setzen muss.

00:21:18: Also ja, ist ein bisschen wenn wir jetzt auf den Titel gehen eher Richtung Hype als Richtung Use Case der heute schon viel Anwendung findet aber aus meiner Sicht gerade in der Zukunft durchaus spannend.

00:21:34: Ja also ich weiß doch als wir uns in der Vorbereitung zu diesem Podcast miteinander ausgetauscht haben und du mir das berichtet hast Das klang für mich schon sehr nach weit entferter Zukunft irgendwie noch, aber sie ist da.

00:21:47: Es wird diskutiert die mandanten Fragen hier offensichtlich danach.

00:21:51: ja für uns als Juristen vor allem interessant welche Rechtsgebiete spielen denn hier letztendlich eine Rolle?

00:21:56: wenn ich so darüber nachdenke für mich medizinischer Bereich stark reguliert vielleicht auch Datenschutz vielleicht auch KI-Regulierung.

00:22:06: ist das jetzt schon im Bereich, wo man über eine Risiko KI spricht vielleicht noch nicht.

00:22:11: Da wäre es sicherlich super spannend und ich bin mir sicher dass du uns da die richtige Einordnung geben kannst.

00:22:17: Ja das war auch warum ich das Beispiel hier genommen habe weil es einfach extrem viele Rechtsgebiete berührt was es dann auch für uns als Juristen natürlich spannend macht.

00:22:27: ja nicht nur medizinisch spannend gibt's einige cases.

00:22:30: Der zeigt so richtig schön, dass man da auch fachübergreifend denken muss.

00:22:36: Wenn man mal mit dem Datenschutz anfängt ja das springt im Grunde ins Auge die Brille erfasst natürlich Daten zum einen schonmal biometrische Daten des Trägers also Augen und so weiter Aber auch Gesundheitsdaten des Patienten natürlich.

00:22:54: Was besonders schützungswerte Daten nach der DSGVO sind, das heißt da muss man schon erstmal gucken ob man eine Rechtsgrundlage hat weil sonst die Verarbeitung an sich schon rechtswidrig ist.

00:23:04: und dann sind wir beim Thema was du ja auch angesprochen hattest.

00:23:08: Ja Transparenz Die DSGVO sieht Transparenspflichten vor Informationspflichten Und die sind natürlich gar nicht so leicht zu erfüllen bei solchen Brillen.

00:23:19: Man kann sich hervorstellen, dritte Laufendurchsbild ja man vergisst die Brille abzuziehen.

00:23:25: auf einmal hat man irgendwie Besucher, Reinigungspersonal, die man aufnimmt und die wissen dann natürlich nicht dass ihre Daten gerade erfasst werden.

00:23:33: also in der Praxis Datenschutz auch hier eine echte Herausforderung.

00:23:38: Datenschuss ist aber das einzige Thema.

00:23:41: viel wichtiger für viele Unternehmen ist Medizinproduktrecht, also MDR.

00:23:47: Ist diese Brille überhaupt ein Medizinprodukt?

00:23:51: Das werde ich nicht beantworten können, ja sie machen ja unsere Life Science Kollegen.

00:23:56: aber Was ich mitgenommen habe, auch da kommt es darauf an.

00:24:00: Es kommt darauf an wenn die Brille nur ein besserer Bildschirm ist dann ist möglicherweise kein Medizinprodukt.

00:24:07: aber sobald sie anfängt Patienten spezifische Daten für klinische Entscheidungen zu nutzen.

00:24:12: also wenn die brille zum Beispiel sagt so dieser Vitalwert der ist jetzt kritisch Da gibt's hier das und dass zu tun Dann wären wir voll in der MDA drin.

00:24:21: und dann geht es natürlich um die Themen Zulassungsverfahren, klinische Bewertungen des volle Programm aus unseren Kollegen abdecken.

00:24:30: Was da so ein bisschen rein spielt, auch das hattest du ja als Schlagwort angesprochen.

00:24:35: Das Thema KI Regulierung nach der KI Verordnung ist es ja so Medizin Produkte der Klasse zwei A oder höher diesen automatisch Hochrisiko KI.

00:24:46: Das heißt wenn wir jetzt hier drin werden im Medizin Produkt dann wären wir auch in der KI Vorordnung beim Hoch Risiko KI System und dann wären wieder dann da eine regulatorischen Anforderung.

00:24:57: Das ist das eine, das andere ist.

00:25:00: Kann man an Verbote denken hier ja?

00:25:03: Denn am Arbeitsplatz ist ja Emotionserkennung verboten kann so eine Brille das Ja?

00:25:11: also die trägt ja mein Auge.

00:25:12: Die weiß vielleicht ob ich zu müde bin ja Ob ich als Arzt jetzt vielleicht nicht gerade operieren sollte weil ich entweder schlecht geschlafen habe oder Stress mit meiner Ehefrau.

00:25:21: dass wäre möglicherweise dann auch nach KI-Verordnung schon verboten, auch das könnte man sich hier vorstellen.

00:25:30: Und da gibt es noch so Rechtsgebiete die man vielleicht gar nicht auf dem Schirm hatte.

00:25:34: ich meine jetzt waren ja eher offensichtlich.

00:25:37: aber so ein Krankenhaus wo man vor allem am Patienten und Ärzte denkt Das ist natürlich auch ein großer Arbeitsplatz.

00:25:46: das heißt auch des Arbeitsrechte spielt da rein.

00:25:49: Insbesondere in dem Fall der Ziemunachtzig Betriebsverfassungsgesetz, der da regelt das die Einführung technischer Einrichtungen dazu geeignet sind Verhalten zu überwachen dass dort der Betriebesrat zustimmen muss und bei so einer Brille ist das mit Sicherheit der Fall.

00:26:05: Wenn die Eye Tracking hat, wenn diese eine Blickrichtung Sprechdauer Reaktionszeiten und ähnliches tracken kann dann wären wir hier wahrscheinlich schon auch beim Bestimmungsrecht des Betriebsrats.

00:26:17: also selbst als Arbeitsrecht ist bei so einem Use Case dann mit im Boot.

00:26:24: ansonsten ja Zivilrechtliche Fragen die Klassiker was ist mit der Haftung?

00:26:29: also was ist wenn die Brille jetzt einen falschen Wert anzeigt oder wenn die brille falsch anzeigen wo man schneiden muss.

00:26:35: Und der Patient dann auf einmal die OP nicht überlebt, dann wären wir wieder ein klassischen zivilrechtlichen Haftungsfragen.

00:26:44: Da gibt es natürlich jetzt auch einen gewissen Überbau, also zum Beispiel die neue Produkthaftungsrichtlinie.

00:26:50: Die Stuftsoft wäre jetzt ausdrücklich als Produkt ein weswegen man da gewisse Weißlastumkehr hat.

00:26:56: aber das ist dann etwas was man sich auch genauer anschauen sollte.

00:27:00: und am Schluss kann man noch an weitere Themen denken geistiges Eigentum Urheberrecht.

00:27:06: könnte das verletzt sein, könnten Geschäftsgeheimnisse betroffen sein.

00:27:11: All solche Geschichten würden dann ja wieder andere Kollegen von uns machen.

00:27:15: also du siehst schon ein sehr sehr weitreichender Use Case obwohl es im Grunde nur so eine kleine Brille ist.

00:27:23: Ja absolut und ich kann mir natürlich trotz allem vorstellen dass die Mandanten sich schon die Frage stellen wann und wie können all diese rechtlichen Fragen beantwortet werden, da der Nutzen den diese Brillen ja offensichtlich haben könnten doch sehr groß ist.

00:27:41: Und technisch die Möglichkeiten ja letztendlich schon bestehen.

00:27:45: jetzt auch hier wieder die Frage Wie sehr drängenden die Mandanten darauf diese rechtliche Fragen zu klären?

00:27:52: Die sehr brennt Der einzelne Arzt vielleicht jetzt auch schon das und einzusetzen um diese Technik für sich nutzbar zu machen.

00:28:02: Also speziell was das Thema Smart Glass angeht, haben wir jetzt noch nicht so viele Anfragen im Medizinbereich.

00:28:09: Da sind es eher Geschichten.

00:28:10: also was jetzt KI angeht die administrative Bereiche betreffen.

00:28:14: Also Planung von Aufnahmen Entlassungen Erstellung und Dienstpläne solche Geschichten oder auch bei der Diagnostik oder Assistenz Systemen.

00:28:23: Also Roboterassistenz bei OPs Was ja schon tatsächlich sehr oft im Einsatz ist Das heißt Bei diesen KI-Möglichkeiten, da sind wir dann schon in der Beratung bei Smart Glasses.

00:28:37: Das ist wirklich noch so ein Schritt weiter.

00:28:40: ja also Ehrrichtung Hype das kommt vermutlich erst die nächsten Jahre.

00:28:47: Ja vielen Dank!

00:28:48: Also meines Erachtens ein superspannender Use Case vielleicht momentan noch kein Use Case sondern noch als Hype wie du eingangs gesagt hast abzustempeln.

00:28:57: aber letzten Endes es kann und wird schneller kommen, als wir das viele erwartet haben.

00:29:03: Das sehen wir auch natürlich in unserem beruflichen Alltag, indem wir ja auch schon sehr viel KI nutzen und auch nutzen müssen letzten Endes um Effizienz zu bleiben und dass er leichtert und ist eine gute Assistenz.

00:29:16: genauso kannst eine sehr gute Assistenten aber nicht mehr momentan im Bereich der Geschäftsleitung sein.

00:29:22: Im Bereich Medizin haben wir jetzt auch gehört, gerade eben was Dienstpläne oder organisatorisches angeht da auch als eine gute Assistenz.

00:29:31: Aber noch nicht die alleinige Leitung.

00:29:33: also wir bleiben bei dem Prinzip Human in the Loop.

00:29:35: letzten Endes und entscheidend ist zumindest aus gesellschaftsrichtlicher Sicht dass wenn ich KI nutzen möchte Ich einen klaren Anwendungsfall habe mir klar, wenn wofür das jeweilige Tool auch tatsächlich entworfen und gestaltet wurde.

00:29:52: Klar large language Models sind sehr weit in ihrem Anwendungsbereich aber auch da muss ich wissen was ist denn technisch überhaupt möglich selbst wenn ich dann super prompt habe welche Datenbasis habe ich?

00:30:04: Und gibt es denn hier geeignete interne Regeln nach denen ich dann eben vorgehe und wo liegen letztendlich auch die technischen Grenzen Wenn du sagst, du möchtest hier noch ein schönes Schlusswort finden.

00:30:21: Wo wir momentan stehen und wo die Reise hin weitergeht in diesem speziellen Feld gerade Medizin?

00:30:29: Ja also dem ist im Grunde nicht vielen zuzuschügen egal welcher Use-Case es jetzt ist.

00:30:34: Eher Richtung Hype eher Richtung schon realem Einsatz.

00:30:38: Im Grunde geht's um klare Verantwortlichkeiten definieren ordentliche Dokumentationen ordentliche internen Gerichtlinien, dass wenn man sich so aufgestellt hat dann meine ich ist man gut aufgestellt für jeden KI USKS.

00:30:53: Ja vielen Dank lieber Benedikt!

00:30:54: Damit sind wir auch schon am Ende von unserer Podcast-Folge angekommen.

00:30:58: zusammenfassen bleibt zu sagen das KI im Unternehmensalltag angekommen ist.

00:31:02: der eigentliche Wert liegt aber weniger im Hype sondern viel mehr in konkreten und sinnvoll umgesetzten Anwendungsfällen.

00:31:09: Das sehen wir auch in unserer täglichen Arbeit.

00:31:11: Nicht jeder einzelne Schritt unserer Arbeit kann momentan durch KI ersetzt werden oder ist sinnvoll, durch KI zu ersetzen.

00:31:18: Entscheidend ist es eben den technologischen Nutzen und die wirtschaftliche Zielsetzung sowie eben die rechtlichen Leitplanken gemeinsam zu betrachten unter einen Hut zu bekommen uns so dann eben die technische Möglichkeit als Hilfsmittel als Assistenten zu sehen.

00:31:35: Vielen Dank fürs Zuhören.

00:31:36: Wir freuen uns auf die nächsten Folgen und danke

00:31:42: fürs

00:31:48: Einschalten!