KI-Governance und Regulierung: Wie KI Ungerechtigkeit verstärkt und was wir dagegen tun können

00:00:19: Moin und herzlich willkommen zum CEO-Zweienotrei-Podcast, dem Interview Podcast von Fettkonsulting von uns.

00:00:26: Wir begleiten Unternehmen auf ihrer Reise zu einer digitalen und nachhaltigen Transformation und treffen dazu immer wieder interessante Gesprächspartnerinnen und Expertinnen die euch und uns inspirieren und zu Nachahmen animieren sollen.

00:00:39: in einem Ende glauben wir fest daran dass es Alle braucht und dass es uns gemeinsam braucht, um wirklich eine echte nachhaltige Transformation auch gestalten zu können.

00:00:47: Und daher freuen wir uns immer sehr, uns regelmäßig mit Experten in den Austauschen zu können.

00:00:52: und wie das sind wir immer.

00:00:53: nie ist und ich.

00:00:54: Moin Niees!

00:00:54: Wie geht's dir?

00:00:56: Moin Mike, mir gehts ja gut.

00:00:57: Sonne scheint, Wetter ist toll, muss irgendwie gucken, dass ich heute auch ein bisschen Arbeit im Draußen genieße.

00:01:06: Vielleicht lege ich mehr über den einen oder anderen Call auf dem Spaziergang bin gut gelaunt und du

00:01:11: Du, ich auch.

00:01:12: Wir

00:01:12: waren jetzt ein paar Tage unterwegs

00:01:15: in Bündchen und dann war Hochsommer.

00:01:16: Das war schon richtig

00:01:17: krass!

00:01:18: Und es war irgendwie schön wieder hier zu sein und ich freue mich genauso wie du.

00:01:23: Es ist zwar sehr warm im Büro bei uns, wir haben keine Klimaanlage aber die Sonne ist einfach ... Ach, das ist einfach schön dass sie da ist.

00:01:31: Da interessiert mich vor allem auch wer denn unser Gast ist und ob sich auch so viel Sonne hat wie wir?

00:01:36: Ja, wir sind Eva zu Gast.

00:01:38: Dr.

00:01:38: Eva Gengler Eva, du bringst ein ganz besonderes Thema mit.

00:01:42: Feministische KI als Autorin, Beraterin, Speakerin und Co-Founderin der feminist AI Community setzt zu dich für eine gerechtere und verantwortungsvolle Gestaltung von KI ein.

00:01:55: Ursprünglich kommst du aus der Wirtschaftsformatik und hast schon im Jahrzehnte in einer Abschlussarbeit zur KI geschrieben also lange bevor ChatGPT das Thema in den Mainstream gebracht hat.

00:02:06: Wir freuen uns sehr, heute eine langjährige KI-Expertin bei uns zu haben und gleichzeitig mehr über den feministischen Blick auf Technologie zu erfahren.

00:02:15: Liebe Eva schön dass du da bist.

00:02:16: wie geht's dir denn?

00:02:17: Ja danke für die Einladung freut mich sehr.

00:02:19: ich kann es eigentlich alles nur bestätigen weil mir ist auch schön Sonnig!

00:02:22: Ich bin tatsächlich aber gerade im Raum wo aktuell nicht die Sonne reinscheint.

00:02:25: deswegen ist von mir echt noch recht angenehm kühl.

00:02:28: Aber ja das Wetter und der blaue Himmel macht macht sehr viel Freude.

00:02:34: Ja, dann steigen wir doch mal direkt rein.

00:02:37: Also wie bist du auf das Thema KI und vor allem auch feministische KI gekommen?

00:02:41: Kannst du das mal so ein bisschen erzählen?

00:02:44: Gab es so einen Aha-Moment oder war das eigentlich schon immer dein Thema sozusagen?

00:02:49: Das fände ich mir total spannend!

00:02:51: Danke für die Frage.

00:02:52: Ich habe tatsächlich da auch in den letzten Jahren immer wieder darüber nachgedacht, wie ist es eigentlich so gekommen, weil ich ja ein Buch dazu geschrieben hab der auch dann in den letzten Zügen meiner Dessertation reflektiert habe.

00:03:05: Vielleicht erst mal zum Thema Feminismus?

00:03:07: Ich bin schon sehr lang Feministin, ich hab bei mich schon ein sehr langes Gefühl gehabt es gibt Ungerechtigkeit und das ist irgendwie ein Unterschied dass ich eine Mädchen, dass ich ne Frau bin.

00:03:15: Ja, das hat mich schon lange begleitet.

00:03:18: Ich habe auch für meine Mutter immer viele Bücher und Geschichten vorgelesen und geschenkt bekommen zu Frauen, die irgendwie Abenteuer erleben oder sehr stark den gesellschaftlichen Erwartungen entsprochen haben.

00:03:31: Und ich glaube auch mein Name Eva hat da mit reingespielt weil wenn ich jetzt zurückdenke an den katholischen Religionsunterricht damals war ich noch in der katholsche Kirche Da gab es hier so eine Geschichte über Adam und Eva, so rum wird's gesagt.

00:03:46: Und da ist Eva die böse und die Schuldige und bringt quasi durch ihr Verhalten also dadurch dass sich verbotene Frucht vom Baum der Erkenntnis pflückt und Adam auch dazu verführt quasi ja die gesamte Welt oder die gesamten Menschheit in die Verdammnis.

00:04:01: und dann gibt diese Erbsünde und quasi alle Frauen sind dem schuldig.

00:04:05: Also dieses ganze Konstrukt ich glaube das hat mich irgendwie auch mehr angetatscht als andere weil ich einfach Eva heiße Ich weiß nicht, wann das war.

00:04:15: Wahrscheinlich war es die erste Klasse oder so.

00:04:17: Aber ich glaube deswegen irgendwie dieses Grundgeverständnis von Ungerechtigkeit hat mich schon lange beschäftigt und hat sich dann auch mehr dazu entwickelt, als ich natürlich auch festgestellt habe.

00:04:26: okay ich hab auch Privilegien, ich bin eine weisse Frau vielleicht mehr dazu später aber... Und zu KI bin ich tatsächlich gekommen, Nies hat schon gesagt.

00:04:33: Ich habe Bittos Informatik studiert und ich hab dann in meiner Masterarbeit mich beschäftigt mit KI im Rekoting bzw.

00:04:40: der Personalauswahl und welche ethischen Implikationen das denn hat?

00:04:44: Und... ...hab' ich schnell festgestellt, KI ist nicht neutral!

00:04:47: Und seitdem hat mich das weiter beschäftigt und ich glaube es passt sehr gut zusammen weil KI eben Ungerechtigkeit verstärken kann aber auch was Positives tun kann.

00:04:54: Genau so viel Monologueende bin ich zu dem Thema gekommen.

00:04:58: Ja, okay.

00:04:58: Aber warum braucht es das denn überhaupt aus deiner Perspektive?

00:05:02: Warum sollten wir uns mit dem feministischen Blick da drauf überhaupt oder dem Thema Bob zuwenden?

00:05:10: Also warum sollten wir so draufschauen?

00:05:12: Wenn ich jetzt nochmal an meine Masterarbeit denke, dann war die Ausgangsfrage für meine Arbeit, kann K.I.-Rekruting fairer machen?

00:05:20: Mittlerweile möchte ich das Wort fair in dem Fall eigentlich nicht mehr benutzen, weil Fair auch ein sehr dehnbarer Begriff ist.

00:05:24: Es gibt ganz viele verschiedene Definitionen von Fair und es ist auch ein individuelles Konzept.

00:05:29: aber das war die Frage und für mich war so ein bisschen die Erkenntnis danach.

00:05:34: also ich habe Interviews geführt dass KI-Recruiting fairer machen könnte, wenn es wirklich das Ziel ist.

00:05:40: Nur meistens ist es nicht das Ziel.

00:05:42: Meistens ist das Ziel KI einzusetzen um Recruiting oder auch andere Prozesse effizienter zu gestalten und Zeit zu sparen, um das zu automatisieren was wir eh schon tun.

00:05:51: Und wenn man uns eben anguckt was wir Eh schon tun dann bedeutet es in ganz vielen Fällen dass es nicht gerecht ist zum Beispiel im Recruitting das im Bereich der IT aber auch in vielen anderen Bereichen zB Frauen aussortiert werden.

00:06:02: Dass Frauen auch zum Beispiel eigentlich nie das richtige Alter haben sind weder zu jung Dann sind sie im Alter, jetzt könnte sie Kinder kriegen und dann ist sie im alter plötzlich zu alt.

00:06:10: Und eigentlich auch nicht mehr interessant.

00:06:12: Die Groting ist nicht gerecht wie alle Menschen.

00:06:14: Wir haben Vorurteile und das sind natürlich nicht nur Genderaspekte, sondern am Ende auch Herkunft, Alter ... Der Name spielt eine Rolle unter und unter.

00:06:21: Deswegen ist es im Ende nicht neutral.

00:06:23: Und wenn wir jetzt mit solchen menschlichen Entscheidungen, die ihr dann in den Daten stecken, eine KI trainieren, bedeutet das, dass wir das nachahmen.

00:06:30: Das sehen wir eben in ganz vielen Fällen.

00:06:32: Es sehen kreditvergabe, in der Polizeiarbeit, auf Social Media in den Algorithmen.

00:06:38: Diese Algorithme sind einfach nicht neutral!

00:06:40: Ich denke es ist wichtig, dass wir uns das feministisch anschauen.

00:06:43: Weil Feminismus eine Perspektive ist die eben intersektional sich anschaut wie Ungerechtigkeit funktioniert.

00:06:51: Intersektional bedeutet das, was ich vorhin angesprochen habe.

00:06:53: Ich bin eine weiße Frau und komme aus der Mittelschicht aus Deutschland.

00:06:57: Ich hab Privilegien!

00:06:57: Ich bin aber auch eine Frau und hab deswegen auch Diskriminierungserfahrung.

00:07:02: Und wir alle haben irgendwie ein Alter.

00:07:03: Wir alle haben ne soziale Herkunft.

00:07:06: Wir haben ne kulturelle Herkünft.

00:07:07: Wir ham vielleicht Kehrverpflichtungen... ...und viele dieser Attribute ändern sich auch über das Leben hinweg.

00:07:12: Das Alter ändert sich natürlich.

00:07:13: Vielleicht ändert es sich in Gender.

00:07:15: Es ändert's sich, ob wir vielleicht Kehverpflichtung haben, ob die Eltern werden oder ob wir ältere Angehörige... gepflegen.

00:07:21: und all diese Faktoren bewirken Diskriminierungserfahrungen oder auch Privilegien, die wir haben.

00:07:26: Und ein Feminismus, Intersektional-Feminismus schaut sich das an und versucht eben zu verstehen wo liegen Privilegen?

00:07:32: Wo liegt Unterdrückung?

00:07:33: Und dass jetzt bezogen auf KI schaut sich eben auch an was kann KI für Ungerechtigkeit verstärken?

00:07:39: aber wie können wir das auch verändern?

00:07:40: und ich glaube es ist absolut elementar weil KI nicht neutral ist aber unser ganzes Leben.

00:07:45: proektiv

00:07:46: Ja, absolut und wir richten uns ja auch sehr an entscheidern in den Mitarbeiterinnen, in Organisationen und Unternehmen.

00:07:53: Was würdest du denn sagen?

00:07:54: Wie kann man damit umgehen dass auch KI nicht neutral ist und vielleicht auch nochmal diesen Aspekt also hier auch... oft nicht die Wahrheit sagt oder Halluzinier sozusagen.

00:08:03: Das ist ja auch noch mal so ein Thema, das ganz verstärkt jetzt durch diese Modelle eben jetzt auch kommt.

00:08:08: Hast du da so ein paar Tipps, die du jedem mitgeben kannst?

00:08:12: Ich glaube erst einmal sprichst du einen wichtigen Punkt an, dass also wenn ich jetzt von KI oder von Künstliant Legens spreche, meine ich eben nicht nur LGBT- oder große Sprachmodelle – das war halt auch einfach.

00:08:20: nochmal kurz als Erklärung, weil wenn ich von Recruiting spreche es nutzen zwar manche Personen und manche Unternehmen jetzt schon Chatchivitie für Recruiting Entscheidungen.

00:08:29: Davon würde ich abraten, da jetzt Lebensläufer reinzuspielen und KI hier fortzuortieren zu lassen.

00:08:35: Aber wenn ich von KI spreche dann meine ich eben auch ganz viele Systeme die in also zum Beispiel Suchmaschinen, Navigationssysteme, Social Media.

00:08:44: was wird uns angezeigt?

00:08:45: Also es geht nicht nur um Systeme wie Chatchivity.

00:08:47: das vielleicht noch kurz als einfach.

00:08:50: Ich glaube dieses Wort Neutral hat schon vielleicht auch ein bisschen Problem in sich, weil ich glaube auch wir als Menschen sind ja nicht neutral.

00:08:56: Also deswegen oder beziehungsweise haben wir vielleicht einen unterschiedlichen Blick auf Neutralität.

00:09:00: Ich glaub, Neutralität hängt auch oft an so einer Art Mehrheitsmeinung und neutral.

00:09:03: zum Beispiel wenn ich jetzt auch an die Medizin denke ist glaube ich oft dann immer noch der weiße Mann hetero-sexuell irgendwie... Einzig groß, siebzig Kilo oder so.

00:09:13: Das ist dann vielleicht auch eine gewisse Neutralität in Anführungszeichen oder ein Normal was jetzt so auch nicht neutral ist.

00:09:19: ja also ich glaube das Wort neutral ist grundsätzlich schon bisschen schwierig.

00:09:23: aber wenn wir jetzt im Unternehmen KI einsetzen es glaube ich der entscheidendste Punkt und die wichtigste Frage warum tun wir das?

00:09:30: Und ich habe es vorhin gesagt sehr oft tut mir das aktuell um eigentlich etwas bestehen das zu automatisieren und sagen eigentlich okay bisher machen wir es ja schon gut wie im Recruiting besten Personen und Anfangszeichen ausgewählt.

00:09:42: Und jetzt machen wir das mit KI, und da nutzen wir die bestehenden Daten unsere bestehende Entscheidungen.

00:09:46: damit trainieren wir KI.

00:09:48: Es wird notwendigerweise dazu dass wir das systematisch reproduzieren was sie schon getan haben aber eben oft nicht unbedingt gut war.

00:09:55: und ich glaube die wichtigste Entscheidung ist deswegen wirklich auch in Unternehmen zu fragen wie können wir eigentlich KI dazu nutzen um Prozesse zu verbessern?

00:10:04: ja?

00:10:04: Und für mich gehört es zu verbesseren am Ende dann auch gerechter zu gestalten.

00:10:08: Ganz einfaches Beispiel, ich hatte jetzt öfters das Wort Recruiting und ein ganz klassisches Beispiel was auch viele schon vielleicht kennen ist da Amazon gewesen.

00:10:16: Das hatte ich auch als meiner Masterarbeit als Auftakt.

00:10:18: die haben der KI eingesetzt oder entwickelt fürs Recruitting in ihrem IT Bereich und die Idee war quasi wir lernen jetzt das KI-System anhand von unseren bisherigen zehn Jahren Entscheidungen und dann müssen Menschen quasi nur noch die besten Bewerbungen sichten.

00:10:33: Das Thema hat systematisch Frauen aussortiert, weil die bisher kaum eingestellt worden sind.

00:10:38: Dann haben diese KI tatsächlich ausgeschaltet.

00:10:41: Eine ganz andere Herangehensweise im Recording wird zum Beispiel zu sagen hey wir haben vielleicht bisher nicht die richtigen Personen eingestellt beziehungsweise wir haben auch viele übersehen es gibt Fachkräftemangel und wir können uns eigentlich nicht mehr leisten systematische auszusortieren anhand von Faktoren, die eigentlich keine Rolle spielen sollten.

00:10:56: Und da ist zum Beispiel eine Möglichkeit dass man so ein Matching macht das man quasi Unternehmen fragt und die Personen wo seid ihr?

00:11:02: Wo wollt ihr hin?

00:11:03: unter Hand von Fragen und Antworten einen Matching betreibt kann natürlich auch zu Vorurteilen führen, weil je nachdem welche Fragen wir stellen und wie wir mit den Antworten umgehen, kann das auch zu Problemen führen.

00:11:12: Aber die herangehensweise ist eine andere.

00:11:13: Und das kann zum Beispiel gerade auch für Frauen hilfreich sein, weil wir wissen dass

00:11:17: z.B.,

00:11:18: sich Frauen oft nicht bewerben wenn sie so ne lange Liste an Stellen Ausschreibungsanforderungen haben und dass ich zum Beispiel erst bewerbe, wenn Sie Ninze bis Hundert Prozent erfüllen und Männer schon auf bei vierzig bis Sechzig Prozent.

00:11:29: Das heißt vorhin Unternehmen überhaupt quasi Bewerbungen sichten können fallen da zum Beispiel schon ganz viele Frauen hinten runter, weil sie sich gar nicht bewerben.

00:11:38: Und durch so ein Matching

00:11:38: z.B.,

00:11:39: könnte man jetzt diese Frauen überhaupt in den Prozess holen und das würde quasi also diesen Prozess verändern.

00:11:44: Das glaube ich ist die entscheidendste Frage, dass wir uns wirklich überlegen wo können wir kairend im Einsetzen um Prozesse zu verändern und besser zu machen?

00:11:52: Ich glaube, das ist der absolut größte Hebel!

00:11:54: Ja, ich glaube da triff es so voll ins Schwarze.

00:11:56: Das ist auch was wir wirklich in unseren Projekten erleben.

00:11:59: Ein sehr geschätzter Kollege von uns benutzt dann gerne auch den Begriff Shit-in-Shit Out und das ist also am Ende die Aussage, die wir noch oft treffen.

00:12:10: Es geht hier nicht um Technologie, Technologie ist am Ende unser Werkzeug.

00:12:15: aber wir müssen uns wirklich mit dem Prozess auch mit dem Ziel, mit dem Warum sozusagen auseinandersetzen und ich glaube dar muss aber Das muss noch verstanden werden oft.

00:12:24: Und das ist ganz viel Austausch und Sensibilisierung auch notwendig aus meiner Sicht, weil sonst machen wir halt einfach Prozesse die da sind, automatisieren die und hauen irgendwie noch einen... Das kann man machen, aber was ist dann wirklich besser geworden?

00:12:42: Ich finde es total spannend.

00:12:43: Du wolltest auch direkt etwas zu sagen weil das hat mich direkt was ausgelöst in uns!

00:12:48: Ja und das ist ja die eine Facette wie gestalt ich die Prozesse und wie gucke ich dass sich nicht bestehendes verstärken.

00:12:56: Ich habe ja noch ein anderer Facette.

00:12:57: also wenn ich jetzt gerade eben mal auf dieses Beispiel was du halt meintest ja Männer sind generell häufig bolder rein sage ich mal als Frauen Das bietet natürlich aber auch andersherum in der Perspektive eine totale Chance.

00:13:09: Also wenn man jetzt davon ausgeht, dass halt dann irgendwie Frauen jetzt auch für ihren Bewerbungsprozess ja also auch viel anschreiben und für das was sie machen oder sozusagen daraus halt irgendwas zu bauen, halt dann wie die KI nutzen bringt die da vielleicht auch einfach ne Botenessin die Ansprache?

00:13:25: Also das bedeutet sozusagen, dass wir ja auch eben durch KI ja auch gegenläufige Effekte haben können.

00:13:32: Ja also das ist ja eben das Beispiel auch mit Wo du halt wie Menschen hast, denen halt ich sag mal Salopp nicht so viel vorgelesen wurde als anderen.

00:13:40: Da halt einfach auch eine bessere Bildungs- andere Bildungsgerechtigkeit und so weiter halt mehr ermöglicht.

00:13:45: Weil du halt irgendwie noch mal an das Ding erklärt bekommen kannst, viele Individuelle halt irgendwie auf Themen nochmal eingehen kannst.

00:13:51: Aber wenn ich mir das halt dann irgendwie... Das ist ja auch immer die Herausforderung von der wir stehen Wenn wir jetzt ein Unternehmen oder Unternehmen enablen Jetzt gerade mal in diesem Bereich Personal Productivity.

00:14:04: Also wie kann ich halt so zu sagen, wie kann jeder und jede Einzelne sich sozusagen selber durch KI verbessern oder produktiver werden?

00:14:14: Wie kann ich auch in diesem Trainingsprozess noch in diesem Befähigungsprozess oder in dieser Ermutigung, die da ja auch ein Stück weit stattfindet Also das eben genau an dieser Stelle nicht verstärken, also da sind ja unterschiedliche Themen.

00:14:29: Also erst mal wer bekommt es überhaupt?

00:14:31: Das ist ja die eine Facette.

00:14:32: Wäre es denn nicht vielleicht richtig wenn's dann alle bekommen oder zumindest das Portal verteilt wird?

00:14:39: Also das sind auch noch ein paar Fragestellungen, die mir jetzt einmal gerade so hoch poppen werden.

00:14:43: Absolut, ich finde das ein ganz wichtiger Aspekt.

00:14:45: Das eine mit KI-Competence oder auf Englisch Air Literacy ist total wichtig und ich glaube es müssen Unternehmen jetzt auch tun mittlerweile.

00:14:53: was da aber sehr häufig fehlt bisher ist eigentlich ne kritische Betrachtungsweise von KI.

00:14:57: also es geht eher darum wie schreibe ich jetzt Prompt am besten oder so?

00:15:00: oder eben dieses starke wie auch gesagt habe dieses Personal Productivity ist natürlich ein wichtiges Thema.

00:15:06: Aber ich glaube eigentlich müsste wir früher ansetzen und erst mal sagen, okay wie funktionieren diese Systeme?

00:15:10: Wo sind auch Risiken um am Ende eben halt zu vermeiden dass wir das gesagt nie ist irgendwie auch bestärkt also aktuelle Probleme verstärken.

00:15:18: Und was ich als große Chance sehe es auch am Ende zu sagen Wie können wir denn eigentlich auch generative KI einsetzen, um eigene Probleme zu hinterfragen?

00:15:27: Also so was wie beispielsweise, du hast gesagt vielleicht einen Text anders zu formulieren.

00:15:31: Wir könnten auch sagen, nimm eine andere Perspektive ein oder hinterfrag den Text habe ich hier paternalistisch formuliert, hab die Perspektiven vergessen ist hier bei es drin?

00:15:41: also was ich zum Beispiel selbst auch für euch gemerkt aber jetzt ja auch sehr lange versuche genderneutral zu formulierend was ich z.B.

00:15:48: noch nicht solange tue oder was mir noch nicht so offensichtlich und nicht so geläuft.

00:15:52: Es ist zum Beispiel auch darauf zu achten, dass ich nicht apleistische Formulierungen benutze wie z.B.

00:15:56: ein Blinderfleck.

00:15:58: Das hat mich auch erst... Ich habe irgendwo auf LinkedIn mal was geschrieben und hab mir jemanden Feedback gegeben.

00:16:02: Hey!

00:16:03: Das ist eigentlich keine Formulierung die so passend ist.

00:16:05: Und das sind ja ganz viele Noirs.

00:16:07: Jetzt versuche ich drauf zu achte und an manchen Punkten gelingt es mir sicher.

00:16:11: An manche Punkten wahrscheinlich noch nicht aber auch für sowas können wir KI nutzen.

00:16:15: sie wird vermutlich erstmal Im Regelfall sowas auch so formulieren, weil Blinda Fleck zum Beispiel einfach sehr stark in unseren Redewendungen vorhanden ist.

00:16:23: Aber wenn wir quasi sagen hey prüfe meinen Text oder prüfen den Text, den du auch selbst jetzt auf Basis von meinem Input geschrieben hast auf genau solche Dinge dann kann das natürlich auch extrem viel helfen und ich glaube dass sind aber Punkte da... Das ist nicht unbedingt des erste, wo für wir KI nutzen würden und ich glaube darauf müssen wir eben auch einfach hinweisen.

00:16:44: Deswegen dieses Thema KI-Kompetenz ist glaube ich super wichtig.

00:16:46: und was du noch angesprochen hast und ich glaub dieser Zugang ist ein super wichtiges Thema auch also wenn ich jetzt mit Unternehmen spreche es oft ja größere Unternehmen sagen dann oft okay Polizenzen geben mir nicht an alle raus.

00:16:58: das ist etwas was wir uns vielleicht nicht leisten wollen oder können.

00:17:01: wie auch immer kostet natürlich Geld Und dann müssen sich jetzt aber Personen stückweit darauf bewerben.

00:17:05: Die müssen selbst argumentieren, warum ich als Person ein Art Business Case mache?

00:17:11: Warum werde ich so viel produktiver?

00:17:12: Warum lohnt es sich das, dieses extra Geld für mich in die Hand zu

00:17:15: nehmen?".

00:17:16: Ich verstehe das ein Stück weit, aber erstens ist ein Business Case schwierig.

00:17:20: Also ich fände's nicht leicht hinzumachen!

00:17:22: Um.

00:17:22: zweitens wissen wir – wenn ich wieder an Gender gebt denke – Frauen nutzen generative KI weniger als Männer und können auch davon ausgehen, es gibt auch weniger Frauen in Führungen.

00:17:32: Es kriegen ja eher Führungskräfte und zusätzlich kommen auch davon ausgehendes Frauen jetzt weniger.

00:17:37: die sind, die dann sagen okay ich brauche das jetzt unbedingt argumentiert dafür und setze mich ein dass ich das jetzt kriege.

00:17:41: Das heißt dieses Thema glaube ich Zugang ist ein extrem wichtiges wo wir wenn wir jetzt wieder an Management denken müssen in den Unternehmen, dass eigentlich gerade der Punkt mit betrachtet werden muss.

00:17:52: Auch so wie ältere Menschen nutzen es weniger.

00:17:54: also das wir eben nicht nur die denen den Zugang geben, die vielleicht am lautesten schreien sondern vielleicht auch gerade überlegen wer braucht sind vielleicht am meisten.

00:18:01: Das ist eigentlich schon eine ganz schöne Brücke zu einer Frage, die wir auch mitgebracht haben.

00:18:06: Dass es schon so teilen soll ein bisschen, aber ich würde da gerne wirklich noch mal einsteigen.

00:18:09: also was würdest du denn jetzt raten wenn wirklich Unternehmen auch KI einführen wollen?

00:18:13: Du hast ja schon gesagt also KI kann ja ganz viel sein.

00:18:16: aktuell ist natürlich das Trendthema generative KI.

00:18:19: Du kannst einfach gern nochmal auch auf andere Themenbereiche hier eingehen.

00:18:24: Aber was sind's so für dich vielleicht so grundlegende Eckpfeiler wo du sagst die sollte jedes Unternehmen betrachten.

00:18:30: Ja, wenn du es für dich auch nachgangern, dann auch total wie ihr das macht.

00:18:33: Also da auch gerne noch teilen, wie ihr deinen Projekten vorgeht.

00:18:37: Also ich glaube, dieses Warum ist für mich immer mit in den Entscheidendsten?

00:18:41: Also wirklich warum wird das eingesetzt und... Da spielt für mich dann mit rein,

00:18:45: z.B.,

00:18:46: welche Ziele hat ein Unternehmen eigentlich?

00:18:48: Welche Werte hat das auch und was steckt eigentlich in der KI?

00:18:50: Also so ein Ziel wäre für mich eben möchte ich das Bestehen der reproduzieren oder möchte ich etwas verändern mit der KI?

00:18:55: Und es ist eine ganz entscheidende Frage die muss am Anfang stehen.

00:18:58: also wenn wir dann KI-System irgendwie jetzt schon eingeführt haben Dann ist es zu spät.

00:19:02: Also wir sollten uns, ich meine bei generativer KI würde ich sagen okay kommen wir für verschiedenste oder Agenten mit verschiedensten Bereiche nutzen.

00:19:08: aber wenn wir zum Beispiel ein KI-System für Recruiting eingekauft haben und wir haben halt nicht von Anfang an daran gedacht um zu überlegen was eigentlich das Ziel dahinter dann ist es so spät.

00:19:18: Dann, glaube ich sind Werte extrem wichtig.

00:19:19: Viele Unternehmen haben sich Ziele und Werte gesetzt im Bezug auf auch mehr Diversität in Führung, mehr Diverzität vielleicht auch Klimaneutralität.

00:19:28: also entweder ist es auch hier am Zug Nachhaltigkeit wollen hier irgendwie grüner werden wollen weniger großen Fußabdruck usw.

00:19:35: Das sind große Herausforderungen, wenn wir für KI einsetzen wollen weil KI verbraucht viele Ressourcen.

00:19:41: Wie gesagt, eben auch KI wird erst mal eher nicht zu mehr Diversität führen.

00:19:45: Sondern eher dass die Normen die größte Wahrscheinlichkeit, die da ist reproduzieren.

00:19:49: und das bedeutet oft eben was steckt am meisten in den Daten.

00:19:52: Das sind ganz viel männliche Daten, es sind ganz viele weiße Daten.

00:19:55: Es ist irgendwie eine gewisse Norm, die wieder gespielt wird.

00:19:58: Das heißt wenn ich jetzt Ziele habe mit mehr Diverse dann ist das erst mal ein gewisser Gegengesatz.

00:20:03: Und da müssen wir einfach überlegen, welche KI passt dazu und was steckt eigentlich in der KI drin?

00:20:08: Ich glaube auch ganz entscheidend wie gesagt diese Thema Nachhaltigkeit spielt jetzt in meiner Erfahrung bisher eigentlich keine Rolle.

00:20:14: wenn Entscheidungen getroffen werden zu KI-Systemen welchen kaufen wir ein Ist auch Thema Diversität und bei es ist nicht gerade das absolute Priothema aber Nachhaltigkeits kommt meines Erachtens nicht vor.

00:20:25: also wenn ich jetzt und das führt mich zum Thema KI Governance Wir haben da auch Interviews geführt mit großen Unternehmen und manche haben so ein bisschen auf dem Schirm, ja KI braucht Ressourcen aber eigentlich weiß niemand wirklich wie viel.

00:20:40: Und das spielt überhaupt keine Rolle bei der Entscheidung welche KI eingekauft wird.

00:20:45: Das ist also ein Stück weit ein Versagen, dass muss eine Rolle spielen weil am Ende das jetzt ganz viel auch kontaktieren kann was eigentlich Unternehmen ansonsten tun Und man zumindest finde ich, dass mit Indie-Entscheidung einfließen lassen muss.

00:20:58: Also ich finde wir dürfen es einfach nicht komplett vergessen!

00:21:00: Man kann sich trotzdem dazu entscheiden so einen KI System dann einzuführen.

00:21:02: aber es sollte eine bewusste Entscheidung sein.

00:21:05: und was glaube ich eben da wichtig ist das wir am Ende strategische Entscheidungen treffen.

00:21:10: es sollte auf hoher Ebene Person für KI zuständig sein die sollte damit entscheiden.

00:21:15: Es gibt ja in manchen Unternehmen schon AI Officer auf wirklich C Level Ebene.

00:21:20: Ich glaube wir brauchen wirklich Personen die auf hohen Ebene für KI Zuständig sind.

00:21:24: Und wie man das am Ende einführt, ist, denke ich, da brauchen wir KI Governance.

00:21:28: Also wir brauchen irgendwelche Strukturen im Unternehmen Prozesse die am Ende irgendwie vor Compliance sorgen also für rechtliche Rahmenbedingungen aber am Ende eben auch Themen wie Werte und Ziele mit einführen und auch einen Rahmen schaffen der am Ende ein Unternehmen dazu zwingt gewisse Qualitätsstandards einzuführen und einzuhalten.

00:21:44: Also ich glaube, dieses Thema KI Governance klingt immer sehr langweilig und trocken, aber ich glaube es ist was, das immer entscheidender wird.

00:21:50: Was im Ende auch dazu führt dass die Entscheidungen getroffen werden dienstückweit auch konsequent ähnlich sind.

00:21:56: Also vielleicht noch als letzte Anekdote, wir hatten Fokusgruppen geführt in der Forschung und uns haben zum Beispiel Entwicklerinnen erzählt dass sie grundsätzlich mehr gemerkt haben die Daten sind nicht optimal aber sie haben keine Zeit mehr bekommen um das zu verändern.

00:22:08: es wurde nicht priorisiert und hier hat am Ende dann quasi die Projektleitung gesagt machen wenig.

00:22:11: wenn du jetzt eine KI Governance hast und da gibt's gewisse Standards und da wird... Da ist einfach Thema wie schauen auf Bias und Daten und auf Repräsentanz und solche Dinge verpflichtend dann kann das auch nicht eine Projektleitung, wenn keine Zeit ist runterpräduzieren.

00:22:24: Ich glaube so was müssen wir einführen wie wir es für ganz viele andere Produkte und Projekte und Dienstleistungen ja auch haben.

00:22:30: Vielen Dank!

00:22:30: Ja absolut.

00:22:31: und also den letzten Punkt, den du gesagt hast, finde ich super wichtig weil ich finde auch Governance oder Center of Excellence, wie man's alles nennt wird, das klingt erstmal immer so öh aber am Ende brauchen wir ja alle Beteiligten in den Rahmen.

00:22:44: Ohne den Rahmen weiß ja auch niemand so richtig, was kann ich jetzt tun?

00:22:47: Was darf ich tun?

00:22:48: Das wird auch von mir erwartet.

00:22:49: Und das ist so wichtig!

00:22:51: Sonst lassen wir alle wieder alleine.

00:22:53: Dann ist es diese Selbstüberlassung und dann ist natürlich klar dass manche gar nichts damit machen.

00:23:00: Manche vielleicht auch Dinge damit tun die gar nicht gewünscht sind usw.

00:23:05: Deswegen ja super spannend und ich fürchte, dass wir jetzt machen müssen.

00:23:09: Nachlagen haben wir schon super viel Zeit verbraucht haben aber du sprichst ja bald bei uns in zwei Wochen auf unserer Strategie und Netzwerk-Tagen haben wir bestimmt nochmal Zeit zu schnacken.

00:23:19: Leider in Anführungsstrichen im Protokoll weiter glaube ich was haben wir noch nie?

00:23:24: Ja Also ich hänge hier noch in so ein paar Themen, also was ich halt total spannend finde ist halt diese Facette.

00:23:34: Wer bekommt Zugang zur KI?

00:23:38: Weil es darüber natürlich irgendwie gewisserweise auch... Ich sag mal, ich weiß nicht ob's unbedingt betriebsrelevant ist aber das ist schon halt dann irgendwie definitiv ein Thema.

00:23:50: Was natürlich auf den großen Hersteller wie Andy in die Händelspiel sozusagen, wo man sagt okay jetzt wollte alle bekommen und so weiter und sofort.

00:24:00: Aber das spricht natürlich schon was auch dafür.

00:24:02: oder wie schätzt du das ein?

00:24:05: Also ich glaube absolut, dass da etwas dafür spricht.

00:24:07: Ich glaube... Dass wir schon auch überlegen müssen, braucht wirklich jeder jetzt kompletten Zugang.

00:24:12: Und wie gesagt, auch wieder dieses Thema müssen wir für alles KI nutzen weil am Ende das ja trotzdem auf viele Ressourcen verbraucht und ich glaube dass es auch wieder was mit dem müssen wir uns schon beschäftigen wenn wir jetzt wirklich für jede Klein-Tas-KI nutzen wo vielleicht einfach eine kurze Google Anfrage also oder auch keine KI... Also nein!

00:24:27: Ich denke das ist schon auch etwas.. Das muss sich glaube ich ein bisschen austarieren.

00:24:30: Ich glaube das ist auch im in den Lerneffekt.

00:24:32: wo nutzt man's jetzt wirklich sinnvoll?

00:24:34: Ich war vor kurzem bei einem ja, örtlich ansässigen Unternehmen als ich hier in Nürnberg.

00:24:39: Genau da haben wir auch über das Thema Zugang gesprochen und die Person, die dort gerade Chef BT einführt oder Co-Pilot also die dafür verantwortlich ist, hat gemeint sie haben da auch Gespräche darüber geführt und am Ende hat es sie zum Beispiel gesagt also aktuell ist bei denen eben auch so man muss ein bisschen verargumentieren warum kriege ich Zugang?

00:24:56: wer kriegt Zugang?

00:24:57: Und Sie hatte gesagt es kriegen auch auf Führungskräfte natürlich einen Gender Gap dabei!

00:25:01: Sie meinte so naja eigentlich wäre es doch zb besonders wichtig für Mütter in Teilzeit dass die so einen Zugang haben, weil die haben weniger Zeit.

00:25:08: Die müssen viel mehr schaffen.

00:25:09: also oft ist ja nicht so das du wenn du in Anführzeichen nur zwanzig Stunden arbeitest nur die Hälfte an Aufgaben hast sondern du hast ganz ganz viel zu schonglieren und es eigentlich gerade solche Personen doch den Zugang mehr bräuchten.

00:25:21: Das ist bisher nicht der Ansatz den ich sehe im Unternehmen aber ich glaube solche Denkanstöße mal zu setzen ist wichtig.

00:25:28: Ich glaube am Ende muss jedes Unternehmen dann für sich auch ein Stück weit entscheiden wie machen wir das?

00:25:31: Ich glaube auch dieses Thema Kompetenz was ihr auch angesprochen habt ist da extrem wichtig auch die richtigen Skills mit an die Hand.

00:25:38: Wofür sie das nutzen, wofür Sie sinnvoll nutzen?

00:25:41: Aber ich glaube wirklich mal diesen Denkanstoß zu setzen hey wer hat denn vielleicht am wenigsten Zeit, wer bräuchte das dann vielleicht ganz besonders?

00:25:47: und wie können wir auch dann sicherstellen dass diese Personen auch die Kompetenzen haben um was zu tun?

00:25:52: weil sie vielleicht eben eigentlich auch weniger Zeit haben jetzt extra Schulungen zu besuchen, weil es müssen wir ja auch sagen Personen die ja eh schon weniger arbeiten, die vielleicht auch weniger Möglichkeiten haben überstritten zu machen.

00:26:02: Die können auch vielleicht weniger in freiwillige Schulungen rein.

00:26:05: Also ich glaube das ist einfach eine ganz wichtige Frage.

00:26:07: da gibt es glaube ich kein ganz klares.

00:26:09: so müssen wir's machen.

00:26:10: aber es müssen Unternehmen sich anschauen weil sonst verlieren weder Personen und das sind ja im Endeffekt die wir brauchen

00:26:16: Ja total Und da könnten wir natürlich auch noch mal komplett wieder reinbiegen.

00:26:21: Was wir jetzt merken, ist das dieses ganze Thema Schulung wie trainiere ich überhaupt?

00:26:27: Wie befähige ich denn eigentlich, dass sich das ja auch nochmal komplett wieder ändert?

00:26:31: Es geht ja bei der KI ganz viel darum einfach beruhigungsängst abzubauen und zu tun und so weiter und sofort.

00:26:38: Man kann kein Video

00:26:40: durchklicken

00:26:42: selber.

00:26:43: Das sind gar nichts.

00:26:46: Da braucht es ja eben auch entsprechend Vorbilder und so weiter, sofort.

00:26:49: Also sind wir dann nochmal in ganz anderen Themen was hier aber auch noch mal total Interess hat.

00:26:55: Das war nicht glaube ich auf diesem Wege kann man da eben auch für mehr Gerechtigkeit halt in jeder Art und Weise halt entdecken sorgen.

00:27:04: Wir haben jetzt halt ein bisschen drauf geguckt, waren jetzt im Unternehmen hatten schon ein paar Themen wo Wir ja auch gesehen haben gewisse Risiken bestehen durch den Einsatz von KI.

00:27:19: Hast du denn vielleicht auch noch mal ein paar Beispiele, wo du sagst es ist aber auch das Gegenteil der Fall?

00:27:23: Ja also hier werden auch Dinge besser durch KI und jetzt halt nicht nur in dem... Na klar, jeder kennt das bei Social Media und wo man wie denkt er so einen Mist was da halt immer hochgepusht wird und wie schlechte Dinge verstärkt werden usw.

00:27:42: Aber hast du vielleicht auch Gegenteilige Erfahrungen, Beispiele?

00:27:45: Ja voll.

00:27:46: Also ich finde Beispile grundsätzlich total wichtig.

00:27:47: also auch wenn ich Vorträge halte oder auch in meinem Buch habe ich auch einige negativ Beispiele weil das ist immer was Was, glaube ich sehr hilfreich ist um Personen die Elevanz aufzuzeigen.

00:27:56: Also Beispiele finde ich super aber ich habe natürlich auch positive Beispiele.

00:28:00: Ich würde sagen grundsätzlich, der hat manchmal so gefragt ja glaube ich denn es sich jetzt hier Meta und Google feministisch machen kann so nein das leuchtet durch nicht.

00:28:07: also ich glaube jetzt nicht dass die weil ich sage feministische KI wäre gut dass das die jetzt plötzlich da ihr gesamtes als.

00:28:13: ich meine das ist ja auch ein Unternehmens Philosophie und Werte, die dahinter stehen.

00:28:18: Aber es gibt, würde ich sagen viele kleinere NGOs teilweise GGMBHs aber auch wirklich richtige Unternehmen, die KI bauen um Dinge zu verändern.

00:28:29: Und ein Beispiel wäre von der GGM BH MyProtectify, die im KI-System entwickeln einen Board, ein Hilfe-Board heißt Maya und errichtet sich an Personen, die von häuslicher Gewalt betroffen sind oder von sexualisierter Gewalt insbesondere Frauen ist quasi ein Tool, was erstmal auch keine Schuldzuweisung geben soll.

00:28:49: Weil tatsächlich viele Personen die betroffen sind oft dann so ein bisschen zu hören bekommen warum bist du denn geblieben?

00:28:55: Warum hast du nichts gemacht?

00:28:56: Also eher so gleich dieses Blaming was natürlich am Ende gar nicht weiter hilft.

00:29:01: also es soll erst mal Gesprächspartnerin sein, die quasi das nicht tut sondern Informationen bereitstellt und zuhört aber auch in Notsituationen helfen kann.

00:29:10: Und ich finde, das ist schon mal so ein schönes Beispiel dafür wie am Ende auch hier ein Hilfsangebot geschaffen werden kann weil einfach die Strukturen, die es gibt, die Hilfs-Angebote oft einfach überlastet sind und es da nicht genug gibt.

00:29:20: und hier KI einzusetzen, dass auch irgendwie anonym läuft und so ist schon einmal glaube ich total gut.

00:29:26: Ein anderes Beispiel, wir haben ja ganz viele Gaps in Unternehmen.

00:29:28: Sei es Gender Pay Gaps, sei es Gap in Bezug auf Karrierechancen und so weiter.

00:29:33: Und das sind natürlich nicht nur Gender Gaps sondern es sind Gaps auch vielleicht im Bezug Auf Alter Menschen mit Behinderung und Herkunft.

00:29:43: Es gibt ein System, das heißt Fair Solution.

00:29:45: Das kommt auch aus der Wissenschaft und ist ein KI-System, was entwickelt worden ist um solche Gaps eben zu finden in Organisationen die analysieren Unternehmensdaten und machen dann quasi diesen Unternehmen auch transparent.

00:29:58: wo gibt es diese Probleme?

00:29:59: Und da sind eben auch Intersexe nahe nicht nur im Bezug auf Gender sondern auch im Bezug auf verschiedene andere Faktoren und geben dann auch quasi Hilfestellungen.

00:30:07: Was könnt ihr tun um diese Gaps zu schließen?

00:30:09: Zum Beispiel Frau Herzki, ich habe vorhin Medizinbereich angesprochen.

00:30:13: Wir wissen das wir zum Beispiel von vielen Krankheiten auch bei vielen Medikamententests eher die Symptomatiken von Männern kennen, dass ganz viele Daten im Bereich Medizin haben eigentlich männliche Daten sind und ganz viele Symptomatiken bei Frauen gar nicht bekannt sind und auch gar nicht wirklich geschult werden im Medizinstudium.

00:30:30: Das bedeutet, dass wir am Ende Frauen leben zwar länger aber oft zu schlechterer Gesundheit als Männer Genau.

00:30:37: Und tatsächlich werden viele Diagnosen auch viel zu spät gemacht und ein Bereich ist Herzkerkrankungen, tatsächliche Erkrankung.

00:30:43: zum Beispiel Männer zwar deutlich häufiger an Herzinfarkt aber werden besser behandelt und tatsächlich sterben deswegen sogar mehr Frauen in Herzinfakten obwohl sie seltener betroffen sind weil sie nicht richtig diagnostiziert werden, weil sie spät behandelt werden.

00:30:58: Und Frau HerzKI ist ein KI-System was in Bayern entwickelt wird und das soll quasi Ärztinnen dabei helfen der weiblichen Herzinfakte früh zu diagnostizieren.

00:31:06: Genau, also auch hier wird quasi versucht ein bestehendes Problem in unserer Gesellschaft anzugehen.

00:31:11: Und vielleicht noch eine ganz anderes Beispiel wenn wir jetzt einen Judge-Petit denken und da die Verwendung... Hier wirklich habe ich vorhin schon gesagt Sprache hinterfragen.

00:31:21: Schauen hab' ich den Prozess mal beschreiben und sagen hey wer ist vielleicht benachteiligt?

00:31:26: Also auch das natürlich was wir als User ihnen tun können.

00:31:28: Wir haben jetzt gerade nicht selbst ein KI System entwickeln.

00:31:31: Wirklich auch solche Systeme nutzen um eigene Bereiche zu hinterfragen.

00:31:37: Ich glaube, das ist auch was, was wir alle wirklich tun können.

00:31:39: Coole Beispiele vielen Dank!

00:31:40: Also ich hatte keins davor und ich werde sie mir mal lernen gucken.

00:31:46: Das ist ja wieder das Schöne, dass man die Lücken, die man so sieht, dann wieder füllen kann durch entsprechende Anwendungen.

00:31:52: Auch wenn er immer darüber zu hören, man oft denkt, warum es überhaupt nötig ist?

00:31:56: Aber das ist eine andere Diskussion sozusagen.

00:32:00: Vielleicht noch als eine der letzten

00:32:02: Fragen,

00:32:03: wie schaust du denn auch noch auf andere Akteuren in dem Feld?

00:32:06: Also wenn wir über die Politik, über Unternehmen haben wir jetzt gesprochen.

00:32:09: Bisschen auch über uns als Nutzer aber auch so politische Rahmenbedingungen.

00:32:13: Siehst du da auch noch ne Verantwortung?

00:32:15: Hast du da noch Wünsche, Appelle?

00:32:17: läuft das schon was gut aus deiner Sicht?

00:32:20: Ja, ich glaube es ist eine sehr wichtige Frage.

00:32:22: Ich habe mich da in meiner Forschung auch mit beschäftigt und auch mein Buch gehe ich drauf ein.

00:32:26: Wir hatten so genanntes Framework entwickelt.

00:32:28: also wir haben quasi gesagt okay bestehende Machtstrukturen in der Gesellschaft aber auch Ingotationen haben eben dann einfach auf die KI-Entwicklung und am Ende auf die Ergebnisse von KI.

00:32:37: Also das wird eigentlich schon weil das verstärkt was da ist und das Problem ist dass halt unsere Macht einfach nicht gerecht verteilt ist.

00:32:42: und im Aktuell haben jetzt Also kommen Sie sich gerade davon aus, dass sich das alles in weniger Zeit auflöst und deswegen KI was Gerechtigkeit reproduzieren kann.

00:32:52: Das heißt die Frage ist ja eigentlich, was muss man ändern im Bereich der KI-Entwicklung im KI Einsatz?

00:32:57: Ein wichtiger Punkt ist natürlich der Kontext also auch mit einem regulatorischen oder politischen Kontext Und ich denke, dass wir haben ja hier eine KI-Regulierung auf EU-Ebene die jetzt auch Schritt für Schritt eingeführt wird.

00:33:07: Jetzt aber etwas verspätet.

00:33:10: also die Hochrisikokaisysteme werden jetzt doch etwas später reguliert als eigentlich jetzt August diesen Jahres geplant war weil einfach viele Strukturen noch nicht da waren.

00:33:19: Ich denke es ist ein guter Schritt in die richtige Richtung das wir KI regulieren Gibt es natürlich auch viel Diskussion darüber, ist das jetzt schlecht für die Innovation und so weiter?

00:33:27: Aber ich glaube auch wenn ich das mit Unternehmen gesprochen habe viele haben gesagt wir brauchen eigentlich auch hier Regelungen.

00:33:32: Wir wollen wissen an was müssen wir uns halten und also ich glaube deswegen ist das grundsätzlich ein guter Schritt.

00:33:38: Feministisch ist die Regulierung glaube ich nicht, aber das ist auch wahrscheinlich zu optimistisch gedacht.

00:33:42: Wenn wir jetzt auch ins U-Parlament schauen und in die deutsche Regulierung, die ist eben nicht unbedingt vollumfänglich feministisch wenn ich es mal vorsichtig formuliere... Ich glaube es ist gut dass es so einen Schritt gibt und eben so Risiko basiert darauf geguckt wird wie es da einfach auf Menschen und was können wir hier tun?

00:33:57: Genau, wahrscheinlich reicht das nicht aus.

00:33:58: Aber wie gesagt ich glaube es ist da.

00:34:00: wir haben jetzt ja auch gesehen wenn wir jetzt auch an sowas wie Deepfakes denken rund um den Fall um Kulin Fernandes Christian Ulmen dass auch hier die Regulierung in Bezug auf deepfake pornografischen Content noch mal verschärft worden ist auch auf EU-Ebene verscherft wird in Deutschland.

00:34:14: Ich glaube das sind ganz wichtige Gesetze.

00:34:16: dann die müssen wir ran weil einfach ganz ganz massive Gewalt hier verstärkt werden kann Und ich denke, wir werden das immer mehr sehen.

00:34:23: Ich glaube auch im Bereich Social Media ist hier noch viel zu tun.

00:34:26: Da sehen wir jetzt ja auch gesetzte Initiativen Australien die zum Beispiel für Minderjährige das Einschränken um eigentlich Plattformen zu regulieren und ich denke dass es am Ende das was wir tun müssen Wir brauchen da einfach Regulierung weil das sind alles große kapitalistische Unternehmen Die extrem unsere Demokratie verändern und beeinflussen und ich glaube da braucht es Regulierungen genau.

00:34:45: Ich glaube, Organisationen können und müssen auch etwas tun.

00:34:48: Auch hier können wir Macht anders verteilen, Hierarchien abbauen.

00:34:52: Wir haben jetzt viel über Kompetenzen gesprochen.

00:34:54: Wir brauchen einfach eine gewisse Kultur in der auch so dies ausprobieren möglich ist und wenn wir ein extrem patriarchales kapitalistisch unternehmen haben, wo nur Profit zählt dann wird auch Nachhaltigkeit in der KI keine Rolle spielen würde ich mal sagen.

00:35:10: Deswegen auch das ist was sicherlich den Kontext beeinflusst.

00:35:14: Genau dann können wir natürlich als Menschen was tun, als Nutzende.

00:35:18: Und ich glaube hier ist es auch immer wichtig zu hinterfragen wie gesagt was steckt da drinnen?

00:35:22: Eigene Beise hinterfragend.

00:35:24: also ich glaube das hängt auch ganz viel mit eigenen Privilegien zusammen.

00:35:27: sich selbst hinterfragen Das ist sicherlich ein wichtiger Punkt und am Ende sehe aber auch Medien als einen wichtigen Bereich.

00:35:36: Ich war gestern auch eine Veranstaltung und da haben wir zum Beispiel auch drüber gesprochen, dass wenn wir jetzt über so Berichterstattungen nachdenken sowas wie jetzt auch Frau wurde vergewaltigt dann ist das ja auf eine passive Sprache es nicht man fall gewaltig Frau sondern frau wurde vergeweitet.

00:35:50: und ganz viel Sprache die am Ende unser Denken mit schärft.

00:35:53: und diese Art und Weise der Bericht erstattung glaube ich hat eben auch einen riesen Einfluss und auch hier ein Stück weit auch positive Beispiele gucken also auch nicht nur immer Schlimmste Berichten, sondern vielleicht eben auch gerade... Du hast gesagt die Beispiele kanntest du nicht.

00:36:06: Es gibt tatsächlich viele coole Beispiele aber es ist vielleicht auch weniger spannend über die zu berichten.

00:36:10: ich weiß das nicht.

00:36:10: aber ich darf auch hier Auf Risiken hinweisen, aber auch nicht.

00:36:14: Ihr habt vorhin gesagt es geht natürlich auch viel darum im Bereich Kompetenz Ängste abbauen weil eben auch viele ängste geschürt werden und ich glaube auch das ist was.

00:36:21: also ich sehe auch Medien ganz stark in der Pflicht in der Verantwortung hier verantwortungsvoll zu kommunizieren.

00:36:26: und vielleicht als letzter Punkt die Wissenschaft.

00:36:28: auch hier denke ich müssen wir darauf achten dass wir jetzt nicht nur Forschung betreiben für Unternehmen wie kann etwas effizienter werden?

00:36:35: sondern auch hier unterfragen Wie können wir eigentlich KI System mit entwickeln?

00:36:38: Die Nachhaltiger funktionieren und am Ende gerechter

00:36:41: Ja.

00:36:42: Wer?

00:36:44: Eva, wem folgst du denn so?

00:36:47: Also welche Expertinnen sozusagen inspirieren dich denn in deinem Feld?

00:36:52: oder wen rufst du an wenn du auch mal irgendwie Sparring brauchst?

00:36:56: oder gibt es da nochmal Personen die du hier aus einem kleinen Shoutout geben kannst?

00:37:02: Ich glaube, ganz unterschiedliche Personen.

00:37:04: Ich bin in so vielen verschiedenen Kontexten unterwegs also meiner Wissenschaft mal irgendwie Unternehmen und Gründung deswegen ganz unterschiedlich.

00:37:13: aber wen ich welche Arbeit ich toll finde oder welche Arbeit am Ende auch viel bewirkt hat Auch im politischen ist Christina Lundz zum Beispiel die auch sehr viel feministische Außenpolitik sich eingesetzt hat.

00:37:23: Das ist ein aktuell wieder Bereich der leider jetzt ein bisschen netten runter fällt weil ja auch Alalina Baerbock und diese grüne Arbeit nicht mehr vorhanden ist.

00:37:30: Aber ich glaube, die hat auch wirklich richtig tolle Bücher geschrieben und ist da eine... ein großes Vorbild im Bereich auch wirklich über Feminismus zu sprechen.

00:37:38: Ich glaube, das ist sehr cool!

00:37:40: Dann kenne ich coole Forscherinnen oder ForscherInnen.

00:37:43: Ich habe mit Sofito Per zusammengearbeitet und es ist eine kanadische Forscherin.

00:37:47: Joy Boulambini ist ne ganz tolle Frau die sich auch einsetzt KI-gerechter auch gerade in Bezug auf weniger Rassismus zu machen.

00:37:55: Das ist auch vom MIT also ist auch ne ganz Tolle Frau.

00:37:58: hat auch einen Buch geschrieben an Masking AI Genau und sonst wenn ich Fragen hab Ja, Mann und Co-Founder.

00:38:08: Ich spreche auch oft mit einer Freundin, die heißt Doktorin Miriam Zapptie ist Doktor in für gendergerechte Sprache.

00:38:16: Auch mit der reflektiere ich immer ganz viel.

00:38:18: deswegen ist glaube ich kommt sehr auf den Kontext an aber ich glaube es sind oft eher nicht die großen Namen sondern eigentlich eher Personen meinem Umfeld die mir ganz viel weiterhelfen.

00:38:27: Schön!

00:38:28: Ja, ganz lieben Dank.

00:38:30: wenn du das nochmal in eine nutshell zusammenfassen würdest was würdest du sagen?

00:38:33: Was sollen die Leute mitnehmen heute?

00:38:35: KI ist nicht neutral und ich glaube wir sollten sie auch nicht so verwenden, sondern wir sollten eher überlegen.

00:38:41: Also aktuell ist es sehr oft so dass KI bestehendes reproduziert und deswegen nicht gerechter macht und deswegen sollte mir eher darüber nachdecken wie können wir sie feministisch?

00:38:50: Wie können wir Sie explizit nutzen um was zu verändern und das können wir tun und ich glaub die Verantwortung haben wir auch und das möchte ich das Person mitnehmen.

00:38:57: also hinterfragt KI und hinterfragt auch euch wie könnt ihr sie nutzen um etwas zu ver ändern?

00:39:02: Eva, vielen lieben Dank für deine Zeit.

00:39:03: Ich fand's so cool!

00:39:05: Also ich glaub wir hätten locker noch eine Stunde weiter reden können.

00:39:09: Danke für deinen Expertise das ihr die Zeit genommen hast und ich freue mich jetzt umso mehr dich bald auch hier persönlich mal bei uns begrüßen zu dürfen.

00:39:15: Danke dir!

00:39:16: Ich freu' mich auch sehr, vielen dank, danke schön!

00:39:25: Ja, Nis, wir haben mit Eva gesprochen.

00:39:26: um nochmal den ganzen Titel hat sie sicher für die Dr.

00:39:30: Eva Gengler richtig coole Folge wie ich finde.

00:39:34: Was nimmst du so mit?

00:39:35: Also ich nehme mit, dass wir selber eine Hand haben.

00:39:38: Aber das es eben auch notwendig ist sich auch zu überlegen wie ich jetzt KI halt tatsächlich einsetzen will.

00:39:49: Einige Dinge hat das halt irgendwie bestärkt.

00:39:51: also ich glaube auch diese Diskussion noch mal über die Gerechtigkeit reinzubringen Auch bei der Anzahl oder bei der Auswahl auch den Menschen die halt dann eben entsprechende Wenn unser Pfeil ja häufig Co-Pilot Lizenzen bekommen, ist eine wirsicherlich halt auch ein spannendes Thema.

00:40:09: Und irgendwie etwa auch noch mal Aspekte.

00:40:12: wie kann ich es selber auch für mich nutzen um da einen paar Bereiche noch sensibler zu werden?

00:40:18: Also das habe ich so für mich mitgenommen und du?

00:40:21: Ja ähnlich!

00:40:24: Wir haben das ja am Anfang so gemacht oder dann immer.

00:40:26: nur also... Wir haben natürlich das alles sehr gut aufgesetzt bei uns und man kann sich die Lizenz selber anfragen.

00:40:32: Und so muss auch immer mal wieder bestätigen, dass man bestimmte Lizenzen auch nutzt Und auch da haben wir einen Feld, wo man so kurz begründen muss.

00:40:40: Also ehrlicherweise reicht er bei uns... Ich bin Beraterin, deswegen brauche ich das!

00:40:44: So dass es jetzt keine krassen... Da musst du kein Business Case rechnen und dann noch haben wir ja trotzdem eine Hürde eingebaut und ich weiß schon mal bei einigen Kunden von uns, dass das eben dann eben auch so läuft, dass man das gut begründen mußt und ich kann das auch nachvollziehen aus jemandem der natürlich das entscheiden auch in gewissen Budget hat.

00:41:02: Aber das werde ich mir auf jeden Fall nochmal, das hätte ich auch noch mal sicherlich teilen hier diese Erkenntnis hey.

00:41:08: Trotzdem auch noch einmal auf die Zielgruppe im Unternehmen zu gucken also gerade mit arbeitenden Teilzeit Das hatte ich so noch gar nicht gesehen und es ist ja so logisch Also dass da nicht aussersehen wie der Gruppen runterfallen die eigentlich erst recht profitieren.

00:41:24: uns hat mir noch Mal was völlig anderes aufgemacht im Kopf.

00:41:29: Voll cool, dass ich so viele Beispiele dabei hatte.

00:41:31: Das finde ich einfach auch immer mega.

00:41:33: und ja wo viel Licht ist, es ist viel Schatten und umgekehrt ne?

00:41:37: Und wie du sagst das liegt an uns und mit mir resoniert total nach nochmal über.

00:41:42: hätte ich Bock eine Folg-Podcastfolge mal zu machen, nee ist wirklich auch noch einmal wieder das Thema Sprache Und wie man hier, was es für Auswirkungen hat auch medial.

00:41:52: Allein diese Überschriftenthematik die sie genannt hat und so.

00:41:55: Also das können wir da vielleicht auch noch mal von lernen.

00:41:57: Was können wir dann auch tun?

00:41:59: Kann glaube ich auch nochmal eine schöne Folge sein weil sich da selber ein kleines Korrektiv zu bauen mit den Mitteln die wir haben

00:42:08: ist ja nicht so schwierig.

00:42:11: Ja, gut.

00:42:12: Ich freue mich auf jeden Fall auf unsere Veranstaltung.

00:42:14: Wir sehen Sie ja bald kurzweilig.

00:42:18: Sehr gut!

00:42:18: Absolut.

00:42:19: Dann machen wir mal weitern jetzt, ne?

00:42:21: Bis dann!

00:42:22: Ciao.