00:00:05: BTO Beyond Servius, der Ökonomie-Podcast mit Dr.

00:00:09: Daniel Stelter.

00:00:11: Featured bei Handelsblatt.

00:00:15: Hallo und herzlich willkommen zur neuen Ausgabe meines Podcasts!

00:00:19: Ich freue mich sehr dass Sie auch in dieser Woche wieder dabei sind.

00:00:23: Thema heute künstliche Intelligenz.

00:00:26: Und nicht nur das sondern auch Ethik Wirtschaftsethik.

00:00:30: Wir kombinieren das um zu diskutieren was ist eigentlich die Ethik der künstliche Intelligenz.

00:00:37: Kann man mit ethischem Maßstäben, mit der KI umgehen?

00:00:41: Sollte die Ethik Input geben zur KI, zur KI-Programmierung zu den Präferenzen, die dort hinterlegt

00:00:49: sind?".

00:00:50: Ich finde es eine hochregelante Frage gerade angesichts der aktuellen Anführungsstrichen Skandale oder Schlagzeilen, die die KI produziert.

00:00:59: Es lohnt sich das genauer anzuschauen.

00:01:01: ist es relevant nicht nur für jene, die gerne sagen Lass uns die KI mal regulieren.

00:01:07: Es ist auch relevant für jene, die sagen, lass uns die AI möglichst intensiv

00:01:11: nutzen.".

00:01:13: Das diskutieren wir heute und natürlich auch die Rahmenbedingungen, die in Deutschland und Europa herrschen müssten um bei der Entwicklung der künstlichen Legenz überhaupt noch eine Rolle zu spielen.

00:01:24: das Ganze ist wie ich finde hochaktuell hochrelevant.

00:01:28: Ich find's auch spannend!

00:01:29: Ich hoffe sie auch.

00:01:30: fangen wir also

00:01:32: an.

00:01:47: In den vergangenen Wochen überschlugen sie die Nachrichten zum Thema Künstliche Ligenz.

00:01:52: Hören wir auch mal hinein!

00:02:00: Im Protokoll taucht ein Befehl auf ID, gleich danach ein weiterer ENV.

00:02:07: Der eine Befehl fragt ab wer ist hier angemeldet.

00:02:10: der andere fragt was läuft hier?

00:02:13: Dieser Computer gehört dem New Yorker Unternehmen Hugging Face und steht in der Amazon Cloud.

00:02:19: Wer diese Befehle absetzt, kein Mensch!

00:02:21: Es ist ein KI-System von OpenAI das in einer Testreihe Sicherheitslücken finden sollte.

00:02:27: Um vierzehn Uhr elf fließen die ersten Daten ab.

00:02:31: Um fünfzehn uhr sechsunddreißig steht eine Fernsteuerung.

00:02:35: Der Computer isst unter fremder Kontrolle.

00:02:44: Am Abend holt sich das System die höchsten Rechte und räumt die Zugangsschlüssel zum gesamten Rechner verbunden.

00:02:51: Damit meldet es sich im Firmenetz an, wie ein Mitarbeiter von zu Hause aus das tun würde.

00:02:57: HGingFaces eigenes Sicherheitssystem hat den Angriff längst bemerkt und niemand hat den Bereitschaftsdienst geweckt.

00:03:03: Der Elfte und der Zwölfte Juli sind Samstag und Sonntag.

00:03:07: Es ist Wochenentruhe!

00:03:14: Das System sieht ein letztes Mal nach, welche Datei es abgelegt hat und auf welchem Rechner es sitzt.

00:03:21: Dann kappt das Sicherheitsteam den Zugang.

00:03:23: um vierzehn Uhr vierzehnt steht der letzte Eintrag.

00:03:29: Hagen-Face macht ihn voll öffentlich.

00:03:32: Wer eingebrochen ist weiß im Moment noch niemand.

00:03:35: Firmenschef Clem de Long teilt schriftlich mit man habe den Angriff abgewährt bevor fremde Menschen auf das System hätten zugreifen können.

00:03:44: Es waren nur keine Menschen.

00:03:46: Fünf Tage lang weiß Huggingface nicht, wer tatsächlich eingebrochen ist und OpenAI weiß nicht, dass der eigene Test das alles ausgelöst hat.

00:03:59: OpenAI räumt ein, dass es die eigenen Computermodelle waren, um

00:04:06: das Sandbox zu brechen, die Internetbewegung zu bekommen und dann durch viele Systeme auf der Hubschraube nachzudenken.

00:04:27: Den Hergang haben die Sicherheitsleute aus siebzehntausend sechshundert Aktionen rekonstruiert, Vier-einhalb Tage Material.

00:04:35: Dabei verweigerten die amerikanischen Spitzenmodelle den Dienst weil ihre Filter nicht unterscheiden ob jemand einen Angriff baut was die Systeme verhindern wollen oder einen Angriff aufklären will was diese Systeme erlauben sollten.

00:04:48: Aufklären konnte Huggingface den Fall am Ende mit einem KI Modell aus Peking Ein Modell, das jeder herunterladen und auf dem eigenen Rechner zum Laufen bringen kann.

00:05:03: Sam Altman, Chef von OpenAI sagt in einem Podcast man müsse die Entwicklung womöglich verlangsamen damit die Gesellschaft nachkommt.

00:05:11: oder anders formuliert wir haben unsere Systeme nicht im Griff.

00:05:37: Und zum Ende dieser Woche hat Open AI's Eingeständnis dann noch eine Wirkung.

00:05:43: Am einunddreißigsten Juli ist es Atropik, der Hersteller des Konkurrenzmodells Claude, wurden sie dreimal fündig.

00:05:55: Dreimal sind Cloud-Modelle aus der Testumgebung ausgebrochen und in die Systeme fremder Organisationen eingedrungen, das erste Mal schon im April.

00:06:04: Keine der drei Organisationen hat etwas bemerkt – Anthropik auch nicht!

00:06:07: In jedem der drei Fälle hatte das Unternehmen dem Modell vorgegeben, in einer geschlossenen Simulation ohne Internetzugang zu arbeiten.

00:06:16: Das stimmte bloß nicht.

00:06:17: Der Fehler lag beim Sicherheitsunternehmen, dass die Testumgabung betrieben.

00:06:21: Das neuere Cloudmodell hat gemerkt, wo es wirklich ist und hat aufgehört weiterzumachen.

00:06:26: Das ältre Modell allerdings hat alles ignoriert und einfach weitergemacht.

00:06:31: Und gefunden hatte es enttropik nur weil OpenAI zuerst gesucht

00:06:35: hat.

00:06:38: Das sind in der Tat

00:06:39: wie ich finde

00:06:40: beeindruckende Beispiele was künstliche Ligenz kann.

00:06:45: Und dass man mir vorsichtig umgehen sollte.

00:06:47: Ich glaube daran besteht kein Zweifel!

00:06:50: Auf der anderen Seite Darf natürlich Gefahr laufen und KI überregulieren, wie wir das in Europa machen.

00:06:57: Denn dann können wir am Ende nur zuschauen was ein anderen Region entwickelt wird und müssen hinnehmen was von dort kommt ohne jegliche Einflussmöglichkeit.

00:07:08: Natürlich ist es naheliegend zuvor zu sagen lasst uns noch mehr regulieren.

00:07:13: Lasst uns den unhinschuhen bestehenden AI-Akt also die Regulierung der künstlichen Legenz auf Ebene der EU noch verschärfen.

00:07:21: Wir erinnern uns, der europäische AI-Akt ist bereits seit August zwanzig vierundzwanzig in Kraft und in diesem Sommer hat die EU-Kommission mit dem sogenannten Digital Omnibus die praktische Umsetzung nachjustiert.

00:07:37: Ich denke es lohnt sich nochmal ganz kurz den Zeitplan der EU in Erinnerung zu rufen.

00:07:43: Bei heute sollen die so natten Transparenzpflichten greifen.

00:07:47: Jedes KI System das man an natürlichem Person interagiert Shadboard, Sprachassistenten, Call Center KI muss sich als KI zu erkennen geben.

00:07:58: Generative KI muss das was sie produziert mit verschiedenen lesbaren Markern versehen und deepfakes müssen sichtbar gekennzeichnet werden.

00:08:08: ab Dezember gelten dann die neuen Verbote nach Artikel fünf.

00:08:12: erstens KI-Systeme die nicht Einverstandene intibe.

00:08:16: Bilder erzeugen sind verboten gemeinsam sogenannte New the Fire Apps.

00:08:22: Zweitens, KI-Systeme die Missbrauchsdarstellung von Kindern erzeugen sind ebenfalls verboten.

00:08:28: Ich denke da kann niemand dagegen sein!

00:08:31: Ab Dezember kommenden Jahres sollen dann volle Hochrisikoflichten für eigenständige Systeme im Personalauswahl Kreditvergabe Strafverfolgung Bildung und Grenzkontrolle eingeführt werden.

00:08:46: Das bedeutet Konformitätsprüfungen Qualitätsmanagement Technische Dokumentation CE-Kennzeichnung, menschliche Aufsicht und EU-Datenbankregistrierung müssen alle sichergestellt werden.

00:09:00: Und um August, im Jahr twenty- achtundzwanzig kommt dann die Hochrisikoflicht für KI, die in regulierten Produkten eingebaut ist – also Medizinkeräten, Maschinen-, Luftfahrt oder beispielsweise auch aufzügen.

00:09:13: Der Bußgeldrahmen für Verstöße gegen diese Regelungen ist erheblich.

00:09:18: Verstösse werden nach Artikel fünf mit bis zu fünfunddreißig Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes bewährt, je nachdem welcher Betrag höher ist.

00:09:31: Bereits Verstöße gegen Transparenz und Hochrisikoflichten führen zur Zahlung von fünfzehn Millionen Euro oder drei Prozent des Umsatzes.

00:09:41: Es gibt durchaus positive Seiten des AI Acts.

00:09:46: Welche sind das?

00:09:48: Zum einen schafft der Klarheit für die Endnutzer.

00:09:52: Wenn Chatbots sich als KI zu erkennen geben dann ist das, wie ich finde, durchaus konsumentenfreundlich.

00:09:59: Die Deepfake-Kennzeichnung denke ich jetzt ebenfalls richtig politisch und gesellschaftlich nicht nur in Wahljahren.

00:10:08: Das Verbot von Lacktbildern, die generiert werden oder auch Kinderbilder sind sicherlich weiterhin sich konsensfähig und technisch auch umsetzbar.

00:10:18: Auch

00:10:19: die Kategorie Riesiko ist grundsätzlich richtig – nicht jede KI Anwendung ist gleich riskant!

00:10:27: Und das verbindliche Konformitätsverfahren im Erhochrisikosystem, also Personalauswahl, Kreditvergabe Strafverfolgung schafft Vertrauen und Rechtssicherheit für die Anwender.

00:10:38: Das wäre das Plus!

00:10:40: Es gibt aber auch viele Seiten wo der AI-Ekt deutlich über das Ziel hinaus schießt.

00:10:46: Er reguliert Anwendungen und nicht Grundmodelle.

00:10:50: Die Vorfälle, die wir gerade eingangs dieses Podcastes gehört haben wären von dieser Regelung ohnehin nicht tangiert.

00:10:57: Das passiert nämlich nicht im Markt, sondern im Labor.

00:11:01: Darüber hinaus ist der AI-Ekt viel zu detailliert und statisch für eine Technologie ihren Fähigkeiten sich alle paar Monate sprunghaft verändern.

00:11:11: Noch schlimmer wiegt das der AI Ekt die Entwicklung für hiesige europäische Anbieter drastisch verteuert?

00:11:19: Anwaltskosten, Konformitätsprüfungen EU Datenbank Registrierung – dass alles kostet Geld und trifft natürlich die US-Unternehmen deutlich weniger als die Startups in Europa.

00:11:32: Die großen Konzerne werden hier bevorzugt, ein ganz klarer Nachteil des AI-Akts zu Lasten der deutschen europäischen Wirtschaft.

00:11:42: Hinzu kommt natürlich das AI-Act, dass grundsätzlich Problem nicht löst.

00:11:47: Wir regulieren – die Modelle haben die anderen!

00:11:51: Ohne eine Frontiermodelle ohne relevante Spieler Und vor allem ohne nennenswerte eigene Rechenzentrumsinfrastruktur kann Europa so viel machen wie es will, am Ende muss das nehmen was auf dem Weltmarkt produziert wird.

00:12:06: Das Ganze wird auch mit mehr Strafen belegt als die Verstöße gegen die sogenannte Datenschutzgrundverordnung und dies bei einer viel dynamischeren Technologie wo man gar nicht weiß was morgen passiert.

00:12:20: Hinzu kommt Es gibt einen erheblichen ökonomischen Preis der Internet seine Virusfonds bereits vor einiger Zeit berechnet.

00:12:29: Im IMF Work-In-Paper, im Jahr twenty-sevenundsechzig mit dem Titel Artificial Intelligence and Productivity in Europe rechnen die Autoren vor dass die KI bzw.

00:12:41: Regulierung der KI in Europa die Produktivitätsfortschritte durch KI deutlich senkt.

00:12:48: Unsere Simulationen deuten darauf hin, dass die KE die gesamte Faktor Produktivität in Europa über einen Zeitraum von fünf Jahren kombiniert um rund ein Prozent steigern könnte.

00:12:58: Wobei erhebliche Unterschiede zwischen den einzelnen Ländern bestehen.

00:13:01: Allerdings können nationale und auf EU-Ebene angesiedelte Regelungen zu beruflichen Anforderungen, KI-Sicherheit und Datenschutz diese Produktivitätsgewinne um weitere mehr als dreißig Prozent schmälern unter der Annahme dass die KI-Exposition bei regulierten Tätigkeiten um fünfzig Prozent reduziert wird.

00:13:20: Auf gut Deutsch!

00:13:21: Die IMF Ökonomen rechnen mit einem kumulativen Produktivitizgewinn von nur rund eins Prozent über fünf Jahre.

00:13:28: Das ist deutlich weniger als in den USA, was unterstreicht wie schwer wir uns in Europa tun mit der Verbreitung von KI.

00:13:36: Daraus könnte doch Stimme kommen!

00:13:38: Nationale und Eoregulierung könnten zu die Forscher diesen Zuwachs um weitere dreißig Prozent reduzieren – das heißt ein Drittel weniger von einem bereits kleinen Kuchen.

00:13:51: Zur Einordnung Die USA startet mit einem strukturell höheren KI-Produktivitätspotenzial Mehr Wissensarbeit, größere KI-Adoption, bessere Rechenzentrumsinfrastruktur.

00:14:04: Europa startet unten und reguliert sich davon noch einmal ein Drittel weg!

00:14:09: Das ist den ökonomischen Preis eines AI Act so wie er heute ausgestaltet ist.

00:14:16: Ich denke darüber müssen wir nachdenken.

00:14:19: Für mich ist die Zwischemelanz folgende Der AI Act ist nicht grundsätzlich falsch aber es schlecht gebaut.

00:14:27: Er schützt Verbraucher dort, wo es leicht möglich ist.

00:14:31: Er trifft aber die eigentliche Risiken nicht.

00:14:34: Er kostet vermutlich mehr an Produktivität als er in Sicherheit bringt und er verstärkt die Marktmacht der US Hyperscaler ihr eigentlich einhegen sollte.

00:14:44: Ein Punkt den übrigens Johannes Reck, der Gründer von Get Your Guide in unserem Gespräch in Folge vierhund eins auch gemacht hat.

00:14:52: Es bin absoluter Gegner von der europäischen Überregulierung!

00:14:56: Und während ich das

00:14:58: sage, bin ich auch der größte Befürworter der Big Tech-Regulierung.

00:15:02: Ich bin keinem Befürworter der Big tech Regulierung weil ich Regulierungen per se sehr gerne mag sondern einfach weil die wir gerade beschrieben haben dass enorm vertikal integrierte Monopole sind die Preissatzung betreiben können.

00:15:14: Das heißt dann konkret DMA.

00:15:16: auf jeden Fall halten übrigens auch damals einen kurzen Blick hinter den Vorhang.

00:15:22: Der wird mit enorm harten Bandagen gekämpft.

00:15:24: Also in den letzten drei Jahren sind die großen Big Tech-Unternehmen, die wir gerade schon beschrieben haben sehr stark auch mit der neuen US-Administration zusammen gegen Größere vorgegangen und haben gesagt pass auf wenn ihr uns nicht dereguliert und uns nicht größere Freiräume gibt dann werden wir höhere Zölle beispielsweise auf deutsche Autos erheben.

00:15:43: also das erfinde ich jetzt nicht dass es tatsächlich Diskussionen die dort stattfinden.

00:15:47: also da wird sehr aktive Industriepolitik von den USA in Richtung Europa gemacht, um uns eigentlich de facto zu einer digitalen Kolonie zu degradieren.

00:15:56: Was wir momentan ehrlicherweise auch

00:15:59: sind.".

00:16:00: Die Entwicklung und die Möglichkeiten vom KI werfen rundlegende ethische Fragen auf.

00:16:06: Und deshalb dachte ich mir es würde sich lohnen über die Ethik der KI mit einem Fachmann zu sprechen.

00:16:13: Bevor wir das machen

00:16:14: kurz

00:16:15: etwas zum Thema Ethik.

00:16:23: ist einer der ältesten Zweige der Philosophie.

00:16:27: Und seit dem Laufe der Jahrhunderte drei große Traditionen herausgebildet, die wir uns kurze Erinnerung rufen sollten um die heutigen Debatte einordnen zu können.

00:16:37: Die Ersttradition ist diese sogenannte Tugend-Ethik.

00:16:42: Aristoteles hat diesen vierten Jahrhundert für Christus begründet.

00:16:46: Zentralbegriff IST DIE TUEMD.

00:16:49: Die Ethik fragt hier Folgendes Wie muss sein Mensch charakterlich beschaffen sein?

00:16:55: damit er das gute Leben führen kann.

00:16:59: Zentrale Tugenden bei Austootele sind Klugeheit, Messigung, Tapferkeit und Gerechtigkeit.

00:17:08: Und die Antwort auf ein ethisches Problem ist die Erziehung zur richtigen Charaktereigenschaft.

00:17:14: Wenn wir Betrug verhindern wollen müssen wir Menschen zur Ehrlichkeit erziehen.

00:17:19: wenn wir wollen dass sie KI verantwortungsvoll handelt müssen wir entsprechend programmieren.

00:17:25: Wir müssen hier also Werte einpflanzen.

00:17:28: Die Zweiltradition der Ethik ist die sogenannte Pflichtenethik, begründet durch Immanuel Kant im achtzehnten Jahrhundert.

00:17:37: Demnach fragt Ethik nicht nach der Tugend des Einzelnen sondern nach dem was jede vernünftige Person tun müsste.

00:17:46: Das ist der berühmte kategorische Imperativ.

00:17:49: Handel nur nach derjenigen Maxime durch die du zugleich wollen kannst dass er ein allgemeines Gesetz werde.

00:17:57: Ihr Antwort auf ein ethisches Problem ist die Regel, einem Prinzip das ohne Ausnahme gilt.

00:18:04: Übertragen auf KI bedeutet das?

00:18:06: Wir müssen Regeln definieren, die für alle KI-Systeme gleichermaßen gelten!

00:18:12: Die dritte Tradition der Ethik ist der Konsequenzialismus beziehungsweise Utilitarismus.

00:18:19: Diese Tradition nennt man auch angesektusche Tradition und sie wurde im neunzehnten Jahrhundert von Jerry Bentham und John Stuart Mill begründet.

00:18:28: Hier fragt die Ethik nach den Konsequenzen, was ist die Handlung, die das größte Glück der größten Zahl bewirkt?

00:18:36: Nicht die Absicht zählt nicht der Charakter sondern das Ergebnis.

00:18:42: Übertragen auf KI müssen abwägen welche Regulierung maximiert den Nutzen für die Gesellschaft.

00:18:50: Und jetzt kommen wir zur Wirtschaftsethik.

00:18:53: Die Wirtschafts-Ethik ist eine relativ junge Disziplin.

00:18:58: Die Wirtschaftsethik hat lange darüber gestritten, welche der drei Traditionen den richtigen Zugang zu wirtschaftlichen Problemen bietet.

00:19:08: Die dominante Position an deutschen Wirtschaftsfakultäten kommt vom Ökonomen Karl-Hohmann.

00:19:14: Hohmann hat die sogenannte Ordnungsethik begründet.

00:19:19: und was geht es?

00:19:20: Die Überlegung ist folgender in einer moderne Marktwirtschaft ist es unrealistisch Ethik primär über Tugend-Appelle zu erreichen.

00:19:31: Der Tugenthaft handelt und dabei ein Markt zurückfällt, wird verdrängt.

00:19:36: Wer moralisch produziert und aber teurer ist als die Konkurrenz verliert Markdanteile.

00:19:42: Ethische Handlungen müssen deshalb durch Regeln und Anreize gestützt werden.

00:19:48: Der systematische Ort der Ethik ist demnach nicht die einzelne Handlung sondern die Rahmenordnung in der gehandelt wird.

00:19:58: Professor Christoph Lüttge von der TU München hat diese Position in seinem Buch Ethik des Wettbewerbs vor den Fallen XIV aufgenommen und weiterentwickelt.

00:20:08: Sein Kernbegriff ist die Unterscheidung zwischen Konkurrenz, regelos- und naturwürzig-, und Wettbewerb geregelt und institutionell eingebettet.

00:20:20: Ethik ist so gesehen die Frage nach den richtigen Regeln für den Wettbetrieb nicht nach der Tugend.

00:20:28: Mit Blick auf die Debatte nach dem Diesel-Skandal stellte Christoph Lütke in einem FAZ Beitrag folgendes fest.

00:20:36: Ethische Normen müssen durch Anreize stabilisiert werden, sonst verlieren sie Stellenwirkung.

00:20:42: Wir

00:20:42: brauchen realistischerweise Regeln für Ethik.

00:20:45: Ohne Sie kann auch die derzeit wohl wichtigste Herausforderung nämlich die Digitalisierung und Industrie IV.null nicht aktiv gestaltet werden.

00:20:55: Für die KI-Ausbrüche des Sommers twenty-sechzechsundzwanzig heißt das, wir sollten nicht fragen ob die KI Morale schandelt.

00:21:03: Wir sollten fragen in welchem Beregelsystem sie handelt.

00:21:07: welche Anreise sind gesetzt?

00:21:09: Welche Haftung greift?

00:21:10: Welcher unabhängige Prüfung findet statt?

00:21:13: Wer trägt Verantwortung wenn etwas schiefgeht?

00:21:16: Die Frage ist nicht wer erzieht die Maschine.

00:21:19: Die Frage isst wer setzt die Regeln und wer setzt sie durch?

00:21:24: Die prominenteste Adresse für diese Fragen ist das Institute for Ethics in Artificial Intelligence, kurz IEAI an der Technischen Universität München.

00:21:37: Gegründet wurde es Institut Zwei-Tausendneunzehn und mittlerweile arbeiten dort über dreißig wissenschaftliche Mitarbeiter an Fragen der KI Ethik im Medizin und Diagnostik beim Autonomen Fahren bei KI Anwendungen in Finanzmärkten bezüglich der europäischen Regulierungsdebatte.

00:21:57: Es ist wohl das führende KI-Ethik-Institut Europas.

00:22:02: Direkt als Instituts ist er bereits zitierte Professor Christoph Lütke und erst heute zu Gast in meiner Folge.

00:22:10: Mit ihm spreche ich generell über die Wirtschaftsethik, über die Frage wie ethisches Verhalten überhaupt in der Wirtschaft stattfinden kann und dann konkret über seine Sicht auf die Ethik der KI um Wasser von der Regulierung der EU hält.

00:22:26: Viele schauen beim Trading zuerst auf die Strategie, dabei wird oft vergessen dass auch die Ausführung selbst einen Unterschied machen kann.

00:22:34: also wie schnell wird ein Trade ausgeführt, wie eng sind die Spreads und wie direkt ist eigentlich der Marktzugang?

00:22:39: Genau an dem Punkt setzt Tradegate Direct an.

00:22:42: Die App richtet sich an aktive und erfahrene Trader die bewusst handeln und mehr Kontrolle über ihre Orders haben möchten.

00:22:48: Gehandelt wird direkt über die Tradegate BSX ohne externe Intermediäre zwischen Order & Börse.

00:22:54: Gerade bei häufigerem Trading spielen Themen wie Liquidität, Sprats oder Slippage eine größere Rolle als viele denken.

00:23:01: Deshalb setzt Tradegate Direct auf transparente Ausführungen professionelle Ordertypen und tiefe Performance-Reportings mit denen sich das eigene Trading detaillierter auswerten lässt.

00:23:10: Tradegate direct wurde bereits zweimal in Folge von Stiftung Barrentest als Kostensieger ausgezeichnet.

00:23:16: Dazu kommen lange Handelszeiten, von sieben Uhr dreißig bis zwanzig Uhr und dauerhaft kostenfreies Trading.

00:23:22: Marktübliche Spreads können natürlich anfallen.

00:23:25: Hinter der Trading App steht hier bei Lina TradeGate AG ein Unternehmen mit über dreißzig Jahren Erfahrung im Finanzmarktbereich Wenn Sie sich das anschauen möchten unter tradegate.direct finden Sie alle Informationen zur App und den Funktionen.

00:23:37: Den Link gibt's in den Show Notes.

00:23:50: Am kommenden Montag wird mein Kommentar im Handelsblatt zur Folge dieser Woche erscheinen.

00:23:56: Ich fasse darin zusammen, was mein Take-Away aus der heutigen Diskussion ist!

00:24:01: Wenn Sie das Handelsbrett gerne ausprobieren wollen haben sie jetzt eine gute Möglichkeit.

00:24:06: Es gibt noch vor einige Tage das Sommerspecial des Handelsplatzes.

00:24:11: Für zwölf Monate können Sie das handelsblad mit fünfzig Prozent Rabatt abonnieren.

00:24:16: Mehr Informationen finden Sie unter hannesbott.com.

00:24:20: schrägstrichrabat-fünfzig und wie immer auch ein Schoenot zu dieser Ausgabe, doch nun zum Gespräch mit Professor Christoph Lücker.

00:24:30: Prof.

00:24:31: Dr.

00:24:31: Christoph Lübcke ist Philosoph von Wirtschaftsinformatika, er hat den Lehrstuhl für Wirtschaftsethik an der TU München inne und es seit des Neugegründeten TUM Institute for Ethics in Artificial Intelligence.

00:24:43: Er war Mitglied der KI-Ethikinitiative AI For People des Europaparlaments sowie der Ethikkommission für automatisiertes und vernetztes Fahren beim Bundesministerium für Verkehr und digitale Infrastruktur.

00:24:56: Als Gastfestenschaftler war er unter anderem in Taipei, Kyoto und Stockholm sowie an der Harvard University tätig.

00:25:01: In den Jahren im Jahr zum Distinguished Visiting Professor der Universität Tokyo berufen.

00:25:06: Zu seinen wichtigsten Büchern gehören Wirtschaftsethik ohne Illusionen, Ethik des Wettbewerbs und Order Ethics or Moral Surplus.

00:25:14: Seine Position ist pointiert und marktfreundlich gegen die Ethik der Messigung für den Wettbewerber als ethisch produktives Prinzip aber immer innerhalb klarer Regeln.

00:25:24: Sehr geehrter Herr Prof.

00:25:26: Lütke, ich freue mich ausgesprochen, Sie mal Podcast zu grüßen zu dürfen.

00:25:29: Freue mich bei Ihnen so seine Städte!

00:25:32: Prof.Lütke... Ich bin ja Kaufmann und ich habe damals im Studium auch schon Wirtschaftsethik gelehrt bekommen wobei ich dazu sein muss.

00:25:40: Ich habe mich immer gefragt, braucht man das eigentlich?

00:25:42: Vielleicht fangen wir damit mal an weil ich mir dachte es dem Motto naja eigentlich weiß man doch wie man sich benehmen soll und so als Mensch.

00:25:49: und ist es nicht eigentlich sodass man sagt, dass die Motto benimm dich gut.

00:25:54: Dann ist es okay und wenn du nicht schlecht benimmst, ist es privaten schlecht wie auch in der Wirtschaft.

00:25:57: oder gibt's da wirklich einen Unterschied zwischen der privaten und der wirtschaftlichen Nähtec?

00:26:02: Ja, da würde ich ein Unterschied machen denn es gibt bestimmte Risiken, die man so als Privatmann in der Regel nicht hat oder in anderer Form aller höchsten.

00:26:14: Und diese Risiken, die sind wichtig.

00:26:16: Dass man das auch dem Schirm hat wenn man BWL studiert und später ein Unternehmen oder wo auch immer arbeitet.

00:26:22: Also für mich ist es wichtig nämlich zu vermitteln meinen Studierenden dass die Ethik etwas ist was ihnen hilft.

00:26:30: also wenn man sensibilisiert ist dafür dass bestimmte Fragestellung eine ethische Komponente haben können dann kann man solche Risiken vermeiden.

00:26:38: Also zum Beispiel Risiken für die Reputation des Unternehmens, für den Aktienkursunternehmen.

00:26:43: Da spielen ja alle möglichen Faktoren eine Rolle.

00:26:45: Das heißt das werden sozusagen harte ökonomische Fakten, die aber zunächst als ethische Ansinnen oder Anliegen starten und das versuche ich zu vermitteln.

00:26:53: viel mehr glaube ich ist es gar nicht.

00:26:55: und dann kann auch ein paar Tools vermittelt, die man verwenden kann.

00:26:59: später und das ist glaube ich also was für mich eigentlich die Wirtschaftsethik ausmacht.

00:27:04: Also da würde ich vielleicht noch mal ein bisschen darauf eingehen wollen, weil ich sage immer Diesel-Skandal ist ein berühmtes Beispiel in Deutschland.

00:27:09: Ich muss nicht Wirtschaftsethik gelesen haben um zu wissen dass es nicht okay ist zu betrügen.

00:27:15: Richtig aber das ist ja häufiger vorgekommen.

00:27:18: also wir haben ja Fälle von früher sieben.

00:27:21: Skandal zum Beispiel Korruption.

00:27:23: Thema Korruption war etwas.

00:27:25: eigentlich weiß man irgendwie dass das nicht sinnvoll ist und dass das zurückschlagen kann gegen das Unternehmen.

00:27:31: Es wird trotzdem gemacht weil es etablierte Praktiken sind die Irgendwie im Unternehmenskulturen drin sind, schon seit Langem so gepflegt werden und keiner hinterfragte.

00:27:41: Und beim Bieselskandal war es ja auch ähnlich, weil in vieler Hinsicht ein Kulturproblem.

00:27:45: Keiner wagte es wirklich das laut zu sagen und die Probleme zu benennen.

00:27:50: Und da ist Ethik schon hilfreich um diejenigen zu sensibilisieren schon frühzeitig und auch sie zu ermutigen kritische Stimmen zu erheben uns vorher und auch entsprechend an die Manager nicht eine Kultur zu etablieren, wie solche kritische Stimmen unterdrückt.

00:28:10: Jetzt der Siemens-Skandal – ich erinnere mich sogar noch daran wahrscheinlich die meisten Hörer nicht mehr das war ja damals dass in Prinzip Schmiergeldzahlungen erfolgt sind im Ausland.

00:28:17: Ja Und da würde ich jetzt natürlich auf Frage auffärfen als habe ich die Frage mir wirklich damals schon gestellt und ich würde es dann bei mich nicht als ein unethischem Menschen betrachten.

00:28:27: aber das ich mir gedacht hab naja es war ja im Auslands in einer anderen Zeit.

00:28:32: Also die Frage ist, war nicht in den fünftiger- sechziger Jahren das sozusagen ethisch okay, weil es einfach gang und gäbe war?

00:28:40: Und dann haben sich die Normen geändert.

00:28:41: Das war nicht mehr gang und geben.

00:28:42: Siemens hat es nicht gemerkt oder da war das auch in fünf bis sechzehntige Jahren schon nicht okay obwohl alle anders auch gemacht haben.

00:28:48: Ja, dass ist eine sehr gute Frage.

00:28:50: In der Tat Die Probleme sind im Grunde mit der zeit Haben sich verändert durch gesellschaftliche Veränderungen Durch wirtschaftlichen Veränderung kulturelle Veränderung, vielleicht auch die Wirtschaftsethik.

00:29:03: in den fünftiger- sechzehrjahren mindestens gab es praktisch nicht.

00:29:06: Es gab es als Fach auch gar nicht.

00:29:07: Das ist ja nicht so dass es diese Probleme nicht gab.

00:29:11: natürlich gab es im großen stil Korruption und alles mögliche was man heute benennen würde.

00:29:16: aber man hat das damals einfach nicht so benannt Und es begann eigentlich erst den siebzehren Jahr mit einigen wirklich großen Skandalen Die aufgekommen sind und dass man dann eher gedacht wir müssen da genauer hin sehen Wir brauchen vielleicht eine Eine Reflexion speziell über diese Themen, die wir doch als Ethische ansehen.

00:29:36: Und insofern waren viele Sachen sind früher unter der Decke geblieben.

00:29:40: Auf jeden Fall, also auch gerade diese Korruptionszahlung im Ausland und da gab es ja eine Änderung damals aus.

00:29:45: Es hängt zum Teil an Regeländerungen wie es gar diese Federal Sentencing Guidelines die Anfang der Neunziger ich glaube das hat ein neunzig wenn ich jetzt richtig eine Erinnerung habe von den USA verändert wurden nicht?

00:29:56: Da hat man gesagt Auch Korruptionschmiergel zahlen im Zahlungen im Auslands von amerikanischen Unternehmen werden bestraft Und früher war das eigentlich gar kein Thema.

00:30:07: Das waren, allmählich änderte sich dadurch sozusagen, änderten sich Geschäftspraktiken, ändert sich kulturell was aber nicht.

00:30:13: alle haben es mitbekommen oder sind vielleicht auch nicht so raffiniert gewesen muss man sagen wie andere.

00:30:18: Es heißt aber schon im Prinzip gesellschaftliche Normen haben sich geändert Und damit hat sich der Rahmen, und da muss man den Rahmen auch anpassen.

00:30:25: Als Manager oder als Privatperson ja auch!

00:30:27: Ich meine wir haben ja auch einen privaten Bereich würden.

00:30:29: Wir beide wahrscheinlich als Ältere sagen, dass die letzten zwanzig Jahren auch einiges geändert, auch gesellschaftlich.

00:30:34: Ja auf jeden Fall und ich glaube auch in einem Jahr hinsichtlich ist man beim Rahmen das könnte mein vielleicht noch mal gesondert diskutieren ihr darüber auch hinaus geschossen über das Ziel und hat zu viele Dinge dann auch rechtlich verankert, die vielleicht nicht unbedingt nur notwendig gewesen wären und ist dazu unflexibel geboren.

00:30:51: Aber grundsätzlich, glaube ich kann man schon sagen die gesellschaftlichen Veränderungen machen nicht halt vor den Unternehmen und dass vieles was früher okay war vor Jahrzehnten heute eben nicht mehr so gemacht werden kann angesichts der globalisierten Wirtschaft.

00:31:07: Ich habe mal zwei Zweifragen also eine Frage oder ein Gedankende.

00:31:10: Einer Punkt ist natürlich der wir haben vorhin gesagt ja Privat das hat anders als Unternehmer.

00:31:13: Ich meine letztlich ist es doch so.

00:31:15: wahrscheinlich geht's da darum dass sich die Beträge um dies geht.

00:31:19: Der Preis Der potenzielle Preis, das nicht ganz konkreten Verhaltens ist natürlich unternehmend deutlich größer als bei der Privatperson.

00:31:29: Da geht es um große Aufträge da geht's um Millionen von Aufträgen Gewinne, da gehts um Arbeitsplätze und Positiv.

00:31:36: Das ist natürlich seltsam in dem Maße.

00:31:39: Also ist es quasi eine besondere Herausforderung einfach deshalb weil die Verlockungen größer sind?

00:31:45: Die Verlockung sind meistens größer, das stimmt!

00:31:48: Es ist aber auch die Interaktion und die Komplexität mit einem Unternehmen, gerade Großunternehmen ja.

00:31:53: Mit vielen Mitarbeitern, vielen Abteilungen unterschiedlichen Interessen.

00:31:58: ein Vorstand oder Board der auch vielleicht bestimmte Interessen verfolgt Und die Anreize, die wirken.

00:32:07: natürlich.

00:32:07: in dieser Komplexität ist das etwas anderes.

00:32:11: Deswegen ist schon die Wirtschaftsethik etwas anders als eine Individualethik also die so aus einzelnen

00:32:18: zum Beispiel

00:32:18: Tugenden besteht.

00:32:19: Man hat ja die Tugende des ehrbaren Kaufmanns früher.

00:32:22: Das wurde als Wirtschafts-Ethik dann genommen und zur Hansenzeit gab es sowas auch schon früher, aber das sind letztlich Individualtugende.

00:32:29: Das wird dem Einzelnen gesagt er soll bestimmte Dinge nicht tun.

00:32:33: über uns steht da auch drin dass sie nur mit ihren eigenen Leuten sozusagen interagieren sollen mit anderen eher vorsichtig und also Dinge die man heute gar nicht unbedingt als ethisch vielleicht so anpreisen würde.

00:32:45: Aber deswegen diese Ethik des ehemaligen Kaufmanns ist eine Individualethik im Grunde.

00:32:50: Das ist nichts was reicht für heutige groß insbesondere Großunternehmen weil man da ganz andere Tools sozusagen baut.

00:32:58: Es gibt eine Menge davon.

00:33:00: Wir kommen hier noch auf das Thema Künstlikienz zu sprechen, aber vielleicht können wir jetzt mal ein konkreter nochmal auf das thema.

00:33:05: wie verhält man sich in der Welt?

00:33:07: Ich meine die deutsche Wirtschaft ist sehr exportorientiert und sie kennen ja den Vorwurf, der immer wieder aufkommt ist dass die quasi unter völliger Missachtung von irgendwelchen Menschenrecht und ähnlichem einfach nur pure Profit orientieren versuchen quasi Geld zu machen, die investieren lieber in China als in Deutschland.

00:33:26: Obwohl China-Diktatur ist und wo die Menschenrechte eingeschränkt werden.

00:33:30: Die lassen die Urliguren irgendwo in Arbeitslagern, weil wir hier Teile fabrizieren.

00:33:35: Und da wird dann mal... Hier gibt es einen großen Aufschrei an dem Motto, die Deutschen sind so ganz... Da bin ich wieder... Geh mich ja untereinander hinzu.

00:33:41: Ich bin manchmal ein bisschen im Camp.

00:33:42: Wir sind vielleicht ein bisschen naiv.

00:33:43: Wir wissen, wie die Leute das sagen.

00:33:45: Weil wir die Realität nicht anerkennen.

00:33:46: Weil ich glaube, die Mehrzahl der Menschen auf der Welt lebt nicht in einer Demokratie.

00:33:52: Ja, das hängt natürlich ein bisschen davon ab wie man Demokratie definiert.

00:33:57: Also ob es enger oder weiter definiert ist und darüber kann man reden.

00:34:01: aber wenn man das also rein so etwas was man gerne als europäische Demokratie, wenn es das überhaupt gibt im Sinne dann würde man sicherlich Schwierigkeiten bekommen Wenn man das mal anders sieht, wie hat sich es verändert in den letzten dreißig Jahren?

00:34:18: Also insbesondere seit dem... Seit neun Jahrzehnte im Ende des Sozialismus ist es eigentlich nicht schlechter geworden.

00:34:25: Sondern eigentlich deutlich besser!

00:34:27: Es gibt deutlich mehr Demokratien seitdem.

00:34:30: und also da gibt es dann natürlich kann man gerade definieren und wie autokratisch ist ein Regime.

00:34:35: Und auch da ist es insgesamt glaube ich schon besser geworden.

00:34:40: Also ich meine, ich glaube das ist die Perspektive so.

00:34:42: Es ist alles schlimm und es wird alles noch schlechter.

00:34:46: also das ist glaub' ich nicht...

00:34:47: Weil's kommt mit meinem Podcast öfters vor wenn eine wollte gar nicht weg.

00:34:50: wir gehen eigentlich eher mit einem anderen Punkt aus dem Motto wie soll man denn als Wirtschafts-, als Unternehmen, als exportorientierte Nationen, als Export-Unternehmen?

00:34:57: Wie sollen wir denn umgehen mit solchen Themen?

00:34:59: Was wurde immer wieder gesagt?

00:35:00: den Motto China Menschenrechtsverletzung in Russland vorher schon.

00:35:03: Es gab immer wieder die Kritik da gibt's ja sicherlich auch Menschen die sagen wir sollten mit denen gar keinen Handel treiben, wir sollten ja gar nichts machen.

00:35:09: Was sagt die Wirtschaftsethik dazu?

00:35:12: Ja, also zu dem Thema bin ich schon häufig gefragt worden auch vor vielen Jahren schon.

00:35:15: Ich habe früher auch immer deutlich gesagt als das noch so ein Schlagwort war dieses Wandel durch Handel.

00:35:22: Das war ja damals so ein Schlagwort.

00:35:24: Ich würde das heute nicht unbedingt verwenden weil das glaube ich auch ein naives Konzept war.

00:35:30: Also wenn man erwartet dass es dann so wird wie bei uns was immer das genau sein soll Ich glaube, dass man in der heutigen Situation ganz... Also erst mal ist man eine andere Situation als vor zehn Jahren.

00:35:43: Als vor fünfzehn Jahren auch vom ökonomischen Herr natürlich.

00:35:47: Das sprechen Sie ja immer wieder an.

00:35:49: aber wir sind eben auch in einer Situation wo wir uns das also wo wir genau sehen müssen wenn wir mit denen und diesen keinen Handel treiben wollen mehr?

00:35:57: Ja mit wem denn dann noch?

00:35:58: wie viele bleiben den eigentlich noch übrig?

00:36:01: Und wer sind die wesentlichen Player?

00:36:03: Und da, glaube ich, müssen wir viel stärker darauf noch sehen als bisher dass Ethik und Geschäft, Ethik-und Profit keine Gegensätze sein müssen.

00:36:14: Das ist eigentlich einer meiner wesentlichen Kernpunkte für die Wirtschaftsethik.

00:36:19: also wir können wenn wir jetzt hier wirklich sagen okay das ist unsere Ethik das sind unsere Vorstellung von Menschenrechten so muss das sein!

00:36:27: Auf der anderen Seite haben wir die böse Welt des Kapitalismus.

00:36:30: Früher hieß es oder manchmal immer noch Neoliberalismus und so, da ist alles ganz, ganz furchtbar.

00:36:36: Das kriegen wir nicht zusammen.

00:36:38: Wir müssen sehen wie kann man das zusammendenken?

00:36:41: Und sehen vielleicht an bestimmten Punkten kann man was ändern können wir als Europäer, wenn wir das wollen vielleicht ansetzen aber anderen Punkten auch nicht.

00:36:51: und ja also um sich in diese Falle zu definieren Ethik gegen Gewinn und Profit

00:36:56: Ja gut, aber da würde ich jetzt noch mal einhaken.

00:36:58: Also ich bin gereist durch Asien vor einiger Zeit und war dann mit der Studiengruppe und wir waren eben auch bei Vertretern von Botschaften.

00:37:07: Wir waren auch Vertreter von politischen Organisationen Und was immer wieder aufkam war, also die Leute ja die Deutschen kommen ja, das weiß man in der Amte natürlich die Politiker.

00:37:17: Da haben wir es auch noch mit Frau Baerbock im Gebäudebau noch, wirkt sie noch nach.

00:37:21: Dann wurde man so gesagt in den modernen Jahr, die hat dann eben Menschenrecht angesprochen, das haben wir zur Kenntnis genommen und haben weitergemacht.

00:37:28: Und in der Wirkung hatte das nicht, außer dass man auf der Liste, der Gutwillliste schon mal einen Punkt verspielt hat.

00:37:36: Dem Auto Mann hat gesprochen über Menschenrechte.

00:37:38: gut, dann kann man aber nicht darüber sprechen, dass Deutschland jetzt irgendwie ein Kraftwerk liefert.

00:37:42: Ich frage Pauschalisierers mal so'n bisschen.

00:37:44: Da bin ich jetzt noch ein bisschen pragmatisch und sage nach dem Auto naja Google geben unsere wirtschaftliche Situationen und gebe Tatsache, wenn wir es nicht liefern, anderes Liefern sollten wir nicht erst etwas Kraftwerksprechen und vielleicht mein Strechte später erwähnt oder ihm gar nicht erwähnen, wenn ich es eh nicht beeinflussen kann.

00:37:58: Oder er sagt bei der Ethik würde das sagen nein du musst doch bei deinen Grundsätzen bleiben weil ich meine auch ich bin nicht für Arbeitslager und Ähnliches.

00:38:06: Also das Thema haben wir ja schon lange auf der Agenda.

00:38:09: Das war ja im Mindestens in den Achtziger Jahren schon an als VW zum Beispiel begann in China zu investieren.

00:38:15: Das kommt auch immer wieder auf war dazu immer zu sagen, auf jeden Fall die Wettbewerbssituation nicht ignorieren.

00:38:25: Sondern wenn in anderer das Liefern kann ich meine wo ist dann der moralische Gewinn?

00:38:29: Wo kann es ist denn der Gewinn für die Leute vor Ort, wenn der andere das liefert und statt Deutschland oder welches andere Land auch immer in Europa.

00:38:37: Da hab' ich... ist der Moral auch nicht geholfen!

00:38:40: Und das zweite is', dass man häufig aber durchaus Ansprechen kann, in welcher Weise das geschieht.

00:38:47: Also den Thema Menschenrechte und so was ansprechen kann.

00:38:50: Das ist schon auch meine Erfahrung in diesen Ländern.

00:38:52: ich bin selbst auch einigen von denen gewesen.

00:38:55: also ansprechen ja dass wird wenn man es in geeigneter Weise macht wird das durchaus als sozusagen naja die müssen das sagen das gehört dazu so ein bisschen.

00:39:04: Man darf es nur nicht übertreiben da gebe ich ihn vollkommen recht und ich glaube dass das auch gerade unter Verbehrwug nach meiner Wahrnehmung übertrieben wurde.

00:39:11: Also belehren sollte man nicht und vielleicht ist es auch heute, weil das Gewicht Deutschlands in der Welt nun mal niedriger geworden ist.

00:39:19: Vielleicht kommt es jetzt schlechter an als noch vor zehn Jahren wobei meine Wahrnehmung ist, man hat damals nicht so versucht zu belehren.

00:39:26: tatsächlich.

00:39:27: Da

00:39:27: gibt's immer sicherlich solche und andere Fälle.

00:39:30: also insofern ich wäre auf jeden Fall dafür diese Geschäfte zu machen.

00:39:35: Ich meine, wenn wir auch zurückgucken ein paar Jahrzehnte.

00:39:37: Wo hat man damals über als Geschäfte gemacht mit ganz klaren Diktaturen in Südamerika?

00:39:43: In den damals auch dann zum Teil mit klar sozialistischen Staaten?

00:39:48: also Wenn wir es nicht machen, dann machen das andere.

00:39:51: dieses Argument finde ich nicht grundsätzlich verkehrt und auch ethisch durchaus vertretbar.

00:39:56: Also eine Ethik die wirklich dazu führt dass man im Wettbewerb zurückfällt Das ist keine Ethik Die kann man nicht wirklich sinnvoll den Menschen verkaufen.

00:40:06: Also

00:40:06: ich habe verstanden, es ist natürlich keine gute Ethik wenn man sich selber als Klinisch schießt auf meinen Worten.

00:40:11: also man wird sich wirklich schlecht.

00:40:13: Es haben ja verschiedene Gebiete auf denen Deutschland das getan hat auch durch aus ethischen Gründen.

00:40:17: Ich komme vielleicht nachher, wir kommen auf KI gleich und habe noch eine Frage zum Thema Klimapolitik weil die Klimapolitik glaube ich die Erhalte-Schöpfung ist ein hoch ethisches Ziel.

00:40:25: es wird sehr hochgehalten und wir sind ja in Deutschland auch bereit dafür große Opfer zu bringen.

00:40:30: Die Frage ist natürlich nur es gibt Nebenwirkungen Ich habe gerade gelesen, aber sie sind auch durchaus jemanden der sich einsetzt für CO-Zweihabgaben ähnlich ist und sagt die Motto eher auf den Markt setzt.

00:40:38: zumindest war es mein Verständnis.

00:40:40: Aber ist es nicht so dass wir jetzt sagen müssen nach mehreren Jahren dieser Politik das wir quasi unter Umständen einen Ziel verfolgt haben?

00:40:48: Aber gleichzeitig eigentlich quasi dabei die Grundlagen unseres Wohlstandes gefährden?

00:40:52: also was ist so?

00:40:53: wie gehen wir damit ethisch um?

00:40:54: vor allem auch wenn gleichzeitig die Länder die anderen wir im China schon erwähnt aber auch die USA haben wir auch Indien jetzt zumindestens auf absehbarer Zeit keine Anzeichen abgeben, dass sie unseren Weg folgen.

00:41:05: Ich glaube die Situation ist folgende wenn man das mal für die nächsten zehn Jahre sich angesieht Man hat geglaubt insbesondere in Europa und der EU und eben auch in Deutschland man würde letztlich sowas diesen Brüssel-Effekt haben.

00:41:22: Man macht etwas was eigentlich im Wettbewerb ein Nachteil ist.

00:41:27: Man glaubt aber, weil man so groß ist und so wichtig das dann den anderen vorschreiben zu können.

00:41:33: Und da war immer das bei... also wie beim Datenschutz-Grundverordnung.

00:41:37: ob die wirklich so erfolgreich waren?

00:41:39: Ob die alle mitgemacht haben?

00:41:40: Das ist schwer die Frage!

00:41:41: Aber das war immer eines dieser Beispiele.

00:41:43: Jedenfalls auf diese Weise hat man das bei vielen Themen geglauben.

00:41:47: es gab ja auch Anzeichen dafür und zum Teil in früheren US-Regierung, dass das so ein bisschen mitgetragen würde.

00:41:55: Und ich glaube, dass man jetzt in der Realität aufwacht und im Grunde merkt, man ist damit gegen die Wand gefahren oder die Realität hat sich verändert.

00:42:04: Die anderen machen einfach nicht mit.

00:42:06: Wir werden es bei der KI auch noch sehen.

00:42:08: aber auch eben bei diesen Themen, die Sie angesprochen haben, es bringt einfach nichts wenn niemand mitmacht, dass ich mich nur selber schädige im Wettbewerb den Nachteil habe und dem ethischen Anliegen ist auch nicht gedient.

00:42:20: Das ist eigentlich eines der Kernerkenntnisse in der Wirtschaftethik, so wie ich es auch immer versuche zu vermitteln.

00:42:26: Wenn keiner mitmacht, ist die eine Ethik, die den Untergang prädigt.

00:42:31: Die kann keine Ethik.

00:42:33: Ist das doch wehbarsche Logik?

00:42:35: Gesinnungs- versus Verantwortungsethik?

00:42:37: Also auf jeden Fall erst mal die Verantwortungethik ja.

00:42:41: Die führt in diesen Untergang.

00:42:45: Es ist auch etwas, was die Figur für jedes Kind das Gefangene-Dilemma eben ist.

00:42:49: Eine Ethik, die auf die Figuren des Gefangenedilammers ins Zentrum stellt und sagt im Gefangener Dilemma kann ich nicht allein raus.

00:42:56: also ich kann mich nicht selber schädigen auf die Dauer Ich kann mal sozusagen im Einzelfall etwas tun investieren zugunsten etwas zur Grundstenspätragewinne.

00:43:06: Ich kann auch mal Geld spenden, Opfern sozusagen für bestimmte Zwecke punktuell aber nicht auf die Dauer.

00:43:13: Das können Unternehmen nicht als gewinnorientierte Einheiten, die nicht nur Gewinn machen müssen sondern auch Gewinn maximieren müssen, die im Wettbewerb stehen.

00:43:23: Eine Ethik kann nur verlangen, dass diese Gewinnmaximierung in bestimmter Weise erfolgen kann.

00:43:30: Sie muss letztlich eine Ethik irgendwie erfolgreich sein im Wettbewerb.

00:43:34: Sonst ist sie auch nicht als Ethik zu empfehlen!

00:43:38: Aber es gilt ja nicht nur für den Lebensgeld, sondern auch für die Volkswirtschaft und das Ganze.

00:43:40: Wir können natürlich auch sagen, dass der Volkswirtschaft was Ganses kann ein bestimmtes Ding machen, wir können aber nicht dauerhaft auf Wohlstand verzichten.

00:43:46: Vor allem war dann noch die Frage aufgehoben wer entscheidet überhaupt über die Priorität der ethischen Ziele?

00:43:51: Weil es gibt ja verschiedene ethische Ziele.

00:43:53: Die UN hat glaube ich neunzehn Nachhaltigkeitsziele definiert oder liebzehnt.

00:43:57: Und da ist Klima eins davon.

00:43:59: Aber im Prinzip ist doch so Unternehmen haben eine bestimmte Rolle, haben die Gesellschaft gesamte gespielt eine Rolle.

00:44:04: wie sollen wir denn da oben gehen?

00:44:05: Wie sollen wir da ethische Fragen Abwägen mit Wohlstandsfragen und anderen Fragen, die Priorität sind?

00:44:12: Ja.

00:44:12: Dass man das überhaupt so weit hat kommen lassen ist für mich immer noch erstaunlich.

00:44:19: also Man hat Unternehmen insbesondere in den letzten ja zehn bis fünfzehn Jahren mit immer mehr Anliegen überfrachtet Die als im weitesten sind ethische oder nachhaltigkeits- oder diversity und andere anliegen sind.

00:44:32: So hat man sie verkauft und hat den Kernsweck von Unternehmen im Grunde immer mehr in den Hintergrund gedrängt.

00:44:39: Also das wäre früher so nicht möglich gewesen, es ist doch eigentlich klar dass ein Unternehmen erstmal profitabel sein muss, den gewinnt teigern muss und im Wettbewerb bestehen muss Und dazu ist Ethik kein Gegensatz.

00:44:53: Aber wenn man jetzt mit immer mehr solchen zusätzlichen Anliegen kommt, die müssen ja irgendwie finanziert werden... Also wenn ich den Klimaschutz mache, gut!

00:45:00: Wenn er nicht direkt profitabel ist oder zumindest in einem vertretbaren Zeithorizont sich für das Unternehmen betriebswirtschaftlich auswirkt?

00:45:10: Das kann ich natürlich dann nicht auf die Dauer machen.

00:45:14: Ein gewisser Menge ist halt möglich und verkraftbar für Unternehmen Aber auch das kann es noch nicht sein.

00:45:21: Es muss ja irgendwie dem Kernzweck des Unternehmens dienen und da ist Sintracht, glaube ich in vieler Hinsicht falsch abgebogen und da wird in anderen Ländern, anderen Regionen der Welt entweder biegt man überhaupt gar nicht in diese Richtung ab oder kehrt langsam wieder zurück?

00:45:36: Um auf ihr Institut zu kommen, auf ihre Arbeit zu kommen... Ich zeige mich manchmal so ein bisschen so versandt.

00:45:42: Also wir haben zwar keine KI aber wir haben ein Institut für Ethik in der KI.

00:45:48: Sie sind auch, glaube ich, der führende Forscher jetzt um die ethischen Fragestellung beim Autonomenfahren geht.

00:45:53: Gleichzeitig finden es autonome Fahren in China und den USA statt.

00:45:57: Also meine Tum macht bestimmt viele gute Dinge und ich muss verstehen aber die Frage ist schon so gibt es wahrscheinlich gibt es schon Pondants zu Ihnen an anderen Ländern?

00:46:06: Wollen wir mal positiv damit einbissen?

00:46:07: Nichts, dass die Arbeitsstahlung ist wie andere Entwicklungen oder wie haben die Ethik?

00:46:10: Aber die Frage is schon somit da ist das die richtige Prioritätensetzung?

00:46:13: Und haben wir nicht unter Umständen weil wir die ethische Fragen gleich als erste aufwerfen Da auch ein Webwerbsvorteil, nicht nur im Isten und für die Zukunft.

00:46:22: Ja also zunächst mal dazu möchte ich sagen dass dieses Institut sich anders versteht als andere.

00:46:29: Und zwar was wir machen ist das wir immer mit den Leuten die die Technologien tatsächlich entwickeln zusammenarbeiten Also in allen unseren Gruppen Immer Leute von der technischen und der nicht-technischen Seite zusammen Also zum Beispiel Informatiker Mediziner Ingenieure Automobil Technik Sondern mit Ethikern zusammen Psychologen, Juristen und anderen.

00:46:50: Also das ist mir ganz wichtig!

00:46:52: Ich glaube es tatsächlich dass das in der Tat verkehrt wenn man die Ethik so ansetzt und sagt ja wir machen jetzt nur Ethik und Es gibt einige Player in dieser Art nicht nur in Deutschland Die die so arbeiten.

00:47:04: ich glaube das ist nicht zielführend in der tat Sondern das ist nur fruchtbar Wenn wir tatsächlich denen zeigen können was kann die ethik für euch bringen?

00:47:13: Und da ist das Interessante, was wir beobachten, dass hier das Interesse für Ethik häufig von der Seite einmal der Unternehmen und der Technologie selber kommt.

00:47:25: Also die Unternehmensagen zum einen – und zwar noch vor Regulierungen, die zum Teil jetzt gekommen sind also schon vorher war es – die sagen ja, wir sehen hier mögliche Risiken für uns.

00:47:37: Also wenn wir das und dass machen, wenn wir KI so und so umsetzen, dann gefährdet das unseren Ruf als Unternehmen möglicherweise.

00:47:43: Das ist ein Risiko.

00:47:44: oder da wollen wir daran arbeiten?

00:47:47: Oder eben auch von den Leuten die die Technologie selber entwickeln, die stellen fest, wenn ich so ein System entwickle, dann sind viele Fragen eben nicht rein technische Fragen.

00:47:59: Soll das autonome Fahrzeug ein bisschen mehr nach links fahren, ein bisschen nach rechts?

00:48:03: soll es ein bisschen näher am Lkw fahren näher am Fahrrad auf der anderen Seite.

00:48:10: Das sind viele Fragen, da sagen ja brauchen wir Input von Ethikern oder andere und deswegen dieser Punkt ist mir ganz wichtig dass wir das tatsächlich ein Mehrwert bieten für die Leute, die es tatsächlich machen.

00:48:22: Ich glaube, dass wir dies tun.

00:48:25: Wir können sich das jetzt tun!

00:48:26: Die Frage ist halt nur so wie haben wir trotzdem das heißt also arbeiten dann aber auch mal in Unternehmen zusammen nicht in Deutschland sitzen?

00:48:32: Ja,

00:48:33: das ist richtig Also beides.

00:48:36: Wir sind ein international aufgestelltes Institut und wir haben in vielen Projekten, die wir haben eben Partner aus Deutschland aber auch viele aus nicht wie nicht den Deutschen sitzen.

00:48:47: in der Tat Ich will uns noch dazu sagen dass ähnliche Institute zum Beispiel in Großbritannien existieren in USA auch Und auch von einigen anderen, also interessanterweise bis heute.

00:49:01: Wir waren mit den ersten damals im Jahr two-thausend neunzehn.

00:49:04: Damals ist in Oxford ein gleichnamiges Institut nach uns gegründet worden und einige andere.

00:49:10: Also da war Deutschland gar nicht mal unbedingt die Ersten bei der Ethik der KI.

00:49:13: Es gab auch andere.

00:49:15: Auch diese Prinzipienkataloge, die damals entwickelt wurden – ich war auch beteiligt – die waren gar nicht einmal unbedingt schwerpunktmäßig aus Deutschland.

00:49:24: Das gab es woanders auch.

00:49:26: Also deswegen, es ist sogar eher würde ich sagen dass das Interesse zumindest anfänglich an der KI-Ethik eher schon direkt aus der Entwicklung kam und nicht so sehr von einer abstarkten gesellschaftlichen Ebene.

00:49:38: Das ist später gekommen!

00:49:39: Genau, jetzt haben wir mittlerweile eine Situation, dass die, die so ethisch gestartet sind.

00:49:43: Oben AI werden ja kritisiert, dass sie jetzt doch gewinneorientiert sind.

00:49:46: In Strafwick gibt es sich das edle Image.

00:49:48: ich habe ein paar Wochen für einen gründenden deutschen Resporern der Akumente Strafwig, die haben halt eben auch diese ethischen Standards.

00:49:54: also im Prinzip Ethik.

00:49:55: jetzt da würde ich mal sagen vielleicht dabei zum Marketing Instrument.

00:49:58: aber wenn Sie sich jetzt die KI anschauen Ich meine Es gibt ja auch was ich Artikel Podcasts zum Thema KI wurde dann gesagt wird naja also zwischen was ich zehn und dreißig Prozent Wahrscheinlichkeit, dass die Menschheit vernichtet wird.

00:50:10: Also von Böttfern gesagt sagen andere wie das ist nicht so.

00:50:13: Gleichzeitig wissen wir, wenn wir Regeln aufstellen beim Klimaschutz, ist denen der Gewinner jetzt nichts dranhält für alle anderen Machen sondern er macht es nicht bei KI ist ja noch viel massiver.

00:50:22: Ich meine wenn ich jetzt ein chinesischer Militär bin würde ich sagen wie soll ich mir jetzt um welche Regeln auch verlegen wie die anderen?

00:50:26: Wenn ich einen Vorteil habe unter meiner KI gesteuerten Roboter dann keine Ahnung noch leistungsfähiger sind als die Amerikaner umso besser.

00:50:34: Wenn Sie jetzt auf die KI blicken, ich meine sie schauen gut gelaunt aus.

00:50:37: Also sie macht Ihnen keine Kopfschmerzen?

00:50:41: Im Moment eigentlich noch nicht wirklich.

00:50:44: Also jedenfalls diese Szenarien, die sagen, KI wird uns alle vernichten... also die halte ich nicht für realistisch.

00:50:54: Ich sehe zum einen die ganz konkreten Risiken, die es gibt und an denen man arbeiten kann, der in Sicht meinem KI verbessern kann.

00:51:03: Dann sehe ich auch das Risiko für, also insgesamt Veränderung der Arbeitswelt.

00:51:07: Da können wir vielleicht noch gesonder drauf kommen.

00:51:10: Das ist glaube ich in der Tat ein Thema.

00:51:12: da wird sich vermutlich einiges doch ändern.

00:51:14: aber diese Grundsatzrisiken.

00:51:17: Also ich habe einen bekannten KI-Philosofen, wenn man die so nennen kann.

00:51:21: Jampolsky mal getroffen.

00:51:22: Der war immer auch ganz heiter drauf und er sagte aber das wird sowieso passieren wir werden sowieso irgendwann untergehen.

00:51:29: Das stimmt sicherlich, zweifelsohne irgendwo an, sicherlich.

00:51:32: Aber jetzt machen wir es so, der hat auch einige Podcast Bekannte dazu gemacht.

00:51:37: Ich kann dem nicht wirklich zustimmen denn das basiert alles auf der Annahme dass diese KI wirklich so umfassend Also einmal irgendwie doch selbstbewusst wird, dass die Bewusstsein entwickelt und also ob es dazu im Moment Schritte in diese Richtung gibt.

00:51:54: Das ist umstritten.

00:51:56: Also das diese allgemeine AGI, also allgemein künstliche Intelligenz, dass sie entsteht oder dass man das dann so definiert, dass er super ist und viel besser kann als wir Alles klar, aber das sind wirklich Bewusstseinentwähle.

00:52:09: Das sehe ich nicht so richtig und ich sehe auch gar nicht wirklich vorstufen dazu.

00:52:13: Ich habe die Geschichte gelesen.

00:52:16: Da hat das Marika Anschimletier mal eine KI trainiert.

00:52:19: zum Thema sie sollen möglichst viele Ziele abschießen.

00:52:21: Aber vorher musste der Soldat einer nochmal sagen ja wohl das Zielfreigabe, aber die Vorgabe war möglichst viele und dann hat es ein paar Wochen oder paar Runden gedauert bis denn die KI auf des Zielgeschossenes von den Soldats saß nach dem Motto wenn er weg ist kann ich mehr abschießen hab ihn mir ziel erreicht.

00:52:36: Aber was macht Ihnen denn, okay?

00:52:38: Sie haben ja geuntergern der Menschheit.

00:52:39: Kommt sowieso aber sehr viel später.

00:52:42: Was macht Ihnen dann, wenn sie heute mit KI sich als intensiv beschäftigen?

00:52:46: Was sind so aus ethischem Blickwinkel die großen Herausforderungen?

00:52:48: Also Sie haben Beschäftigung schon angesprochen.

00:52:50: Welche haben Sie noch?

00:52:51: oder generell gefühlt es mal aus?

00:52:52: Also man hat ja begonnen, auch in der KI-Ethik mit diesen allgemeinen Prinzipien.

00:52:56: So es waren damals diese fünf ethischen Prinzipien für KI die von verschiedenen Gruppen auf europäischer Ebene aber auch anderswo entwickelt wurden.

00:53:04: da war ich auch dabei und ein Punkt etwa dabei waren einmal die Biasis also die möglichen Voreingenommenheiten von KI.

00:53:13: Das ist etwas, was immer wieder auftritt und nicht zu leugnen ist, dass KI natürlich so arbeitet wie es, wie sie trainiert wurde mit den Datensätzen, mit denen sie trainieren wurden.

00:53:25: Und unsere Vergangenheit aus... wenn das echte Datensätze sind sozusagen nicht künstliche, dann ist natürlich unsere Verganganheit beierst!

00:53:36: Also das ist etwas, worauf man achten muss und nicht so sehr über uns diese Algorithmen.

00:53:39: Man sagt Algorithmentransparenz, die müssen transparent gemacht werden damit wir wissen was das für Algorithme sind in der Arbeit.

00:53:45: Das ist eigentlich nicht zu sehr der Punkt.

00:53:46: es kommt auf die Datensätze an.

00:53:48: Dass also zum Beispiel Minderheiten da möglicherweise schlechter gestellt werden.

00:53:52: Da gibt's viele Beispiele dafür.

00:53:54: Ein zweiter Punkt ist diese Sache Erklärbarkeit von KI denn KI... ausmacht und was sich unterscheidet von anderen Technologien, auch Technologiewellen die wir hatten dass dieser wenn man es so nennen will Black Box Charakter da ist eben das man nicht sagen kann in welchem Zustand exakt das System zum Zeitpunkt X ist.

00:54:15: Und das heißt es geht im Grunde darum etwas erklärbar zu machen was eigentlich nicht so richtig erklärbar ist.

00:54:22: aber es wird trotzdem versucht.

00:54:23: es gibt auch genug Leute auch bei uns ja auch bei der Informatik ist das ja ein Fachgebiet und das hat viele praktische Auswirkungen.

00:54:29: dass ich dann zum Beispiel wissen muss, wenn ich ein Arzt bin.

00:54:32: Ich habe einen KI-System, was mir Patientendaten über meine Patienten liefert, allgemeine Daten als mögliche zusammenbringt und dann eine mögliche Diagnose liefert.

00:54:41: Dann muss ich sehen können durch den Klick oder was auch immer, wie ist das zustande gekommen auf Basis welcher Daten?

00:54:47: Und dann kann ich keine Arztes einschätzen und selber eine Einschätzung treffen in dieser automatischen Entscheidung.

00:54:54: Das ist in dem Fall zumindest möglichst zu vermeiden.

00:54:58: Aber sowas muss natürlich entwickelt werden drauf.

00:55:00: Sowas muss geachtet werden und das ist trotzdem ein wichtiges Prinzip der KI-Ethik.

00:55:06: Für uns kommt natürlich andere dazu, die mehr so üblicher sind auch in anderen Zusammenhängen wie Datenschutz, Datensicherheit und Nachhaltigkeit ist auch immer wieder gerne Thema wobei da... Man muss.

00:55:17: es glaube ich, man muss da das abgewogen sehen glaube ich aber da können wir auch gern darauf eingehen.

00:55:23: Ich fand das Beschäftigungsthema schon relevant.

00:55:25: Ich meine, wenn wir durch KI so ein wahnsinnig Produktivitätsschub bekommen und der Tat dann im großen Stil erstellenabbau stattfinden würde, dann haben wir natürlich ein paar Herausforderungen.

00:55:34: In meiner Ausforderung wer trägt die Kosten?

00:55:36: Wir haben eine Herausforderung.

00:55:38: Soll man alles was mit KI möglich ist wirklich machen?

00:55:41: Wie diskutieren Sie es?

00:55:42: oder ist es gar nicht so?

00:55:43: ein Fokus bei Sie mit Ihren coolen Änderern Arbeiten wie sie sich als KI-Ambieter ethisch verhalten, was er nicht unbedingt bedeutet, die Arbeitsplatzprobleme der Kunden zu lösen?

00:55:55: Die ganze Arbeitsplatzproblematik, die ist auch damals in der Zeit dieser Prinzipienkataloge, ist im Grunde noch nicht so wirklich betrachtet worden.

00:56:02: Es ist auch die Frage was man hätte machen können.

00:56:04: es gab damals Prognosen von McKinsey und anderen eigentlich nicht wirklich fundiert waren damals.

00:56:10: Dann nehme ich den Kollegen mal einen Schutz, wie sollte das auch sein?

00:56:14: Ja ja, die

00:56:15: wurden natürlich über durch die Presse groß.

00:56:18: Gut, das Götze Marketing war zu, was ist für dich jetzt...

00:56:21: Also es ist auf dem Arbeitsmarkt angekommen eigentlich erst seit letztem Jahr ungefähr seit twenty-fünfundzwanzig also in größerem Stil weil man ja damals gar nicht die generative KI hatte.

00:56:31: zwei tausend siebzehn achtzehn ist klar jetzt haben wir Sie.

00:56:34: jetzt wird sie gerne natürlich auch unter steigen.

00:56:36: Kostendruck wird sie halt für alle möglichen Jobs verwandt und ersetzt vieles.

00:56:41: Und ich brauche vieles nicht mehr, nicht nur auf unteren Ebenen sondern auch an der Lüsten.

00:56:46: Das ist ja bekannt!

00:56:49: Da liefert mir die KE das viel schneller.

00:56:51: Die Frage ist was man daran machen kann?

00:56:53: Was die Ethik dazu sagen kann?

00:56:56: Also ein Punkt ist dass ich immer wieder darauf hinweise auch bei früheren Techniken wählen hatten wir ähnliches.

00:57:01: Wir hatten das angefangen mit der Industrialisierung, wir hatten es als Medikomputer losgegangen und so weiter.

00:57:07: Letztlich ist es immer eine Frage gewesen wie ging Edmann kreativ mit der neuen Technologie um?

00:57:14: Wie bauen wir das ein in menschmaschine Interaktionen?

00:57:19: Es werden sicherlich weniger Leute gebraucht werden.

00:57:21: Das ist sicherlich in vielen Zusammenhängen der Fall.

00:57:24: also ich meine Banken müssen wir auch nur... wie viele Personal haben die Banken abgebaut den letzten Jahrzehnten?

00:57:30: Es wird vieles dennoch nicht völlig automatisch ablaufen.

00:57:34: Das glaube ich nicht.

00:57:36: Manches schon, aber wir müssen in vielen Bereichen Jobs neu definieren.

00:57:41: Nehmen Sie das autonome Fahren.

00:57:42: eins mal ein Lieblingsteam da hat man vor zehn Jahren ungefähr auch schon darüber geredet ja wir könnten LKWs Wir brauchen keine Lkw-Fahrer mehr.

00:57:51: Also bei LKW-Fahrende bin ich mir nicht sicher, ob wir das wirklich machen werden.

00:57:55: Das Wichtigste ist ja immer, dass KI-Säuer vertrauenswürdig sein.

00:57:57: Vertraue ich wirklich einen Viertig Tonner der völlig ohne Menschen, die da drin sitzen durch die Gegend fährt?

00:58:04: Ich glaube eher nicht... Die werden autonom fahren können und werden es tun häufig aber da sitzt trotzdem dann jemand, der was anderes macht.

00:58:11: Also ich glaube eher, dass es so als ein Beispiel glaube ich wo was umdefiniert wird.

00:58:16: Bestes Beispiel dafür finde ich mal Piloten.

00:58:18: auch Flugzeuge können Starten, Autonomen können fliegen und landen.

00:58:22: Aber wir haben trotzdem Piloten da, weil es auch aus Vertrauenskunden ist.

00:58:27: Und wollen wir das übrigens wissen?

00:58:29: Wollen wir das wirklich wissen als Passagier wer jetzt gerade fliegt?

00:58:32: Das System oder ein Pilot?

00:58:36: Also man macht das hier weiß nicht, man weiß es nicht.

00:58:38: Kommt den Piloten drauf an!

00:58:40: Also von daher glaube ich, da sollte die Ethik vielleicht helfen in diesen Phasen konstruktiv zu sehen wie kann man Jobs undefinieren.

00:58:50: Aber man wird es natürlich nicht verhindern können und ich glaube das ist auch nicht so sehr diese Frage, die manchmal aufgebracht wurde auch im letzten Jahr KI oder Nicht?

00:58:59: soll man KI hier einsetzen?

00:59:00: Oder nicht?

00:59:01: also die Frage ist eigentlich darüber sind wir hinaus.

00:59:03: in den letzten Jahren also die Fälle wo man wirklich sagen würde ihr setzt gar keine KI ein, die sind so gering, die werden immer geringer.

00:59:11: Wenn

00:59:11: man ihn so zuhört, sagt man sich da dem Wort okay.

00:59:13: Eigentlich die Fragen sind geklärt.

00:59:14: Wir wollen weiter Lassenwagenfahrer haben und wir wollen weiter Piloten haben.

00:59:17: Wir wollten das der Arzt nochmal draufschauen.

00:59:19: Die Daten prüft.

00:59:21: Und nach dem Wort dann soll es den.

00:59:22: Jagdpersonaleffektor gab's immer.

00:59:23: Datenschutz gabs immer.

00:59:25: Die Welt geht nicht unter.

00:59:26: Also das klingt wie eine so großen ethischen Herausforderung.

00:59:28: gleichzeitig würde aber von den den Playern im Markt, also in Strafik gerade über ich muss sagen wird dieses ethische sehr enorm hochgehalten.

00:59:36: Dann habe ich jetzt ein bisschen Desens.

00:59:37: Das hab' ich jetzt im Profi.

00:59:39: Er sitzt und er sagt so, hängen wir nicht so hoch.

00:59:42: Und die anderen hängen das so riesig hoch?

00:59:45: Entweder unterschätzen sie das Thema oder die Anderen machen da ein großes Fass auf, aber ich eher als Werbezwecken unter ist nicht so viel

00:59:53: dran.".

00:59:54: Naja, Moment.

00:59:55: Also ich würde die Ethik-Themen der KI schon hochhängen.

00:59:59: Nur bei der Arbeitswelt ist es ein bisschen schwierig zu sagen wie man genau ansetzt denn manches wird ohnehin passieren da

01:00:05: Okay also wir okay dann war's nur Arbeitswelt nehmen.

01:00:08: andere zählen nicht.

01:00:08: meine militärische Anwendung das war das Thema Pentagon und so weiter.

01:00:11: Ich meine oder sagen sie mehr wo die großen ethischen Probleme sind in der KI aber ich würd' sagen militärischer Anwendungen ist ein Thema.

01:00:16: auf der anderen Seite habe ich vorhin schon gesagt Militärische anwendung ist.

01:00:19: dass der Bereich wo ich hundertfünfzig Prozent sicher bin halten wird, weil es eben wie vor bei uns diskutiert zum Thema Wettwerbsvorteile ein eindeutiger Wettbewerbsnachteil ist nützt mir nicht.

01:00:29: Deswegen kriege ich Verlierer.

01:00:30: Das würde ich so unethisch für dich sagen wenn ich mehr von meinem Menschen des Soldaten riskiere, weil ich eben nicht die höchstmögliche KI eingesetzt habe wie mein Wett bewerb oder meinen ethirischen Gegner

01:00:41: Auf jeden Fall.

01:00:41: Und das Merkwürdige ist natürlich dann, dass die militärischen Bereiche immer in den ganzen Ethikkatalogen und Regulierungen immer ausgenommen sind.

01:00:50: Die sind gar nicht drin.

01:00:51: Der ganze EU-AI-Act spricht überhaupt nicht.

01:00:54: Lässt das ausdrücklich außen vor?

01:00:57: Das sehe ich auch als ein Defizit!

01:00:59: Also wir haben hier bei uns als eines der allerersten Institut überhaupt ... Wir haben beim letzten Münchner Sicherheitskonferenzen eigene, also seiten Events durchgeführt zu dem Thema KI im militärischen Bereich.

01:01:13: Denn ich bin in der Tat der Meinung damit muss man sich beschäftigen und nicht die Augen davor verschließen.

01:01:18: das hat mein Deutschland mit mich lange Zeit gemacht Erstmal so getan, dass es das gar nicht gibt.

01:01:22: Und wenn dann ist es kann man sich damit auch aus äterlich gar nicht befassen.

01:01:27: Interessanterweise über uns kam es ein bisschen umschwung vor einigen Jahren als die Grünen begonnen haben.

01:01:32: Dann doch zu sagen wir brauchen mehr Drohnen!

01:01:34: Wir müssen das Beschaffe für die Bundeswehr Ukraine sich stichwort da wird es auch benutzt.

01:01:39: Da hat sich das Ganze total verändert.

01:01:41: Und auch von der edgischen Seite, glaube ich mittlerweile wird das gesehen dass es dort den Bedarf gibt.

01:01:47: Dass wir uns so mal unterhalten müssen über die Fragen wie sollten solche Systeme gebaut werden?

01:01:52: Was sind zentrale Fragen und Unterscheidung zwischen Kämpfern oder Nicht-Kämpfern?

01:01:55: Das ist immer eine ganz beliebte Frage, die an uns herangetragen wird können.

01:02:00: Wie könnte man sowas bauen?

01:02:02: Wir sind da direkt bei diesen Events mit denen in Kontakte gewesen, die das tatsächlich machen.

01:02:08: Nicht, dass wir jetzt direkt eine Lösung schon dafür haben.

01:02:11: Aber daran zu arbeiten überhaupt erst mal und dafür zu sensibilisieren für diese Fragestellung das ist wichtig.

01:02:18: Denn in der Tat sonst läuft es einfach so ab wie es abläuft.

01:02:21: dann regiert nur die Technik.

01:02:23: Ja aber gerade nochmal Sie haben gerade meditärisch wie gesagt, wenn man sie im KI-Akt erwähnt.

01:02:27: Das ist ja eigentlich, wo ich den gar nicht erwähnen weil ich dachte habe ein Ethikratie will ich zu tun.

01:02:31: Das war eigentlich eher so ne Regulierung.

01:02:33: oder sagen Sie nein da?

01:02:34: KI-Ekt ist ein Beispiel guter ethischer Interventionen.

01:02:37: Also zum KI-Akt habe ich mich ja in verschiedener Weise auch geäußert und zwar sehr negativ.

01:02:43: Das dürfen Sie heute gerne mal wiederholen!

01:02:44: Auch

01:02:45: nochmal wieder, es ist auch erstaunlich also wenn wir jetzt ein bisschen zurückgreifen, weil wir haben auch zu diesem Prozess, indem es zur Entwicklung dieses Acts kam aber auch viel Input geliefert hat.

01:02:57: aus meiner Sicht so wenn ich das so richtig sehe wurde dass alles ignoriert.

01:03:00: Es gab so viele Warnungen nicht nur von uns sondern natürlich von vielen anderen.

01:03:03: Mittelstand Deutschland mittelstand.

01:03:05: ich war in einer ganzen Reihe von Zirkeln dabei auch beim Bundeswirtschaftsministerium damals, wo viele Vertreter das Mittelstand dabei waren.

01:03:13: Die haben gesagt es ist das letzte die war noch viel kritischer als ich was ich überhaupt nicht erwartet hatte.

01:03:17: da war so ein riesen Gegenwind und es wurde alles ignoriert politisch unter der Regierung Scholz Damals.

01:03:23: Es wurde komplett ignoriert.

01:03:25: man hätte auch an diesen und jeden Punkten wirklich ein bisschen ein bisschen anders steuern können und ein bisschen weniger scharf.

01:03:32: es wurde Alles ignorieren.

01:03:34: Und dann spreche ich mit Juristen, die sagen mir, das ist juristisch so schlecht gemacht.

01:03:38: Das sind so viele allgemeine Begriffe, so extrem breite Begriffen drin, die gefüllt werden müssen.

01:03:44: Dann alle mit Rechtsprechung.

01:03:45: über Jahre hinweg ist man überhaupt damit beschäftigt erst mal zu sagen was heißt das denn?

01:03:50: So kann man es nicht machen, das is handwerklich auch schlecht!

01:03:54: Also aus meiner Sicht, Kernpunkte sind noch es ist viel zu breit angelegt.

01:03:58: Man hat angefangen mit dieser Regulierung als KI noch so vielleicht ein bisschen eine schmalere Technologie galt und man hat versucht dann über alle diese Themen da eine einzige reguläre Weise wegzumachen.

01:04:10: stattdessen hätte man punktuelle für punktuelle Systeme oder Sektoren hätte man Regulierungen machen können.

01:04:15: das systemvoll hat man aber nicht gemacht.

01:04:18: Und das Zweite ist, was dieser KI-Eck geschafft hat.

01:04:20: Ist eigentlich das Gegenteil von dem, was er sollte nämlich... Er hat Unsicherheit geschaffen!

01:04:24: Er sollte eigentlich Sicherheit, so wird es überverkauft.

01:04:26: Es soll auch ganz viel Sicherheit, Rechtssicherheit für die Unternehmen.

01:04:29: Das Gegenteils passiert.

01:04:30: Man hat ganz viel Unsicherkeit und viele unter ihm haben nicht davon verabschiedelt von vieler Entwicklung weil sie sagen ja wir wissen nicht, was wir machen wollen.

01:04:37: Aber Sie wären ja schon wahrscheinlich... Also wären Sie prinzipiell für einen KI Eck gewesen?

01:04:43: Meine beiden Inhalte oder hätten sie gesagt, es ist viel zu früh.

01:04:46: Wir sind im Stadion wollen nicht wissen und das gelten einfach in normalen wirtschaftsetzischen oder grundsätzlichen Aspekten.

01:04:52: Du darfst dich kriminell sein, du solltest sich betrügen, du säuerst gar nicht korrupt...

01:04:57: Also wenn man mal vergleicht mit anderen Ländern und Regionen, was die gemacht haben.

01:05:02: Denn auch hier ist der Brüssel-Effekt ja vollkommen versagt!

01:05:06: Es ist praktisch kein Land, keine Region hat das mitgemacht und man hatte sich das anders vorgestellt.

01:05:12: Was die Anderen machen?

01:05:13: Und es ist im Wesentlichen, dass sie Richtlinien – Best Practice Beispiele Also vieles, was nicht reine Selbstregulierung ist.

01:05:22: Es ist glaube ich mit dem Begriff Selbstregulation falsch beschrieben, sondern man kümmert sich darum.

01:05:26: Man will KI-Systeme vertrauenswürdig machen, Trustworthy AI machen, Responsible AI machen aber man geht nicht so weit zu sagen das muss jetzt rechtlich verbindlich sein.

01:05:37: So machen es.

01:05:38: Japan hat es ausdrücklich gesagt vor drei Jahren USA sowieso.

01:05:42: Und zwar auch schon unter beiden, es gab da diese verschiedenen Executive Orders zu KI und nicht erst Trump hat dann im Grunde gesagt wir machen das rein mehr oder weniger freiwillig sondern das war vorher auch nicht viel anders.

01:05:56: Andere Region ich war selbst in Südamerika dabei bei einem dieser Gipfel wo die auch gesagt haben Unser zentraler Punkt ist Innovation.

01:06:02: Und da steht auch in unseren Katalogen von Richtlinien drin, Innovation und dafür aber mit Verantwortung.

01:06:08: ja das ist uns wichtig sagen alle eben in Indien es genau diesen Weg und in anderen Regionen.

01:06:16: aus meiner Sicht wäre dass der bessere Weg gewesen ergänzt durch einige sektorspezifische Regulierungen da wo wir es tatsächlich brauchen und zwar gerade in den Sektoren oder Bereichen die ohnehin schon stark reguliert sind.

01:06:30: Denn da muss man, da ist eigentlich die größte Herausforderung.

01:06:32: Wie macht man das kompatibel mit den bisherigen Regulierungen?

01:06:35: Und das betrifft ja insbesondere Bereiche Gesundheit, Automobilis, autonomes Fahren also und auch über das Finanzsektor.

01:06:43: Klar, Finanzsektor hat auch entsprechende Risikobolenzialen, schon richtig!

01:06:47: So, das heißt aber jetzt mal in Zukunft guckt es als Erzugeabgefahr mit der Regulierung in Europa.

01:06:55: Gut, das ist immer korrigierend und es wird

01:06:59: ja dieses Jahr noch Änderungen kommen.

01:07:02: Es wird als Vereinfachung beschrieben.

01:07:05: Also wir warten drauf?

01:07:06: Okay!

01:07:06: Die Regulierung wird vielleicht sich ändern aber wenn man sonst so schaut auf KI Anwendung

01:07:10: usw.,

01:07:11: die KI-Anbieter sitzen überwiegend nicht in Europa.

01:07:14: Bistrahlung haben wir aber sonst ein nicht europäisches Thema.

01:07:17: mit der KI-Regulierung haben wir im Prinzip eigentlich den Markt nicht um den Gerolf haben sie auch gesagt Wie geht es denn jetzt weiter?

01:07:23: Ich meine, was sind so die Zukunftsthemen?

01:07:25: Sind dir quasi meine der Johannes Reckards gerade nach dem Motto Nervus eine praktische digitale Kolonie.

01:07:30: Wenn Sie das anschauen und sie sehr nah am Markt heran sagen, da gibt's noch eine Chance doch für uns im Stück nicht um einen bestimmten Aspekt voranzukommen.

01:07:36: Und was sehen Sie als die künftigen... Was ist denn zu den Themen an denen Sie jetzt eigentlich arbeiten beim Thema KI und Wirtschaftsethik oder Ethik bezüglich KI von denen ich jetzt noch gar nichts weiß weil ich noch gar nicht wahrgenommen

01:07:48: habe?

01:07:48: Also zum einen würde ich nicht grundsätzlich sagen, dass der Zerzug abgefahren ist.

01:07:53: Ja bei den großen Modellen und bei vielen sozusagen grundlegenden Systemen aber ich vergleiche immer ein bisschen gerne durchaus mit dem Betriebssystem die wir mal früher hatten.

01:08:05: Wir hatten ja früher in den Achtzigern auch dann noch Anfang der Neunziger viel mehr Betriebsysteme und irgendwann hatten wir da nur noch zwei plus ein freies was so ein bisschen darum schwebt auf der Basis, und da gab es damals auch Rechtsstreitigkeiten darüber.

01:08:20: Aber auf dieser Basis gab es aber sehr viel durchaus Anwendungen die darauf arbeiten und diese untereinander also viel mehr Anwendung, die es gab und die auch untereinem Wettbewerb standen.

01:08:30: Ich würde nicht ausstechen, dass das hier durchaus auch so sein könnte.

01:08:35: TUM ist ja eine der Universitäten die am meisten Startups im Bereich KI haben und zwar weltweit übrigens.

01:08:43: Viele von unseren Studierenden entwickeln Systeme, die vielleicht nicht immer so spektakulär sind, aber unglaublich hilfreich seien können.

01:08:53: Und das ist insgesamt etwas, glaube ich, was wir in Deutschland durchaus immer noch haben.

01:08:58: Man muss sich allerdings bereit sein, sich dafür zu öffnen.

01:09:00: auch der Mittelstand nehmen, muss natürlich bereit sein sich dafür zur Öffnung.

01:09:03: da gibt es ja durchaus Signale in die Richtung.

01:09:06: Da muss aber natürlich noch mehr passieren und vor allem darf man nicht nur regulieren machen diese davon abschreckt.

01:09:11: Das sind das größte Problem eigentlich, glaube Ich, was ich sehe Diese Rede mit eigenen Modellen also großen die damit konkurrieren können.

01:09:17: Was wir derzeit haben glaube auch dass ist in der Tat abgefahren.

01:09:21: Aber wenn Sie mich jetzt fragen, was denn aktuell zum Beispiel Fragen hier stark beschäftigen?

01:09:27: Also das eine ist sicherlich Ethik der generativen KI.

01:09:31: Dazu haben wir ein großes Projekt namens LAINAI mit vielen Partnern in Europa sowohl Universitäten als auch Industrie und da geht es vor allem auch darum wie kann generative KI auch bei im weitesten Sinne ethischen Anliegen helfen?

01:09:48: Also nicht immer nur zu sagen, was sind die Probleme dieser Technologie.

01:09:52: Sondern wie kann die Technologie helfen?

01:09:53: Kann die AI sie ersetzen?

01:09:55: Ja,

01:09:56: also...

01:09:57: Na ja, prinzipiell schon!

01:09:59: Ich habe eine Frage gestellt und ich bin wirklich sicher, da könnte ich jetzt Sie anrufen oder ich frage die KI und sage, soll ich mir jetzt ein gutes Beispiel zum Plattes Beispiel, aber ich meine es gibt der Graubereiche, wie Sie vorhin sein Blastwagen versus Fußgänger, wo fahre ich näher dran vorbei, oder was von Abstand halte ich, dass Sie sagen, dass die AI solche Fragen beantwortet, sagen Sie.

01:10:18: Eigentlich meine ich mehr, dass man Systeme entwickeln kann die tatsächlich nicht helfen.

01:10:23: Also nehmen wir zum Beispiel im Bereich Gesundheit.

01:10:25: da ist eine mentale Gesundheit ein sehr großer Bereich auch sehr profitabel Bereich und das ist generative KI also Modelle Anwendung Apps die man dafür hat.

01:10:36: es ist ein riesen Sektor oder eben entstehen.

01:10:38: Im Grunde.

01:10:39: zum Teil gibt's schon einiges in dem Bereich.

01:10:41: aber da soll ich sagen wie kann man System entwickeln?

01:10:45: Bissermaßen mit ethischen Hilfen natürlich und sozusagen in verantwortungsvoller Weise helfen, Patienten helfen.

01:10:53: Und ähnliches in anderen Bereichen.

01:10:55: also was ich meine damit ist die KI glaube ich kann in vielen Bereichen Menschen helfen.

01:11:01: sie können manche sagen mal nachhaltiger gestalten beim autonomen Fahren Unfälle vermeiden im großen Stil.

01:11:07: Also ich finde wir gucken in Deutschland zu sehr auf die Probleme, die KI möglicherweise verursachen kann.

01:11:13: Wir sollten auch auf die Chancen also die ethischen Chancene von KI achten und das versuchen wir in verschiedenen Bereichen.

01:11:19: Das

01:11:19: ist eigentlich ganz gut.

01:11:20: aber ich muss dazu sagen... Ich habe gedacht so.. Ich hab mich ein bisschen amüsiert, dachte mir ja gut, wir haben seit Jahrzehntein neunzehnt in der Institut für Ethik in der KI und wir haben keine Näsentität der KI.

01:11:28: Das war typisch wieder meiner etwas.

01:11:30: bis jetzt klar geworden ist es ja eigentlich dass sie Nicht in der Rolle sind das Verhinders- und Bremsers, sondern eigentlich das Facilitäter.

01:11:39: So machen wir es mit KI richtig nicht im Sinne von man muss es so machen.

01:11:44: oder irgendwelche Angst daraus.

01:11:45: und ich habe auch gerade gesagt der Untergang seht ihr?

01:11:47: Also sie sagen ja präzit ist eine Chance und es geht um da quasi um einer gewisse Hinsicht.

01:11:52: Machen Sie denn mit die KI immer intelligenter um.

01:11:54: zu diesem Punkt wenn vorhin diskutiert wurde er hat sich selber ein Wusstsein.

01:11:57: Ich sage nicht dass sie jetzt helfen dass die KI einen Bewusstsein entwickelt aber sie helfen dabei dass dieKI kann man so ein ethisches Bewusstsein entwickeln kann.

01:12:07: Ja, also ich wollte mal auch vom Formulier einen Gewissen zu haben.

01:12:11: Das ist die KI mit Gewissen.

01:12:13: Ich weiß nicht ob das die Formulierung so gut trifft aber es geht darum die tatsächlich die Programmierung einfach sozumachen dass sie bestimmte Dinge tun, bestimmte andere Dinge nicht tun.

01:12:24: Es gibt Leute die sagen äh etik kann man nicht programmieren Es gibt auch KI-Ethiker das sagen, also ich meine dann hat man verloren.

01:12:30: Aber da ist man... Aber

01:12:31: dann erklären Sie mal wie kann man es denn programmen?

01:12:33: Ich hab's keine Ahnung von Software als hier aber für mich ist es so nochmal auf der Lastwagen versus Fußsänger und der Auto fährt zwischendurch zum Beispiel zu kommen.

01:12:44: Da gibt es verschiedene Überlegungen.

01:12:46: Wie schnell fahre ich, kann der Lastwagen irgendwie schwanken?

01:12:49: Dann besitze ich als Fahrer auf das Lastwagen, habe natürlich Blech, der Fußing hat kein Blech.

01:12:54: Wiesige Schwindigkeit... Also da wird der Algorithmus programmiert mit der Gewichtung der verschiedenen Faktoren und die Algorithm spuckt dann was aus.

01:13:04: oder wie schaut quasi die ethische Formel zur richtigen Position des Fahrzeugs auf der Straße aus?

01:13:10: Ja, also genau das haben wir gemacht und auch darüber veröffentlicht über genau diesen Punkt.

01:13:14: Wir haben mit den Automobiltechnikern, bei uns wird ja auch am autonomen Fahren geforscht von der Technik her, wir haben mit denen zusammen jahrelang daran gearbeitet an genauso etwas, dass man am Ende im Grunde ein Algorithmus oder eine Formel hat in die bestimmte Faktoren eingehen.

01:13:31: Die Frage ist wie kommt man zu dieser Formel?

01:13:33: Also bei der Trajektorienplanung, so ist das dieser Fahrzeuge.

01:13:37: Sollen sie nach da fahren wie dicht hier und so weiter?

01:13:41: Und was wir gemacht haben, ist dass wir verschiedene ethische Ansätze genommen haben und untersucht haben, was für einen Unterschied macht das eigentlich wenn ich zum Beispiel die kantische Ethik, die eher so ein Nachprinzipien arbeitet und eine utilitaristische Ethique, die er nach meiner Folgeräutung arbeiten.

01:14:01: Das macht einen bisschen Unterschied.

01:14:03: Und dann kann man noch so eine Tugend-Ethik versuchen einzubauen und sozusagen dazu einem Kompromiss zu kommen der

01:14:09: akzeptabel ist.

01:14:12: also sagen wir mal zumindest die Situation verbessert gegenüber einem reinen technischen Algorithmus Und das, glaube ich, ist uns gelungen.

01:14:20: Also wir haben da und auch in anderen Bereichen versucht Lösungen zu finden die man so tatsächlich eben wie sie schon sagen einprogrammiert in die Systeme, in die ganz konkreten Algorithmen, die dort arbeiten und die Situation verbessern, vermöglicht vielen.

01:14:34: Die sind vielleicht nicht optimal und dann kann man auch darüber reden sollte dass es dieser deuteristische Komponente hier zu stark gibt es vielleicht auch kulturelle Spezifizäten da.

01:14:45: wirklicherweise muss man das in China etwas anderes programmieren.

01:14:48: Darüber wird diskutiert, aber im Grundsatz her ist es etwa so läuft es ja?

01:14:54: Also sie werden gefragt von den Entwicklern der Software bei die selber sagen okay wir haben da bestimmte Themen.

01:15:01: Da setzt sich voraus dass bei denen schon der Kette Star ist, dass man da was machen muss.

01:15:04: Das könnt ihr auch sonst eigentlich gesagt.

01:15:06: und wiederum care.

01:15:07: Gut jetzt können wir natürlich sagen die kommen dann nicht zu uns.

01:15:10: Aber

01:15:12: es sind erstaunlich viele, und zwar also sowohl kleinere, mittelständische als auch Großunternehmen die das genau sehen diese Problematik.

01:15:19: Und die erkennen dass sind letztlich betriebswirtschaftliche Risiken, die man vermeiden will.

01:15:27: So sehe ich eigentlich Ethik, das ist Risiko-Management und zwar auch im Bereich KI.

01:15:33: wenn es nicht mit betriebtswirtschaftlichen Risiken verbunden Ist oder wäre, dann muss man sich damit nicht wirklich beschäftigen.

01:15:41: Aber das ist es eben und wird von vielen sehr bekannt.

01:15:44: Wenn man als Ethiker nur kommt und sagt Leute ihr müsst das X-Eins bis zu ca.

01:15:49: twenty five tausend diese Punkte alle berücksichtigen Dann hat man vielleicht erst mal ein bisschen Aufmerksamkeit.

01:15:54: aber das hatten keinen dauerhaften Erfolg glaube ich auch nicht für die Ethik.

01:15:59: Das heißt, die sind auf jeden Fall optimistisch für die Ethik innerhalb der KI also für ihr Institut.

01:16:05: Da gibt es noch viel zu tun und sie sind nicht negativ in schade-deutscherweise sagen Es gibt ja an der TUM, die ich ja auch sehr schätze durchaus noch eben dann die Dinge sich quasi auf die Betriebssysteme setzen um in ihrem Bild zu bleiben da gibt's doch genug Chancen vor uns voran zu marschieren Und die brauchen dann bestimmt auch hier und da mal den Rat eines Ethikers oder?

01:16:24: Absolut!

01:16:24: Also das Interesse wird eher mehr Also sowohl auch nicht nur eben in wissenschaftlicher Hinsicht, sondern eben auch in der Entwicklungshinsicht und das Interesse von der Industrie.

01:16:34: Ich bin eigentlich sehr optimistisch Und vielleicht sollten wir uns auch in Deutschland nicht so immer nur an dem einen Punkt festmachen, dass wir jetzt keinen großen Player haben wie eben Open AI XAI oder die anderen.

01:16:48: Sondern sehen wo können wir jetzt gut sein?

01:16:51: In welchen Bereichen?

01:16:52: In welche Bereichen sollten die Player, die wir noch haben umsteuern?

01:16:57: Das betrifft zum Beispiel die Automobilunternehmen.

01:17:00: da ist lange Zeit ist man in falsche Richtung gerudert oder mit falschen Mitteln.

01:17:04: das ist ein großes Thema aber noch ist Substanz da.

01:17:07: Da könnte noch einiges passieren und da könnte man jetzt noch geredet werden, glaube ich.

01:17:13: Und die KI-Ethik kann, glaube Ich dazu ihren Beitrag leisten.

01:17:16: Professor Lücke, vielen herzlichen Dank an das Vereinsdruckertour du Ressort vom grundlegenden Form der Ethik.

01:17:20: Warum?

01:17:21: Und wieso?

01:17:21: über dieses skandale China bis hin zur Zukunft?

01:17:25: Das war hochspannend.

01:17:25: Vielen herzliche Dank für Ihre Zeit!

01:17:27: Und ich behoffte bleiben in Kontakt und können es bei Gledegnern darauf fortsetzen.

01:17:30: Ja, vielen Dank!

01:17:31: Danke Ihnen!

01:17:39: So weit mein Gespräch mit Prof.

01:17:41: Christoph Lütke.

01:17:43: Was ist mein Fazit?

01:17:44: Erstens.

01:17:45: Die Vorfälle, die wir am Anfang gehört haben sind kein Grund zur Panik aber natürlich ein Grund zum Handeln.

01:17:53: Ich denke nicht dass die KI-Ausbrüche vorboten einer Maschinen Apokalypse sind.

01:17:59: Sie sind das erwartbare Ergebnis eines Systems Das inzwischen so leistungsfähig ist Dass klassische Kontrollmechanismen nicht berichtig greifen können.

01:18:09: Wer wegschaut macht denselben Fehler In den ersten Jahren des Internets.

01:18:13: Er hält die Kinderkrankheiten für den Endzustand und die spätere Reife vorunmöglich.

01:18:18: Beobachtung II Die richtige Frage ist nicht gut oder böse?

01:18:22: Wer die Ausbrüche im Kategorisierungsrahmen von Gut- oder Bösen diskutiert, hat schon verloren.

01:18:28: Wie KI ist ein Werkzeug?

01:18:30: Werkzeuge sind neutral.

01:18:32: Was zählt ist der Regelrahmen in dem sie eingesetzt werden.

01:18:36: Professor Lützke habe es eine Ordnungsethik genau die Denkschule aufgezeigt, die uns dabei hilft genau diesen Rahmen zu setzen.

01:18:45: Beobachtung drei Der AI-Akt ist die falsche Antwort.

01:18:51: Wir haben es gesehen, er ist gut gemeint und den weiten Teil noch durchaus vernünftig aber er ist so star zurückwärtsgerichtet und trifft ihr eigentlich riesige Quellen kaum.

01:19:01: Regelte Anwendungen wären die Vorfälle im Labor passieren.

01:19:05: Er verteuert ihre Entwicklung für kleine europäische Anbieter und stärkt damit die US-Wettbewerber Ihr ja eigentlich einhegen sollte.

01:19:14: Und vor allem ersetzt er keine fehlende deutsche oder europäische KI-Kompetenz, die brauchen wir aber wollen wir auch am weltweiten Tisch sitzen denn es darum geht Standards zu setzen.

01:19:27: Beobachtung vier Wir brauchen Kompetenz und Teilhabe statt Regulierung.

01:19:33: Deutschland hat kein Frontiermodell und keine ernstzunehmende KI.

01:19:37: Grundlagenforschung im industriellen Maßstab Wenn ich selbst baut versteht ihr Risiken nicht und kann sie nicht einhegen.

01:19:44: Und wenn ich baut, sitzt dich da am Tisch um die globalen Standards zu verhandeln.

01:19:49: Beides, Kompetenz und Teilhabe muss Grundlage einer deutschen KI-Strategie wäre.

01:19:55: Und letztlich fünftens – das wird Sie nicht wundern – ohne Strom kein KI!

01:20:00: Da KI im Kern nichts anderes ist als umgewanderte Energie, muss man wissen dass Energie im Überfluss günstig und zuverlässig eine Voraussetzung um überhaupt in der KI-Welt eine Rolle zu spielen.

01:20:14: Dass die Bundesnetzagentur zeitgleich Notfallpläne erarbeitet für Strommannellagen unterstreicht, wo wir sind.

01:20:23: Energiewende und das Abschalten der Turmkraftwerke führt nicht nur zur einer Schwächung der gestehenen Industrie stichwort Deindustrialisierung sondern ist natürlich ein großes Hemdes wenn es darum geht bei der KI Infrastruktur in Deutschland aufzubauen.

01:20:40: Wenn die Projekte das nicht schnell ändert, dann soll sie endlich aufhören von KI zu schwarfeln denn KI ohne Billige Energie findet nicht in Deutschland statt.

01:20:53: Soweit meine Gedanken zum Thema KI und Ethik und die Rolle Deutschlands in dieser Welt.

01:21:00: Ich hoffe ich habe Ihnen am Anfang nichts zu viel versprochen dass es durchaus eine spannende Folge ist.

01:21:06: wie immer Freue ich mich auf Fragen, Feedback, Kritik und Anregungen.

01:21:11: Ich plane sogar eine Podcast-Folge in der es nur um Ihre Fragen geht!

01:21:20: Bis dann ist das auch eine Weile hin – ganz langehin ist es nicht bis zur nächsten Folge von BTO Refresh am kommenden Mittwoch oder natürlich bis zur neuen Ausgabe vom BTO am kommende Sonntag.

01:21:31: Ich freue mich wenn Sie dann jeweils hier mit dabei sind und wünschen bis dahin alles Gute.

01:21:37: Ihr Daniel Stelter

01:21:38: Sieh auf wie es featured bei Handelsblatt.