Diese Website verwendet Cookies, um das Angebot nutzerfreundlicher und effektiver zu machen. Mit der Nutzung dieser Website stimmen Sie der Verwendung von Cookies zu. Weitere Informationen über die Verwendung von Cookies und die Möglichkeit der Verwendung von Cookies zu widersprechen, finden Sie hier.

Use #netlaws

11. - 12. November 2020 // Nürnberg, Germany

Net.Law.S Newsroom

Entwicklung von artifizieller Intelligenz

Künstliche Intelligenz aus Juristensicht

Künstliche Intelligenz aus Juristensicht
„Es fehlt vielerorts an einem offenen und faktenbasierten Diskurs zu den Themen rund um Artificial Intelligence“

Mit Künstlicher Intelligenz (KI) beziehungsweise Artificial Intelligence (AI) verbinden die Deutschen ganz unterschiedliche Dinge: vom digitalen Sprachassistenten bis zum Jobs ersetzenden Roboter, vom Allheilmittel bis zur Apokalypse. Wir haben mit zwei Top-Juristen und Net.Law.S Speakern über ihre Sicht der Dinge sowie Chancen und Risiken gesprochen: Prof. Dr. Thomas Klindt , Fachanwalt für Verwaltungsrecht sowie Rechtsanwalt und Partner bei Noerr LLP, und Philipp Reusch, Gründer und Geschäftsführer von reuschlaw Legal Consultants.

Auf die Frage, wann KI-Systeme als Speaker für Konferenzen gebucht werden, statt menschliche Experten, antwortete Klindt: „Wenn KI-Systeme als Zuhörer im Raum sitzen, vorher nicht.“ Reusch antwortete dagegen mit einem Augenzwinkern: „Wenn nach meinem Vortrag niemand zufrieden ist, wird es bald soweit sein.“

Net.Law.S: Nutzen Sie in ihrem privaten Umfeld Siri, Alexa oder den Google-Assistenten?

Philipp Reusch: Keines davon.

Thomas Klindt: Nein, ich nutze ebenfalls keinerlei Sprachassistenten. Diese Technik gibt eine Antwort auf eine Frage, die jedenfalls ich bisher noch nicht gestellt habe. Das mag sich aber etwa im Alter als Hilfe barrierefreier Umgebung ganz anders darstellen.

Warum herrscht gerade in Deutschland eine so große Skepsis gegenüber diesen intelligenten Sprachassistenten, die doch vieles so einfach machen?

Reusch: Weil wir eine zu Recht kritische Distanz zu Diensten haben, die wir nicht komplett verstehen oder überblicken, denke ich.

Klindt: Ich nehme diese Skepsis nicht – oder jedenfalls nicht im Vergleich zu anderen Staaten als größer – wahr. Algorithmisch unterstützte, lernende Sprachkommandos im privaten Umfeld kennen ja viele längst aus dem eigenen PKW. Auch da allerdings ist die bequeme Vereinfachung in meiner Wahrnehmung doch eher granular.

Ist diese Sorge berechtigt?

Klindt: Ein gesundes Maß an Skepsis ist wohl der Tatsache geschuldet, dass und in welchem Umfang die „programmierte Unbeherrschbarkeit“ am heutigen Gerätemarkt vorherrscht: Mit jedem Bericht über unautorisiertes Mithören, über Lauschen trotz Off-Funktion und über verblüffend passende Werbung auf anderen Kanälen steigt die Unruhe in der Öffentlichkeit, ob hier echte Privatheit möglich ist. Das ist übrigens ein gravierender Unterschied zu Spracherkennungstechniken im Pkw – technisch wie atmosphärisch.

Reusch: Die Sorgen sind bis zu einem bestimmten Punkt sicherlich berechtigt, hierzu genügt tatsächlich ein Blick in die Medien über die Ereignisse rund um Facebook, Cambridge Analytica oder aber auch Data Breaches bei vielen Unternehmen. Die größte Gefahr für die Privatsphäre und die Nutzerdaten dürfte aber nicht aus den USA, sondern aus China drohen.

> Jetzt Net.Law.S Tickets kaufen <

Ist unsere Gesellschaft denn überhaupt vorbereitet auf Fragen, die sich durch die Möglichkeiten der Künstlichen Intelligenz ergeben?

Reusch: Schwer zu sagen, meines Empfindens fehlt es vielerorts an einem offenen und faktenbasierten Diskurs zu den Themen rund um Artificial Intelligence.

Klindt: Von mir ein klares Nein: Vorbereitet kann nur sein, wer etwas substanziell kennt. Die Einflüsse und Wechselwirkung von Digitalisierung, Künstlicher Intelligenz, Netzpolitik und Technologien wie BCI (Brain-Computer-Interface) sind in meiner Wahrnehmung eher kleinen Diskussionsblasen vertraut, nicht aber einer breiten Öffentlichkeit.

Ist dann aber zumindest unser Rechtssystem vorbereitet auf derartige Fragen?

Klindt: Recht folgt gesellschaftlichen Veränderungen, die mehrheitsfähig geworden sind. Insofern kann das Recht tendenziell nicht schneller nachjustieren als gesellschafts- und rechtspolitische Forderungen auf dem Tisch liegen.

Man muss allerdings sagen, dass Fragen der rechtlichen Vertragsbindung bei M2M-Contracts oder die Integration rechtlicher Wertungsbegriffe in KI-Ablauflogiken nicht ansatzweise befriedigend gelöst sind.

IP-Schutz im 3-D-Druck, Betreiberhaftung bei autonom agierenden Robotiksystemen, zufällige Kartellbildung durch parallel agierende KI-Einkaufssysteme – es gibt viele Stolpersteine, die zum Teil noch gar nicht richtig durchschaut sind.

Reusch: In absolut überwiegendem Maße tatsächlich nicht. Aber das halte ich ebenso für normal wie Herr Klindt. So ist das auch bei früheren Sprungentwicklungen in westlichen Industriegesellschaften abgelaufen. Frappierend ist allerdings der derzeit zu beobachtende Unterschied der Geschwindigkeit, mit der sich reale Welt und staatliche Regelung bzw. Regulierung entwickeln.

In welchen Bereichen sollten wir offener für KI-Lösungen sein?

Klindt: Wir sollten KI grundsätzlich immer offen gegenüberstehen, wenn wir zum einen wissen, was wir von ihr wollen, und wenn wir zum anderen durchsteuern können, dass wir das bekommen. Dann haben wir wahrhaft hilfreiche Technologie erfunden. Ansonsten schaffen wir bloß eine Blackbox, mit der wir mutig Topfschlagen spielen. Ohne Integration rechtlicher, ethischer und auch kultureller Wertungen in gesellschaftsrelevanten KI-Entscheidungen und ohne ausgereifte Anti-Bias-Forschung schaffen wir nur Hochleistungsalgorithmen, deren Ergebnisse wir nicht plausibilisieren können.

Reusch: Kurz und knapp: In allen. Im Übrigen genau so, wie wir in allen Bereichen Vorsicht walten lassen sollten.

Klindt: Obacht ist dort geboten, wo (menschen-)rechtsrelevante Entscheidungen KI-basiert sind, ohne dass wir verstehen, aufgrund welcher Datenbasis und aufgrund welcher Logik im Entscheidungsstammbaum jene Entscheidungen überhaupt gefallen sind. Und da sollten wir uns auch nichts vormachen: KI in diesen Bereichen wird von den Betroffenen gar nicht akzeptiert werden, wenn just darüber keine Klarheit besteht.

> Jetzt Net.Law.S Tickets kaufen <

Welche spannenden Entwicklungen im Arbeitsumfeld sehen Sie, bei denen KI eine positive oder negative Rolle spielt?

Klindt: Legal Tech ist in aller Munde, klar. Die Algorithmisierung juristischer Empfehlungen oder gar Entscheidungen ist ein heißes Thema, bei dem meines Erachtens zu viel Optimismus herrscht – oder auch gravierende Missverständnisse über das Wesen rechtlicher Ergebnisse. Vieles wird unzulässig versimplifiziert, trivialisiert und chronisch unterschätzt. Dass jedenfalls westliche Zivilgesellschaften ihr Rechtssystem trotz richterlicher Vollprofis mit einem (ggf. mehrzügigen) Instanzenzug ausgestattet haben, sollte dazu mahnen, Rechtsentscheidungen nicht vorschnell als binär codierbar zu verstehen.

Reusch: Ich halte Legal Tech für ein deutlich weniger spannendes Gebiet, als es derzeit scheint. Dafür sind die KI-basierten Geschäftsmodelle unserer Kunden ein Gebiet, in dem Boutiquen wie wir erhebliche Anteile an der Gestaltung bieten können.

Worin besteht die Kernthese Ihres Net.Law.S Vortrags?

Reusch: KI-nutzende Unternehmen und ihre Produkte benötigen eine rechtliche Referenzarchitektur, um die bereits heute geltenden Regelungen auch für KI abbilden zu können.

Klindt: Ich fokussiere mich auf die Sorge, ob wir erstmals in der Menschheitsgeschichte ein „predictive life“ bekommen werden, in dem wir verloren haben werden, dass das Morgen eine Unbekannte ist.

Vielen Dank für die Antworten.

Jetzt Net.Law.S Ticket sichern

top