An der TUM befasst sich Akanksha in ihrer Doktorarbeit mit der Frage, wie die Funktion und Rolle von „Rule of Law“ (Rechtsstaatlichkeit) bei der Festlegung von Designzielen, Entscheidungen und Standardisierungen zur Konfiguration von Distributed Ledger Technologies (DLT) auf verschiedenen Ebenen Einfluss nehmen kann. Hierbei behält sie die Beziehung zu Mensch und Gesellschaft im Auge; ebenso wie sich DLT auf die historische und soziale Dimension des Ökosystems der Rechtsstaatlichkeit auswirken würden. Sie verwendet sowohl theoretische als auch sozio-technisch-rechtliche Ansätze, um die Koexistenz von DLT (Lex cryptographia ecosystem) und Rechtsstaatlichkeit zu erforschen und die Möglichkeiten zur Gestaltung einer harmonischen, von der Rechtsstaatlichkeit angetriebenen Entwicklung und Einführung von DLT zu untersuchen. Dabei geht es nicht nur um die Festlegung rechtlicher oder ethischer Grenzen zu Regulierungszwecken, sondern auch um die Erforschung eines Rechtsrahmens, in dem die DLT als öffentliches Gut gedeihen kann.

Projektleitung: Akanksha Bisoyi

Projekttyp: Promotionsprojekt

Das Datenschutzrecht ist heute zu einer wichtigen und unverzichtbaren Voraussetzung für das Handeln in Organisationen geworden. Ziel des Projekts ist es, Studierende und Forschende der TUM im sicheren und gesellschaftlich verantwortlichen Umgang mit Daten zu schulen. Dazu wird ein umfassender asynchroner Online-Kurs in englischer Sprache erstellt, der grundlegendes Rechtswissen zu wichtigen Aspekten der Data Governance vermittelt. Dabei geht es nicht nur um Datenschutz, sondern auch um das Teilen, Veröffentlichen und Zugänglichmachen von Daten und den damit verbundenen Umgang. Die Kursteilnehmer lernen nicht nur die grundlegenden Strukturen dieser dynamischen rechtlichen Fragen kennen, sondern werden auch mit Problemen vertraut gemacht, denen sie in ihrer täglichen Arbeit begegnen. Fragen des Forschungsdatenmanagements sollen sich wie ein roter Faden durch den Kurs ziehen. Darüber hinaus verbessert der Kurs das allgemeine Rechtsverständnis und bringt die Teilnehmer dem Ziel näher, Human-Centered Engineering selbständig realisieren zu können.

Projektleitung: Akanshka Bisoyi

Das REMODE Projekt entwickelt eine partizipative Risiko-Governance Methode und Toolbox für Social-Media-Plattformen. Durch die partizipative Gestaltung soll die Autonomie der Nutzer:innen verbessert, verantwortungsvolle Governance gefördert und Ansätze für ‚law and ethics by design‘ umgesetzt werden. Damit reagiert REMODE auf die allgemeine Forderung, Nutzern stärker in die Gestaltung von Social-Media-Plattformen einzubinden.

Soziale Medien prägen unsere Erfahrungen und Welt online: wen wir treffen, welche Inhalte wir sehen, welche Informationen wir erhalten, all das wird durch Verfahren zur Moderation von Inhalten und durch Empfehlungssysteme zur Personalisierung von Inhalten bestimmt. Diese Verfahren und Systeme können die Autonomie von Nutzer:innnen einschränken und sie einer Vielzahl an Risiken aussetzen. Aktuelle politische, soziale und gesundheitliche Krisen machen die Schwächen Sozialer Medien beim Umgang mit Falschinformationen und Hassrede deutlich. Darüber hinaus können junge Menschen durch die Art und Weise, wie Inhalte personalisiert werden, zu selbstschädigendem Verhalten angeregt werden. Um Risiken wie diesen zu begegnen, bedarf es einer angemessenen Einbindung von Nutzer:innen in die Bewertung risikomindernder Maßnahmen und Gestaltungslösungen.

Jüngste Initiativen der EU, wie das Gesetz über digitale Dienste (Digital Services Act), stellen rechtliche Anforderungen an große Social-Media-Plattformen hinsichtlich der Bewertung von Risiken und der Gestaltung von Maßnahmen zur Risikominderung. So sollen Plattformen beispielsweise Nutzer:innen und andere Personen, die von der Plattform beeinflusst werden, beteiligen.

Ziel von REMODE ist es, eine partizipative Risk-Governance-Methode und Werkzeuge zu entwickeln, um die Einbindung von Bürgern zu verbessern und erweitern. Die Methode basiert auf Ansätzen zur partizipativen (Technologie-)Bewertung und Gestaltung. Die enge Zusammenarbeit mit allen Stakeholdern ist für die Entwicklung und Anwendung der Methode und Werkzeuge unbedingt notwendig.

Welche Ergebnisse sind zu erwarten?

· Eine partizipative Methode und Werkzeuge, um die Öffentlichkeit in die Bewertung und Gestaltung von Social-Media-Plattform einzubinden.
· Eine Sammlung von ‚best practices‘ für die gemeinsame Gestaltung von Empfehlungssystemen und Verfahren für die Moderation von Inhalten in Sozialen Medien.
· Ein Überblick über mögliche Gestaltungslösungen hinsichtlich der Risiken, die mit Sozialen Medien verbunden sind.
· Multi-Stakeholder-Beteiligung bei der Entwicklung der Methode.

Projektleitung: Prof. Dr. Christian Djeffal, Daan Herpers MA

Zeitraum: 01.07.2022-31.06.2023

Dieses Projekt untersucht Fragen des Schutzes der Rechtsstaatlichkeit und der „Rule of Law“ im Zuge der Schaffung, Umsetzung und Aufrechterhaltung von COVID-19 Kontrolltechnologien.

Projektleitung: Prof. Dr. Christian Djeffal, Prof. Dr. Mark Findlay

Zeitraum: 01.09.2020 – 01.09.2021

Fördergeber: Institute for Ethics in Aritifical Intelligence (IEAI) TUM

Themen: COVID-19; Rule Of Law; Law by design; Critical Design; Privacy Preservation; Contact Tracing, Control Technologies

 

Programme, die Sprache mit Hilfe von KI verwerten können, haben ein enormes disruptives Potenzial, das Möglichkeiten für Fortschritte in Bereichen bieten könnte, die von diesen Technologien bisher kaum oder gar nicht erfasst wurden. Der Rechtssektor ist hierfür ein hervorragendes Beispiel. Jüngste Fortschritte durch neue Anwendungen wie BERT von Google und GPT3 bieten neue Perspektiven für Innovation und könnten dazu beitragen, bekannte Probleme des Rechtswesens wie die Schaffung von Zugangs zum Recht zu überwinden. Allerdings sind weder Voraussetzungen noch die ethischen, rechtlichen und sozialen Auswirkungen der Anwendung von KI-Sprachprogrammen ausreichend erforscht. Das Projekt NLawP, eine Kooperation zwischen der Professur für Law, Sciences and Technology und dem Lehrstuhl für Software Engineering for Business Information Systems untersucht, wie sich KI-Technologien auf den Rechtssektor auswirken können. Als Basis für weitere Forschung werden wir eine Übersicht über aktuelle Entwicklungen und zukünftige Trends in der Forschung und auf dem Markt für Legal Tech durch den Austausch mit relevanten Akteuren in diesem Bereich erstellen.

Dieses Projekt wird den Stand der Technik und aktuelle Informationen über die Auswirkungen von KI auf den Rechtsbereich erfassen. Das Mapping soll zu einem besseren Verständnis dafür führen, wie spezifische Designentscheidungen ethische, rechtliche und soziale Aspekte verbessern. Mit ihrem multiperspektivischen Ansatz hat die Übersicht das Potenzial, ein zentraler Bezugspunkt der Debatte zu werden.

Ausgehend hiervon wird das Forschungsteam untersuchen, welche regulatorischen Entscheidungen getroffen werden müssen, um eine verantwortungsvolle und effiziente Einführung von sprachverarbeitender Software zu ermöglichen. Das Projekt wird die Erforschung dieses aufstrebenden Bereichs der KI im Hinblick auf Innovation, Übernahme, verantwortungsvolle Nutzung und Infrastrukturen ermöglichen. Ebenso soll die Forschung auch die nachfolgenden Schritte in Bezug auf eine nachhaltige Dateninfrastruktur für den juristischen Sektor und mögliche Innovationen und Vorstellungen der Beteiligten aufzeigen.

Mehr Informationen finden Sie hier.

Projektleitung: Prof. Dr. Christian Djeffal; Prof. Dr. Florian Matthes

Das Projekt verfolgt das Ziel der datenschutzsensiblen Ermittlung von Kontakpersonen, insbesondere in Arbeitsumgebungen. Hierzu werden auch „law by design“ und „critical design“ Ansätze eingesetzt.

Projektleitung: Prof. Dr. Gerog Carle, Prof. Dr. Marc-Oliver Pahl

Zeitraum: 01.09.2020 – 01.06.2021

Fördergeber: Deutsch-Französische Akademie für die Industrie der Zukunft

Themen: COVID-19; QRONITON; Law by design; Critical Design; Privacy Preservation; Contact Tracing

 

Digitization in highly regulated spaces such as the healthcare sector and legal domain requires interdisciplinary views on legal requirements and technical applications. Artificial Intelligence can be used for the betterment of society, but will also bring about a new dimension to the practice in these fields. ‘Excellence in research and teaching’ requires students that can think outside the traditional boundaries of research cultures. By focusing on bringing students together with different backgrounds, this week will bolster the students’ interactional expertise and help them with questions that exist in this new dimension. It prepares the current and next generation of engineers and social scientists to better understand AI and its implications.

The Plug-in module “Mapping digitization in highly regulated spaces” will allow highly motivated students to analyze digital applications of artificial intelligence in interdisciplinary teams, and to gain in-depth knowledge about the legal frameworks of technology and its social impact. Students from the various departments will focus on state-of-the-art applications from the healthcare industry and legal domain. These fields will be at the center of discussion since they are socially impactful, highly regulated, and are expected to transform heavily with the rise of AI. In line with the strategy of excellence, it allows students to reflect on technical developments in the sense of „Responsible Research and Innovation“ in these fields. Using concrete cases, students learn about legal requirements and regulatory mechanisms as well as technical implementation possibilities. Where the learning moments for engineers will be developed through understanding the ethical implications of the technologies or the legal requirements for implementation, students with a social background will have these moments by understanding how AI functions and what phenomena such as ‘biased AI’ means. By doing so, they gain experience with legally compliant technical designs but also learn to record and share their findings through interesting and impactful outputs. Not only is it important to share the output with fellow students, but also to make it accessible for other groups in society. Through media such as podcasts and videos, students can share their findings in an open-access digital environment.

Projektleitung: Dr. Eduardo Magrani

Zeitraum: 01.09.2020 - 31.08.2021

Projekttyp: Plug-in Module

Fördergeber: Internal Funding

Das Projekts Coding Public Value erprobt neue Methoden für ein gemeinwohlorientiertes Software Engineering und geht dabei der Frage nach, wie die rechtlichen, politischen und nutzerorientierten Anforderungen an gemeinwohlorientierte öffentliche Kommunikation in Anforderungen, Methoden und Qualitätssicherungsverfahren für die Entwicklung von Software umgesetzt werden können. Dabei werden institutionelle, politische und organisationale Bedingungen für öffentlich-rechtliche Medienplattformen mit Ansätzen des empirischen Softwareengineering in einen Dialog gebracht. Die Entwicklung dieser Methoden wird dabei über die Involvierung relevanter Stakeholder mit einer breiten Öffentlichkeit konfrontiert und von dieser informiert. Das Projekt bindet dazu in einem interdisziplinären Verbund Science & Technology Studies, Kommunikationswissenschaft, Rechtswissenschaft und evidenzbasierte Softwaretechnik zusammen.

Projektleitung: Prof. Christian Djeffal, PD Dr. Jan-Hendrik Passoth, Assoc. Prof. Dr. Daniel Mendez, Prof. Dr. Hans-Bernd Brosius, Prof. Dr. Wolfgang Schulz

Zeitraum: 01.01.2020 - 31.03.2023

Projekttyp: Drittmittelprojekt

Fördergeber: bidt

Das Projekt entwickelt gemeinsam mit Kollegen aus der Linguistik und dem Public Health Sector eine digitales Angebot (Web App/App) zur Kommunikation von nährwert- und gesundheitsbezogenen Angaben (Health Claims). Die Entwicklung wird dabei ethnographisch begleitet und in Bezug auf verantwortliches Software Design und Partizipation von Interessens- und Betroffengruppen betraten.

Projektleitung: Prof. Dr. Rodney Jones (University of Reading), Jaed Kahn (FoodMaestro), Bridget Benelam (British Nutrition Foundation), Prof. Dr. Christian Djeffal

Zeitraum: 01.2020 - 12.2021

Projekttyp: ["Drittmittelprojekt \/ Third-party funded Project"]

Fördergeber: EU EIT Food

Motivation

Digitale Technologien dringen immer tiefer in unseren Alltag ein und bestimmen unser Leben und unser Zusammenleben. Bei der Gestaltung dieser Technologien spielt die Rechtsberatung oft eine wichtige und vielleicht noch unterschätzte Rolle. Im Projekt wird beleuchtet, inwiefern das Recht als Gestaltungsressource fruchtbar gemacht werden kann.

Ziele und Vorgehen

Ziel ist es, die Rechtswissenschaften als ko-produktive Kraft und Ressource für Technikgestaltung auszuloten und den Einsatz von Recht und Technik kooperativ zu gestalten. Dazu entwickelt und verbessert das Projekt zwei Interventionsansätze,

die auf Rechtsberatung bei der Technikgestaltung abzielen. Eine Intervention befasst sich mit der rechtskonformen Gestaltung der Technik, während sich die andere Intervention mit Innovationsprozessen beschäftigt, die der Umsetzung von Zielen aus Ethik, Recht und Gesellschaft dienen. Beide Interventionen sollen iterativ entwickelt, erprobt, reflektiert und verbessert werden, das heißt einer guten Lösung soll sich schrittweise genähert werden. Dabei steht das Projekt in fortwährendem Dialog mit der Fachöffentlichkeit und der allgemeinen Öffentlichkeit.

Innovationen und Perspektiven

Durch zwei Interventionen werden kreative und originelle Ansätze zur besseren Verankerung rechtlicher, aber auch ethischer und sozialer Aspekte in Technikentwicklungsprojekten erprobt. Diese Interventionen sollen als Methoden den Baukasten der rechtlichen Technikentwicklungsberatung erweitern.

Projektleitung: Prof. Dr. Christian Djeffal;

Zeitraum: 31.03.2021-28.02.2024

Fördergeber: Bundesministerium für Bildung und Forschung

Ziel des Projekts „Künstliche Intelligenz und Übersetzung in der öffentlichen Verwaltung“ ist es, dass Potential von KI-Übersetzungssoftware für die öffentliche Verwaltung auszuloten. Dabei sollen Möglichkeiten, Anforderungen und die Machbarkeit nach dem Stand der Technik thematisiert werden. Die Qualität automatisierter Übersetzungen wurde in den vergangenen 10 Jahren auf ein völlig neues Niveau gehoben. Künstliche neuronale Netze erarbeiten Übersetzungsvorschläge, die zwar noch nicht an menschliche Leistungen heranreichen, aber dennoch von vielen Übersetzungsbüros als Ausgangsübersetzungen verwendet werden. Im Projekt soll jedoch auch erörtert werden, inwiefern bestehende Technologien innovativ in neue Kontexte gesetzt werden können.

Projektleitung: Christian Djeffal

Zeitraum: September 2019 - December 2020

Projekttyp: Drittmittelprojekt

Fördergeber: Nationales E-Government Kompetenzzentrum

 

In den letzten Jahren haben immer mehr Künstler angefangen, mit dem neuen Medium Virtual Reality (VR) zu experimentieren und immersive, computergenerierte Welten zu erschaffen. Es gibt bereits viele Museen, Galerien und Festivals, die sich dem Thema VR-Kunst gewidmet und VR-Kunstwerke ausgestellt haben. Trotz der Vielzahl junger als auch bereits etablierter Künstler, die mit dem Medium VR experimentieren und trotz des Einzugs zahlreicher VR-Kunstwerke in wichtige und weniger wichtige Kunstausstellungen, steht Virtual Reality noch am Anfang und ist erst dabei sich als neues Kunstmedium und als neue Kunstform zu entwickeln und entsprechend die eigene medienspezifische visuelle Sprache, Ästhetiken, Inhalte und Themen zu finden. Vor diesem Hintergrund untersucht diese Dissertation die Entwicklungs- und Etablierungsprozesse des Mediums Virtual Reality zu einem neuen Kunstmedium sowie zu einer neuen Kunstform. Dabei steht einerseits die Frage danach im Vordergrund, wie und unter welchen Umständen ein neues Medium zu einem Kunstmedium wird und wie sich daraus neue Kunstformen ergeben. Anderseits wird aber auch betrachtet, wie sich VR-Kunst im institutionellen Geflecht der Kunstwelt etabliert bzw. ihre eigene Kunstwelt aufbaut. Welche Strategien und Methoden werden dabei von wem angewendet und warum? Schließlich wird in dieser Dissertation untersucht wie diese zwei Prozesse, nämlich der Prozess des Werdens eines Kunstmediums sowie einer Kunstform einerseits und der Prozess der institutionellen Etablierung der VR-Kunst innerhalb der Kunstwelt anderseits, miteinander zusammenhängen und sich wechselseitig bedingen.

Diese Fragen werden mit ethnografischen Methoden angegangen, wie etwa Dokumentanalysen, semi-strukturierten Interviews mit verschiedenen Experten innerhalb der Kunstwelt sowie Feldforschung im Atelier von Künstlern, die mit der Technologie Virtual Reality arbeiten. Durch die Untersuchung der Entwicklung von Virtual Reality zu einem künstlerischen Medium sollen die Soziologie der Künste, die Ansätze der Science and Technologies Studies über Kunst sowie Medientheorien miteinander in den Dialog gebracht und erweitert werden.

Projektleitung: Mariya Dzhimova

Zeitraum: Seit Januar 2017

Projekttyp: Promotionsprojekt / PhD Project