Centre for Ethics and Responsibility (ZEV)

Yvonne Hofstetter: Killobots - Das Video

Thursday 28 November 2019

Cyberwar, hybride Bedrohung, Online-Spionage – Begriffe, die viele Menschen verunsichern. Yvonne Hofstetter, Juristin und seit vielen Jahren in verschiedenen Funktionen im IT-Bereich tätig, befasste sich in der Ringvorlesung am 21. November mit der Frage: Wie gehen Politik und Gesellschaft unter Wahrung ethischer Grundsätze mit der Entwicklung sogenannter Umgebungsintelligenz um?

Der Umgang mit kognitiven Waffensystemen ist eine der großen sicherheitspolitischen Herausforderungen im 21. Jahrhundert.

IlviRdFVkqeLVEHx1PtPl_dXNi5zqtu3w0nBFfov_rE.jpg
Der Umgang mit kognitiven Waffensystemen ist eine der großen sicherheitspolitischen Herausforderungen im 21. Jahrhundert.
20191121 ZEV-Ringvorlesung Yvonne Hofstetter Foto S. Flessing 84 (DE)

Alle Geräte, die mit dem Internet verbunden sind, autonome (tödliche) Waffensysteme wie die „Killobots“ eingeschlossen, bilden unsere Umgebungsintelligenz. Angetrieben wird die Entwicklung künstlicher Intelligenz (KI) durch die Wirtschaft. KI soll uns im Alltag unterstützen. Sie muss in der Lage sein, anspruchsvolle Aufgaben zu erledigen und damit auch Entscheidungen zu treffen. Dafür ist eine polymorphe Software nötig. Diese komplexen Algorithmen sind jedoch schwer zu kontrollieren. „Unsere Kommunikationsstruktur ist gleichzeitig eine Überwachungsstruktur“, so Yvonne Hofstetter.

Bezogen auf die mobilen autonomen Waffensysteme sagte Hofstetter: „Die neusten Entwicklungen sind gefährlich für das geopolitische Gleichgewicht!“ Staatliche Verantwortung ist gefordert. In Genf befasst sich die UNO mit dem Thema und auf europäischer Ebene diskutiert die EU-Kommission über Haftungsregeln für KI.

20191121 ZEV-Ringvorlesung Yvonne Hofstetter Foto S. Flessing 37_16-9 (DE)

Welche Rolle spielt die persönliche Verantwortung von Technologen und Informatikern in dem Zusammenhang? Hier war die Rede von „Ethics-by-Design“  also digitaler Ethik.

Die anschließende kontroverse Diskussion zeigte, dass noch Vieles ungeklärt ist. Die weltweit unterschiedlichen Auffassungen von Ethik, Moral und Verantwortung sind nur ein Grund dafür, dass eine globale Antwort auf die Fragen so schwer zu finden ist.