#AI
#Künstliche Intelligenz
Artikel

Warum die Welt der Künstlichen Intelligenz eine intelligente Regulierung braucht

Vom 27.08.2019

Technologien wie die Gesichtserkennung mit KI werden den öffentlichen Raum grundlegend verändern. Ein Beitrag über die Chancen und Herausforderungen für Staat, Wirtschaft und Gesellschaft.

Es gehört zu den ersten Dingen, die wir Menschen können: Gesichter erkennen. Schon Babys merken sich, wie Mama und Papa aussehen, die Geschwister, der Babysitter. Jetzt lernen auch Computer, Gesichter zu erkennen – in Dimensionen, die wir Menschen im Laufe unserer Entwicklung niemals erreichen.

Automatisierte Gesichtserkennung mit Künstlicher Intelligenz (KI) hat das Potenzial, Milliarden von Menschen zu identifizieren. Sie kann Kamerabilder live analysieren und in Sekunden feststellen, wer sich darauf befindet. Sie kann den Weg eines Menschen im öffentlichen Raum „tracken“, also ihren Weg permanent aufzeichnen. Das bringt großartige Chancen, um Gutes zu tun, aber auch gewaltige Herausforderungen. Wie wir mit dieser Technologie umgehen, wird entscheidenden Einfluss darauf haben, in was für einer Welt wir uns künftig bewegen, wenn wir den Fuß vor die Tür setzen. Deswegen müssen wir Gesichtserkennung mit KI regulieren – die Zeit zum Handeln ist jetzt!

Um die Kraft der automatisierten Gesichtserkennung zu begreifen lohnt sich ein Blick auf ihre möglichen Einsatzgebiete.

Delhi im vergangenen Jahr. Die indische Hauptstadt ist eine nach deutschen Maßstäben unvorstellbar große Stadt. Fast 26 Millionen Menschen leben im Metropolbereich - siebenmal Berlin an einem Platz. Mehrere hunderttausend Kinder werden in Indien vermisst, die Polizei hofft, einige von ihnen mit automatisierter Gesichtserkennung ausfindig machen zu können. Ein Gericht genehmigte einen Test: Das System wurde mit Fotos vermisster Kinder gefüttert und analysierte danach in Echtzeit Kamerabilder, ob eines dieser Kinder darauf zu sehen ist. Der Test sprengte alle Erwartungen: In nur vier Tagen konnte die Polizei fast 3000 vermisste Kinder ausfindig machen.

Doch wo Licht ist, ist bekanntermaßen auch Schatten: die Technologie könnte auch als Instrument der Unterdrückung eingesetzt werden. Regierungen könnten Demonstrationen filmen und blitzschnell wissen, wer sich daran beteiligt. Sie könnten live verfolgen, wohin politische Dissidenten sich bewegen, wen sie treffen. In den Händen autoritärer Herrscher könnte die digitale Gesichtserkennung also dabei unterstützen, Meinungs- und Versammlungsfreiheit im Keim zu ersticken. Und auch Demokratien sind vor problematischen Ideen nicht gefeit. So hat Microsoft die Anfrage einer kalifornischen Sicherheitsbehörde abgelehnt, automatisierte Gesichtserkennung in Bodycams und Kameras in Einsatzfahrzeugen zu installieren. Der Grund dafür ist, dass diese KI noch nicht den Anforderungen der Microsoft-Prinzipien für ethische KI genügt. Sie ist nicht diskriminierungsfrei: Weil sie mit überproportional vielen Bildern von weißen Männern trainiert wurde, hat sie größere Schwierigkeiten, Frauen und Migranten zu erkennen. Das könnte dazu führen, dass diese öfter von der Polizei festgehalten werden als weiße Männer, um ihre Identität zu klären.

Diese Beispiele zeigen die ganze Ambivalenz der Technologie. Das System selbst ist per se weder gut noch böse. Wir Menschen haben die Entscheidung in der Hand, ob wir es einsetzen, um Gutes zu tun oder Schlechtes.

Als einen „Geist, der gerade dabei ist, aus der Flasche zu entweichen“, hat Microsoft-Präsident und Chefjustiziar Brad Smith die automatisierte Gesichtserkennung kürzlich beschrieben. Seine Forderung: Wir müssen den Einsatz gesetzlich regulieren. Sonst laufen wir Gefahr, in fünf Jahren aufzuwachen und festzustellen, dass Gesichtserkennung sich in einer Art und Weise ausgebreitet hat, die gesellschaftliche Probleme verschärft. „Dann wird es sehr viel schwieriger sein, den Geist zurück in die Flasche zu kriegen.“ Denn es sind nicht nur staatliche Behörden, die mit Gesichtserkennung experimentieren. Auch Firmen werden diese Technologie in Zukunft einsetzen. Händler arbeiten an Szenarien, bei denen Kameras sofort erkennen, wer ein Geschäft betritt. Computer können nachschauen, was der Kunde zuletzt gekauft hat, wie alt er ist und welche Interessen er hat. Vermutlich können sie sogar erkennen, ob er gerade gut oder schlecht gelaunt ist. Mit diesen Informationen können Verkäufer Kunden viel bessere Angebote machen. Und sogar Privatpersonen könnten die Kameras nutzen, damit sie erfahren, wer gerade an der Haustür geklingelt hat.

Was das im Ergebnis bedeuten könnte, ist nicht weniger als das Ende jeglicher Privatheit, sobald wir die eigenen vier Wände verlassen.

Die Konsequenz ist, dass Unternehmen sich um Ethik kümmern müssen: welche Systeme sie entwickeln wollen, wie sie diese einsetzen wollen, und wie sie damit verantwortungsvoll umgehen. Es bedeutet auch zwingend, dass wir Regulierung brauchen, um eine unkontrollierte Ausbreitung der Technologie in alle Lebensbereiche zu verhindern. Und dass wir kluge Regelungen brauchen, die die Innovation nicht totregulieren, sondern es uns ermöglichen, die gesellschaftlichen und wirtschaftlichen Chancen zu nutzen.

Solche intelligenten Regelungen für den Einsatz von Künstlicher Intelligenz im Allgemeinen und automatisierter Gesichtserkennung im Speziellen zu finden, ist eine Herausforderung auf allen Ebenen der Regulierung. Man kann durchaus sagen: vom Gemeinderat bis zum Weltsicherheitsrat.

In Deutschland haben wir über die automatisierte Gesichtserkennung schon leidenschaftlich diskutiert. 2017 startete die Bundespolizei an einem Bahnhof in Berlin einen Test. Ziel: Ein System zu finden, das unter Bahnreisenden automatisch nach gesuchten Straftätern fahndet und Alarm schlägt, wenn sie den Bahnhof betreten. Die Behörden wollen diese Möglichkeit künftig häufiger nutzen – aktuell wird diskutiert, wie eine entsprechende Anpassung des Bundespolizeigesetzes aussehen könnte. Auch auf die Bundesländer kommt Arbeit zu, denn in ihre Hoheit fällt es, die Aufgaben und Befugnisse der Landespolizeien zu regeln. Der Datenschutz wiederum ist ein Thema, das hauptsächlich auf Bundes- und EU-Ebene zu regeln ist.

Vorstellbar sind auch militärische Waffensysteme, die mittels Gesichtserkennung automatisiert feindliche Kämpfer identifizieren und bekämpfen. Ob diese entwickelt und in Kriegen eingesetzt werden dürfen, muss auf völkerrechtlicher Ebene geregelt werden.

Kommunen werden sich damit auseinandersetzen müssen, ob Gesichtserkennung auf öffentlichen Plätzen oder in kommunalen Gebäuden wie Kindergärten, Schulen und Bürgerämtern zum Einsatz kommen soll. Die Systeme könnten zum Beispiel jede Person, die eine Kita betritt, identifizieren. Sie wüssten sofort, ob gerade Eltern hineinkommen oder ein Fremder, vielleicht sogar ein Mensch mit Annäherungsverbot.

Aus Sicht von Microsoft sollten bei der Regulierung von KI-Gesichtserkennung mindestens drei Prämissen gelten: Die Systeme dürfen nicht überall laufen und sie dürfen nicht jederzeit laufen. Ein Einsatz sollte nur dann erlaubt sein, wenn er räumlich und zeitlich beschränkt ist. Zum Beispiel an bestimmten Orten, wenn dort eine Veranstaltung stattfindet, für die die Sicherheit gewährleistet sein muss. Und: Die Daten unbeteiligter Passanten, die von KI-Systemen erfasst werden, dürfen nicht gespeichert werden.

Es ist höchste Zeit, dass wir diese Aufgabe angehen. Schon zeichnet sich ab, dass die nächste Generation von Gesichtserkennungs-Kameras noch mehr kann als nur zu erkennen, welche Person zu sehen ist. Sie könnte, verknüpft mit anderen Techniken wie der Stimmanalyse und Daten aus sozialen Netzwerken, sogar erkennen, welche Persönlichkeit jemand hat, welche Vorlieben und Abneigungen, auch welche politischen Einstellungen. Das würde ganz neue Möglichkeiten zur Manipulation von Menschen bedeuten.

Ausgerechnet im Silicon Valley, im Herzen der digitalen Revolution, ist auch die Regulierung schon einen Schritt weiter. San Francisco hat im Mai entschieden: Die städtische Polizei und andere Behörden der Stadt dürfen Gesichtserkennung nicht mehr einsetzen.

Initiative „IT-Fitness“ bietet kostenlose Tests und Lernmodule an

Die digitale Revolution ist in vollem Gange. Sie wird den Arbeitsmarkt wesentlich verändern: In Zukunft sind einfache manuelle Tätigkeiten immer weniger gefragt, gleichzeitig entstehen neue, hochqualifizierte Arbeitsplätze. Laut Bundesarbeitsministerium werden bis 2025 durch Automatisierung und den Einsatz Künstlicher Intelligenz (KI) rund 1,6 Millionen Arbeitsplätze in Deutschland wegfallen, gleichzeitig entstehen aber etwa 2,3 Millionen neue Jobs.

Unter dem Strich also eine positive Bilanz – allerdings nur, wenn es gelingt, alle Menschen rechtzeitig auf die neuen Aufgaben der digitalen Arbeitswelt vorzubereiten. Die Bereitschaft ist jedenfalls da. Gemäß der neuen „Vermächtnis-Studie“ der „Zeit“ meinen 88 Prozent der Deutschen, angesichts der Digitalisierung sei Bildung ein lebenslanger Prozess und in Zukunft werde es noch wichtiger, immer wieder Neues zu beginnen.

Die von Microsoft ins Leben gerufene Initiative IT-Fitness hat dafür unter www.it-fitness.de ein neues KI-Programm gestartet: Mit kostenlosen Online-Tools zur Selbsteinschätzung sowie Selbstlern-Modulen zu Themen rund um KI und Automatisierung werden Menschen dabei unterstützt, die wichtigsten Kompetenzen für das KI-Zeitalter zu erwerben.

Nur wer Zusammenhänge versteht, kann die richtigen Entscheidungen treffen.

Es sind längst nicht nur Programmierkenntnisse gefragt. Nach Meinung von Experten wird auch Kommunikationsfähigkeit eine zentrale Rolle spielen – ergänzt um die Fähigkeit, mit Maschinen zu kommunizieren und zusammenzuarbeiten. Neben Kreativität werden vor allem Innovationsfreude und Offenheit für Veränderungen zu entscheidenden Erfolgsfaktoren. Um in der Arbeitswelt der Zukunft zu bestehen, benötigen Berufstätige außerdem ein gutes Beurteilungsvermögen, Eigenverantwortung und Folgebewusstsein – all das auch unter ethischen Aspekten. Das KI-Programm von IT-Fitness stellt jeweils eigene Lernmodule zur Verfügung. Speziell für Führungskräfte aus Unternehmen hat Microsoft die AI Business School zur KI-Fortbildung gegründet.

Die Zahl von Industrie- und Technologie-Partnerschaften wird steigen.

In Deutschland arbeiten 2700 Microsoft-Mitarbeiter mit rund 30.000 Unternehmen aller Branchen und Größen zusammen. Gezielt für Mittelständler gibt es ein E-Book „Digitalisierung im Mittelstand“. Microsoft rechnet angesichts der digitalen Herausforderungen mit einer weiter steigenden Zahl der Partnerschaften. „Das schafft kein Unternehmen allein, dafür ist die Implementierung moderner Technologien zu komplex“, sagte Sabine Bendiek im April anlässlich der Hannover-Messe. Die Vorsitzende der Geschäftsführung von Microsoft Deutschland setzt auf einen engen Schulterschluss von Industrieunternehmen und Technologieanbietern und meint: „Die Zeit der Alleingänge ist vorbei.“

Die Zeit der Alleingänge ist vorbei.

Sabine Bendiek, Vorsitzende der Geschäftsführung von Microsoft Deutschland

Dieser Text ist in zuerst in der Wirtschaftszeitung der Rhein-Zeitung (Ausgabe 4/2019) erschienen.

Informationen zur Autorin

Tanja Böhm

Managing Director Corporate Affairs | Leiterin Microsoft Berlin

Weitere Beiträge von Tanja Böhm

Veranstaltungen zum Thema

Weiterführende Beiträge zum Thema

Mit ‚Airflow‘ den gesundesten Weg durch die Stadt finden

von Microsoft Berlin vom 24.07.2019

Microsoft unterstützt fünf neue KI-Projekte in den Bereichen Umweltschutz, Artenschutz und Nachhaltigkeit. In den nächsten Wochen stellen wir hier die Teams aus Deutschland vor, die mit ihren innovativen Ideen den Sprung...

Weiterlesen

Mit ‚Shazam4Nature‘ der Natur auf der Spur

von Microsoft Berlin vom 17.07.2019

Microsoft unterstützt fünf neue KI-Projekte in den Bereichen Umweltschutz, Artenschutz und Nachhaltigkeit. In den nächsten Wochen stellen wir hier die Teams aus Deutschland vor, die mit ihren innovativen Ideen den Sprung...

Weiterlesen

Wie KI hilft den Regenwald zu schützen

von Microsoft Berlin vom 11.07.2019

Microsoft unterstützt fünf neue KI-Projekte in den Bereichen Umweltschutz, Artenschutz und Nachhaltigkeit. In den nächsten Wochen stellen wir hier die Teams aus Deutschland vor, die mit ihren innovativen Ideen den Sprung...

Weiterlesen

Mit Microsofts AI for Earth-Initiative zu besserer Luftqualität

von Microsoft Berlin vom 08.07.2019

Microsoft unterstützt fünf neue KI-Projekte in den Bereichen Umweltschutz, Artenschutz und Nachhaltigkeit. In den nächsten Wochen stellen wir hier die Teams aus Deutschland vor, die mit ihren innovativen Ideen den Sprung...

Weiterlesen

Folgen Sie uns