12.08.2019 Leitlinien für den (ethischen) Umgang mit KI Guidelines for the (ethical) use of AI
Die Beschäftigung mit KI führt zu Fragen des ethischen Umgang bei der Nutzung von KI. Daher beschäftigen sich große Unternehmen und Verbände nicht nur intern mit Leitlinien, sondern stellen sie auch der Öffentlichkeit vor und diskutieren sie.
Für ForeSight wollen wir uns einerseits einen entsprechenden Rahmen für den Umgang mit KI geben, andererseits aber auch Unternehmen, die heute starten KI einzusetzen, bei der Definition ihres Selbstverständnisses unterstützen.
Leitlinien der Europäische Union
Die europäische Union veröffentlichte im April 2019 ein Dokument, das Anforderungen an die „Schaffung von Vertrauen in eine auf den Menschen ausgerichtete künstliche Intelligenz” formuliert. Sie sollen sicherstellen, dass KI-Anwendungen im Europäischen Raum nicht nur rechtmäßig sind, sondern auch ethische Grundsätze einhalten, und dass bei ihrer Anwendung kein unbeabsichtigter Schaden entstehen kann. Dazu gehört, dass die „Vielfalt in Bezug auf Geschlecht, Rasse oder ethnische Herkunft, Religion oder Weltanschauung, Behinderung und Alter in jeder Phase der KI-Entwicklung gewährleistet“ ist und „auch Menschen mit Behinderungen sich die Möglichkeiten der KI voll zunutze machen können”. Um das zu gewährleisten, wurden im Dokument sieben Kernanforderungen formuliert, die bis 2020 bzgl. ihrer Anforderungen für die Definition eines Rechtsrahmens geprüft werden sollen: Vorrang menschlichen Handelns und menschlicher Aufsicht, Technische Robustheit und Sicherheit, Privatsphäre und Datenqualitätsmanagement, Transparenz, Vielfalt, Nichtdiskriminierung und Fairness, Gesellschaftliches und ökologisches Wohlergehen und Rechenschaftspflicht.
Siehe: Mitteilung der Kommission an das Europäische Parlament, den Rat, den Europäischen Wirtschafts- und Sozialausschuss und den Ausschuss der Regionen – Schaffung von Vertrauen in eine auf den Menschen ausgerichtete künstliche Intelligenz
Mitteilung der Kommission … (PDF) (German)
Bundesverband Digitale Wirtschaft (BVDW) e.V.
Im Januar 2019 veröffentliche der BVDW acht Leitlinien für den Umgang mit künstlicher Intelligenz, die von einer Expertenrunde Künstliche Intelligenz erarbeitet worden waren. „Angesichts der massiv steigenden Relevanz von KI sollen diese Leitlinien die Handlungsgrundlage für die Digitale Wirtschaft in Deutschland bilden und greifen Bereiche wie Digitale Ethik, Herausforderungen für den Arbeitsmarkt oder den Austausch der Wirtschaft mit Politik und Gesellschaft auf.“
Die acht Leitlinien beziehen sich naturgemäß nicht auf einzelne Unternehmen, sie nehmen wirtschaftliche und wirtschaftspolitische Aspekte in den Fokus. Die Klärung ethischer Grundfragen wird als Voraussetzung formuliert.
Leitlinien von Unternehmen, die heute bereits KI einsetzen
Deutsche Telekom
Bereits im August 2018 hatte die Deutsche Telekom Leitlinien zum Umgang mit KI im eigenen Unternehmen veröffentlicht. „Unsere KI-Leitlinien stellen dar, wie wir als Deutsche Telekom KI und ihre Nutzung sehen, und bilden die Leitplanken unserer Einsatzgebiete und -weise für die KI-Technologie.“
Die Deutsche Telekom beschreibt neun konkrete Leitlinien und stellt sie in einen gesellschaftlichen Kontext:
Deutsche Telekom: DIGITAL ETHICS GUIDELINES ON AI (Deutsch und Englisch)
Hintergründe finden sich auch in einem Interview mit Manuela Mackert, Chief Compliance Officer der Telekom und Mitautorin der Leitlinien:
General-Anzeiger Bonn: Warum sich die Telekom Leitlinien für KI gibt
SAP
Auch SAP entwickelte bereits 2018 mit Unterstützung eines externen Beirates Leitlinien für KI. Diese Leitlinien, der externe Beirat und der interne SAP KI-Ausschuss bilden einen Kontrollrahmen, der sicherstellen soll, dass das Vertrauen der Kunden in die Integrität des Unternehmens und in sämtliche SAP-Lösungen gewahrt bleibt.
Nähere Informationen finden sich auf der Homepage bei SAP:
Ethische Leitsätze künstlicher Intelligenz
SAP’s Guiding Principles for Artificial Intelligence
The employment with AI leads – hopefully inevitably – to the questions of the ethical handling with the use of AI. Therefore, not only do large companies and associations deal with guidelines internally, they also present them to the public and discuss them.
On the one hand, we want to create suitable etical guidelines for ForeSight, but on the other hand, we also want to support companies that start using AI today in defining their self-image.
Guidelines of the European Union
In April 2019, the European Union published a document that sets out requirements for „building trust in human-centered artificial intelligence“. They are designed to ensure that AI applications in the European area are not only lawful, but also respect ethical principles, and that their application can not cause unintentional harm. This includes „ensuring diversity in gender, race or ethnic origin, religion or belief, disability and age at every stage of AI development“ and „even people with disabilities can take full advantage of AI opportunities“ , To ensure this, the document sets out seven core requirements to be reviewed by 2020 for their requirements for defining a legal framework: priority of human action and human oversight, technical robustness and security, privacy and data quality management, transparency, diversity, non – discrimination and Fairness, social and environmental well-being and accountability.
See: Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions – Building trust in human-centered artificial intelligence
Mitteilung der Kommission … (PDF) (German)
German Association for the Digital Economy (BVDW)
In January 2019, the BVDW published eight guidelines for the use of artificial intelligence, which had been developed by an expert group Artificial Intelligence. „In view of the massively increasing relevance of AI, these guidelines should form the basis of action for the digital economy in Germany and address areas such as digital ethics, challenges for the labor market or the exchange of the economy with politics and society.“
By nature, the eight guidelines do not refer to individual companies, but focus on economic and economic policy aspects. The clarification of fundamental ethical questions is formulated as a prerequisite.
Guidelines from companies that already use AI today
Deutsche Telekom
In August 2018, Deutsche Telekom published guidelines for dealing with AI in its own company. „The digital ethics guidelines on AI mirror Deutsche Telekom’s understanding of AI and its usage. They represent the framework for our fields of application as well as the manner of application of the AI technology.“
Deutsche Telekom describes nine concrete guidelines and places them in a social context.
Deutsche Telekom: DIGITAL ETHICS GUIDELINES ON AI (German and English)
SAP
Also SAP developed guidelines for AI in 2018 with the support of an external advisory board. These guidelines, the external advisory board and the internal SAP KI committee provide a control framework designed to ensure that customer confidence in the integrity of the company and all SAP solutions is maintained.
Further information can be found on the homepage at SAP:
Ethische Leitsätze künstlicher Intelligenz
SAP’s Guiding Principles for Artificial Intelligence