Bundesrat bestimmt Richtlinien für Umgang mit KI

Der Bundesrat hat einen Bericht verabschiedet, in dem er Leitlinien zur künstlichen Intelligenz (KI) festhält. Die Richtlinien wurden auf Basis eines im Dezember 2019 erschienenen Expertenberichts ausgearbeitet, wie es in der Medienmitteilung heisst. Dieser stütze sich wiederum auf Arbeiten auf internationaler Ebene, insbesondere in der OECD und in der EU. Die Richtlinien bieten der Bundesverwaltung sowie den Trägern von Verwaltungsaufgaben des Bundes einen allgemeinen Orientierungsrahmen und sollen eine kohärente Politik in Bezug auf KI gewährleisten.

Die Richtlinien sollen die mit KI-Technologien verbundenen spezifischen Risiken angehen und gleichzeitig Forschung und Innovation schützen. Es handelt sich also nicht um eine Regulierung. Darüber hinaus weisen die Leitlinien auf verschiedene Gesetze hin, die für diesen Bereich gelten, wie etwa Datenschutz, Grundrechte, Diskriminierung und Produktsicherheit.

Die Leitlinien

Mit sieben Leitlinien wird folgender Orientierungsrahmen definiert (verkürzt dargestellt):

• Den Menschen in den Mittelpunkt stellen: Bei Entwicklung und Einsatz von KI sollen Würde und Wohl des Menschen sowie das Gemeinwohl an vorderster Stelle stehen. Besondere Bedeutung kommt dem Schutz der Grundrechte zu.

• Rahmenbedingungen für Entwicklung und Anwendung von KI: Der Bund gewährleistet weiterhin bestmögliche Rahmenbedingungen, so dass die Chancen der KI für eine Stärkung von Wertschöpfung und nachhaltiger Entwicklung genutzt werden können. Die Schweiz soll sich zu einem führenden Standort für Forschung und Anwendung sowie für Unternehmen im Bereich KI weiterentwickeln.

• Transparenz, Nachvollziehbarkeit und Erklärbarkeit: Auf KI gestützte Entscheidungsprozesse sollten so gestaltet sein, dass sie überprüfbar und nachvollziehbar sind.

• Verantwortlichkeit: Um im Falle eines Schadens, eines Unfalls oder einer Gesetzeswidrigkeit die Verantwortlichkeiten klären zu können, muss beim Einsatz von KI die Haftung klar definiert sein. Die Verantwortlichkeit darf nicht an Maschinen delegiert werden können.

• Sicherheit: KI-Systeme müssen sicher, robust und resilient konzipiert sein, um eine positive Wirkung zu entfalten und nicht anfällig für Missbrauch oder Fehlanwendungen zu sein.

• Aktive Mitgestaltung der Gouvernanz von KI: Die Schweiz soll die globale Gouvernanz von KI aktiv mitgestalten und sich bei der Erarbeitung von globalen Standards und Normen gemäss ihren Interessen und Werten einbringen.

• Einbezug aller betroffenen nationalen und internationalen Akteure: Die Schweiz soll sich dafür einsetzen, dass in den Debatten um die Gouvernanz von KI alle relevanten Anspruchsgruppen in die politischen Entscheidungsprozesse einbezogen werden.

Brüssel stellt die Weichen

Wie aus dem detaillierten Bericht hervorgeht, betont die letzte Leitlinie die Bedeutung der internationalen Zusammenarbeit der Akteure zu KI, "mit dem Ziel, Genf als Zentrum für digitale Gouvernanz von KI zu stärken." Dies widerspiegelt die Swiss Digital Initiative, die offiziell am Weltwirtschaftsforum 2020 lanciert wurde. Unter dem Vorsitz von Doris Leuthard vereinigt die Stiftung Technologie-Giganten, bedeutende Schweizer Unternehmen und Universitäten sowie internationale Organisationen. Das Ziel der Stiftung sei es, "das Vertrauen der Öffentlichkeit in die digitalen Technologien und die an der digitalen Transformation beteiligten Akteure zu stärken".

Die Steuerung und mögliche Regulierung der KI spielt sich jedoch nicht in Bern oder Genf ab, sondern in Brüssel. Mit der Datenschutz-Grundverordnung (DSGVO) hat die Europäische Union bereits gezeigt, dass sie in der Lage ist, bei der Regulierung der digitalen Welt im Alleingang vorzugehen. Die DSGVO wurde inzwischen ausserhalb der EU in der Schweiz und in Kalifornien in weniger restriktiven Versionen übernommen.

Europa könnte bei der Steuerung von KI auf dieselbe Weise wie bei der DSGVO vorgehen. Es ist kein Zufall, dass die Lobbies der Technik-Giganten in den Debatten in Brüssel aktiv werden, wie die Redaktion während des Treffens der Europäischen Allianz für KI Anfang Oktober beobachten konnte.

Führungsmethoden und Geltungsbereiche

Ein Bericht der EU hat bereits im Frühjahr KI-Strategien festgelegt. Der Bericht erwägt verschiedene Szenarien, die vom Status quo über einfachen Empfehlungen und der Schaffung eines freiwilligen Labels bis hin zu einer echten Regulierung reichen. Während des Treffens der Europäischen Allianz für KI wurden auch die Geltungsbereiche einer möglichen KI-Verordnung heiss diskutiert. Einige plädierten dafür, nur bestimmte Bereiche zu regulieren, wie etwa die Sektoren Gesundheit und Automobil. Andere argumentierten wiederum dafür, risikoreiche Anwendungen unabhängig vom Sektor zu unterscheiden. Eine weitere Frage, die aufkam, war, ob die Verordnung für Unternehmen gelten würde, die intelligente Systeme einsetzen, oder für die Anbieter, die die zugrundeliegenden Werkzeuge und Technologien entwickeln.

Sollte sich eine Regulierung abzeichnen, könnten die betroffenen Unternehmen unter anderem verpflichtet werden, Trainingsdaten, Algorithmen, ihre Robustheit und Genauigkeit sowie die menschliche Überwachung dieser Daten aufzubewahren und zu dokumentieren.