Ausgangssituation
Mit dem Artificial Intelligence Act (AIA) hat das EU-Parlament Regelungen für vertrauenswürdige Künstliche Intelligenz (KI) in Europa festgelegt.
Weiterführende Informationen
-
EU Artificial Intelligence Act (AIA)
.
Das EU-Gesetz zur künstlichen Intelligenz – Aktuelle Entwicklungen und Analysen des EU AI-Gesetzes
Risiken von KI-Systemen
Der AIA teilt KI-Systeme entsprechend ihrer Risiken ein:
- KI-Systeme, deren Risiko unannehmbar hoch ist: Der Einsatz solcher KI ist verboten. Dabei geht es etwa um Systeme, die Menschen unterschwellig beeinflussen würden, um biometrische Kategorisierung oder Social Scoring, also das Bewerten des sozialen Verhaltens von Menschen, oder um automatische Emotionserkennung am Arbeitsplatz.
- Hochrisiko-KI-Systeme: Diese Systeme kommen etwa im Zusammenhang mit Funkanlagen, Medizinprodukten, Fahrzeugen, Eisenbahnsystemen, Sicherheitskomponenten bei kritischer digitaler Infrastruktur oder bei der Bewertung der Gewährung wichtiger öffentlicher Förderungen zum Einsatz. Ihr Risiko ist zwar hoch, aber unter bestimmten Bedingungen und Auflagen ist ihr Einsatz akzeptabel.
- Weiters werden noch KI-Systeme mit begrenztem Risiko (z. B. Spamfilter oder Chatbots) sowie mit minimalem bzw. keinem Risiko definiert.
Je nach Einordnung der KI werden im AIA unterschiedliche Pflichten festgeschrieben. Das Hauptaugenmerk des AIA liegt auf dem Umgang mit Hochrisiko-KI-Systemen. Das Oö. Informationstechnologien-Einsatz-Gesetz bezieht sich auf Nicht-Risiko-Systeme (siehe weiter unten).
Was gilt überhaupt als KI-System?
Als KI-Systeme gelten maschinengestützte Systeme, die autonom arbeiten und anpassungsfähig – ohne dass ein konkreter Weg explizit und im Detail vorgegeben wird – auf Eingaben reagieren können, indem sie zum Beispiel komplexe und umfangreiche Daten analysieren, Inhalte generieren, Vorhersagen treffen oder Empfehlungen ableiten.
Worum geht es beim Oö. Informationstechnologien-Einsatz-Gesetz?
Das Oö. Informationstechnologien-Einsatz-Gesetz widmet sich den Nicht-Risiko-Systemen sowie "herkömmlichen" Algorithmen, die nicht der Künstlichen Intelligenz zuzurechnen sind. Ziel ist es, einen Rahmen für generell vertrauenswürdige Künstliche Intelligenz zu schaffen. Damit befasst sich das Oö. Informationstechnologien-Einsatz-Gesetz mit jenen Systemen, die nicht auf europäischer Ebene geregelt sind.
Konkret geht es um einen verantwortungsvollen Umgang mit KI-Systemen, die nicht mit dem AIA geregelt werden. Das Oö. Informationstechnologien-Einsatz-Gesetz soll insbesondere einen Rahmen schaffen, der festlegt, unter welchen Voraussetzungen personenbezogene Daten zum Entwickeln und Trainieren solcher KI-Systeme verarbeitet werden dürfen. Dies geschieht selbstverständlich unter strikter Berücksichtigung der strengen Datenschutzvorgaben.
Zusätzlich wird geregelt, wie es bei Leistungen der Privatwirtschaftsverwaltung zu automatisierten Entscheidungsfindungen durch "herkömmliche" Algorithmen kommen kann. Herkömmliche Algorithmen sind laut Definition keine KI-Systeme.
Welche möglichen Einsatzgebiete würde es auf Basis des Oö. Informationstechnologien-Einsatz-Gesetzes geben?
Für Leistungen der Privatwirtschaftsverwaltung werden technische und organisatorische Maßnahmen für automatisierte Entscheidungen im Einzelfall gesetzlich vorgesehen. Diese automatisierten Entscheidungen werden mit "herkömmlichen" Algorithmen getroffen. So könnten solche Systeme zum Beispiel entscheiden, ob Förderwerber anspruchsberechtigt sind und alle nötigen Unterlagen vollständig vorliegen. Besonders bei Förderverfahren mit zehntausenden Anträgen innerhalb einer kurzen Zeitspanne könnten damit Verfahren wesentlich rascher abgewickelt werden.
Ein weiteres Einsatzgebiet wäre das Trainieren von Informationssystemen wie Chatbots. Diese könnten mit künstlicher Intelligenz Anfragen von Bürgerinnen und Bürgern sowohl schriftlich als auch in gesprochener Sprache rasch beantworten.
Fragen und Antworten (FAQs)
Entscheidungen, denen z. B. eine komplexe Abwägung von Argumenten zugrunde liegt, werden nicht von Maschinen oder Computerprogrammen getroffen. Es geht lediglich darum, objektiv feststellbare Voraussetzungen automatisiert zu überprüfen und entsprechend zu entscheiden. Dabei geht es z. B. um die Frage, ob eine Person die österreichische Staatsbürgerschaft hat oder ob bestimmte Einkommensgrenzen nicht überschritten werden. In jedem Fall gilt: Die Grundlagen für Entscheidungen werden immer von Menschen festgelegt.
Ja! Mit dem Oö. Informationstechnologien-Einsatz-Gesetz wird eine datenschutzrechtliche Grundlage für das Training von KI-Systemen und für automatisierte Entscheidungen durch algorithmisch arbeitende Systeme in der Privatwirtschaftsverwaltung durch die öffentliche Verwaltung in Oberösterreich geschaffen. Auf die Möglichkeit des persönlichen Behördenkontakts hat das Gesetz keine Auswirkungen.
Kundinnen und Kunden sollen die Art der Interaktion mit der Verwaltung grundsätzlich frei wählen können. Als wirkungsorientierte Verwaltung ist das Land Oberösterreich bestrebt, die oö. Bevölkerung sowohl in elektronischer als auch in analoger und persönlicher Form zu servicieren. Beim Oö. Wohn- und Energiekostenbonus hat man außerdem gute Erfahrungen damit gemacht, die Infrastruktur der Bürgerservicestellen in den Gemeinden bei der Beantragung zur Verfügung zu stellen.
Um den datenschutzrechtlichen Grundsätzen zu entsprechen, werden die Daten, die zum Trainieren moderner KI-Systeme zum Einsatz kommen, nach Möglichkeit anonymisiert. Nur wenn dies nicht möglich ist, werden die Daten pseudonymisiert, sodass eine Identifizierung der betroffenen Personen ausgeschlossen ist. Die strengen datenschutzrechtlichen Vorgaben werden zu jeder Zeit eingehalten.
Digitale Prozesse sind der Grundstein für die digitale Transformation und für transparentes (teil-)automatisiertes Verwaltungshandeln. Die zunehmende Automatisierung von Arbeitsschritten wird die Verwaltung im Sinne der Bürgerinnen und Bürger effizienter und effektiver machen. Zudem kann sich die Verwaltung noch mehr als attraktiver und moderner Dienstleister und Arbeitgeber positionieren.
