Wichtige Erkenntnisse
- Die EU-KI-Verordnung wird die weltweit erste umfassende Regelung für Künstliche Intelligenz sein.
- Der Einsatz von KI am Arbeitsplatz kann die Automatisierung befördern und die allgemeine Zufriedenheit der Mitarbeiter am Arbeitsplatz verbessern.
- Eine zu starke Abhängigkeit von solchen Technologien kann zu einem Kompetenzverlust am Arbeitsplatz führen.
- Um eine angemessene Nutzung und kritisches Denken bei der Verwendung von KI zu gewährleisten, müssen Rahmenbedingen geschaffen und Schulungen angeboten werden.
- Die Geschäftsführung ist dafür verantwortlich, geeignete Rahmenbedingungen für KI zu schaffen und zu gewährleisten, dass diese Vorschriften eingehalten werden.
- Um sicherzustellen, dass Ihr Produkt oder Ihre Dienstleistung den Vorschriften entspricht, ist es der erste Schritt, das Prinzip „Privacy by Design“ einzuhalten.
Verständnis der aktuellen rechtlichen Rahmenbedingungen
In der Regel ist Technologie den Regulierungen zwei Schritte voraus; so auch dieses Mal. Obwohl KI- und GenAI-Tools bereits weit verbreitet sind, gibt es derzeit keine Vorschriften, die Risiken mindern oder eine korrekte Nutzung gewährleisten. Allerdings beschloss die Europäische Kommission im April 2021, einen Rechtsrahmen für KI zu entwickeln. Dieser befindet sich derzeit noch in Bearbeitung. Nach seiner Genehmigung wird der EU AI Act die weltweit erste umfassende Regelung zu diesem Thema sein.
Wie Laura Sanjath (Österreichische Bundeswirtschaftskammer) während des Panels erklärte, ist noch immer sehr unklar, was der EU AI Act genau abdecken und inwieweit GenAI überhaupt Teil des Anwendungsbereichs sein wird. Klar jedoch ist, dass die EU klare Grenzen für bestimmte Systeme wie Social Scoring, biometrische Identifizierung und kognitive Verhaltensmanipulationen gezogen hat.
Wie andere Nationen dem folgen werden, ist noch unklar. Dies aber bietet der EU eine große Chance, die, wenn sie richtig umgesetzt wird, entscheidend für die Zukunft der europäischen Industrie sein könnte.
Abgesehen von den Vorschriften: Was bedeutet das Aufkommen von KI für die Praxis und wie können Unternehmen KI richtig nutzen?
Auswirkungen auf die Arbeitskräfte: Übermäßige Abhängigkeit von KI
Während Unternehmen das enorme Potenzial von generativer KI so schnell wie möglich nutzen möchten, um somit die Art und Weise, wie wir arbeiten, zu verändern, reagieren Experten sowohl mit Optimismus als auch mit Vorsicht. Mit jeder neuen Geschäftsmöglichkeit, die durch KI erschlossen wird, entstehen auch Bedenken. Diese betreffen Probleme hinsichtlich des Datenschutzes und der Datensicherheit, der Transparenz bei der Entscheidungsfindung und der Sicherheit am Arbeitsplatz.
Während der Diskussionsrunde erklärte Markus Stulle, Direktor bei Deloitte Deutschland, wie das Entwicklungsteam den Weg zur vollständigen Hybridisierung eingeschlagen hat. Dabei wird ein Teil der Arbeit von Entwicklern und der andere Teil von Maschinen erledigt. Durch die Nutzung dieser Technologie konnten die Entwickler repetitive Aufgaben aufgeben und sich auf Entscheidungsfindung und Strategie konzentrieren. Dies half dem Team nicht nur, mit ihrer Zeit effizienter umzugehen, sondern erhöhte auch die Zufriedenheit; 70% des Teams wählten als Antwortmöglichkeit, "Ich liebe meine Arbeit", was gegenüber früheren Aussagen einen deutlichen Unterschied darstellt.
Beispiele wie das von Markus Stulle sind keine Seltenheit. Wir sehen zunehmend, dass Unternehmen KI als Erweiterung ihres Teams einsetzen. Während dieser Fall ein Positivbeispiel von der Anwendung von KI ist, ist es gleichzeitig wichtig, über die möglichen Risiken nachzudenken, welche mit einer übermäßigen Abhängigkeit von Künstlicher Intelligenz verbunden sein könnten.
Dr. Olaf Uhlenwinkel (VP Sales Dach, Aminos) beispielsweise beleuchtete die Komplikationen, die KI im Falle eines Ausfalls verursachen könnte. Als Beispiel nannte er Verkehrsflugzeuge, die ohne menschliche Unterstützung landen können. Wenn das Flugzeug kurz vor der Landung in letzter Minute abgeschaltet werden sollte, hätten die Piloten es viel schwerer, in den "Flugmodus" zu gelangen und die Kontrolle über das Flugzeug zu übernehmen, was die Wahrscheinlichkeit eines Unfalls erhöht.
“Wenn wir uns an den Einsatz der neuen Technologie gewöhnen, stellen wir die Ergebnisse irgendwann nicht mehr in Frage oder überprüfen sie” - Lukas Staffer (Senior Researcher, Universität Zürich)
Hier erkennen wir ein potenzielles Problem, das durch die Komfortabilität entstehen kann, die die KI bei Menschen hervorruft. Dies stellt eine wesentliche Herausforderung dar; nicht nur für Fluggesellschaften, sondern auch für alle Unternehmen, die mit der Technologie interagieren, sie nutzen und weiterentwickeln. Um sicherzugehen, dass Vorkehrungen getroffen werden, die verhindern, dass eine übermäßige Abhängigkeit von KI die Qualität und Sicherheit unserer Arbeit beeinträchtigt, müssen wir nun Regeln aufstellen.
Somit stellen wir sicher, dass:
- wir als Menschen keine wertvollen Fähigkeiten verlieren (niemand möchte mit einem Piloten fliegen, der seit Monaten kein Flugzeug mehr geflogen ist) und
- wir Maßnahmen entwickeln, um kritisch gegenüber dem zu bleiben, was uns das KI-Tool sagt.
Am Beispiel des Piloten könnte dies so aussehen, dass routinemäßige Flugtrainings für die Piloten durchgeführt oder der Autopilot 30 Minuten vor der Landung abgeschaltet wird.
Was bedeutet das konkret für Sie?
Als Geschäftsinhaber oder Teamleiter sollten Sie sich Gedanken darüber machen, wie Sie KI in Ihren Arbeitsplatz integrieren. In welchen Bereichen könnte KI Ihrem Team helfen, effizienter zu werden? Welche Maßnahmen müssen Sie ergreifen, um sicherzustellen, dass Ihre Mitarbeiter kritisch und aufmerksam bleiben? Wie können Sie Ihr Team über die Herausforderungen und Risiken aufklären?
Bildung als Grundstein für Compliance
Mit diesen drei einfachen Schritten können Sie sicherstellen, dass Ihre Organisation umfassend über KI geschult ist.
Schritt 1: Fördern Sie eine Compliance-Kultur:
Bevor Sie mit der Implementierung solcher Tools beginnen, müssen Sie zunächst den Ton für die gesamte Organisation in Bezug auf die konforme Nutzung von KI festlegen. Dazu sollte sich die Führungsspitze darüber einig sein, in welchem Umfang sie die Technologie einsetzen möchte und wie sie sie nutzen möchte. Dabei sollten alle möglichen Chancen und Risiken analysiert und berücksichtigt werden.
"Sie benötigen Bildung, aber das gilt auch für den Datenschutz. Es gibt keinen Unterschied bei der Datenschutzgrundverordnung, Sie müssen Ihre Mitarbeiter schulen(...), und das ist das höchste Maß an Verantwortung in beiden Fällen: KI und DSGVO." – George Huber (Partner, GPK Pegger Kofler)
Sobald eine Einigung darüber erzielt wurde, wie dies aussehen soll, besteht der nächste Schritt darin, die Mitarbeiter zu schulen, eine Kultur der Compliance zu fördern und sie in die DNA des Unternehmens zu integrieren. Die Bereitstellung von Kursen und Schulungen für Ihre Mitarbeiter, die Durchführung regelmäßiger Audits und klare Richtlinien und Verfahren sind nur einige der Schritte, die Sie als Organisation als erstes unternehmen sollten.
Schritt 2: Etablieren Sie einen Rahmen für die Nutzung von GenAI-Tools am Arbeitsplatz:
Im Rahmen Ihres Richtlinienerstellungsprozesses sollte klar definiert und schriftlich festgehalten werden, welche Informationen Ihre Mitarbeiter in GenAI-Tools (z. B. ChatGPT) eingeben dürfen und zu welchem Zweck sie dies tun.
Sie können sogar Softwarelösungen nutzen, um Ihre Arbeit zu schützen und die Verarbeitung sensibler Daten zu verhindern. Beispielsweise bieten einige Plattformen Dienste an, die alle Inhalte filtern, die in GenAI-Tools hochgeladen werden und die vor der Übermittlung erkennen, ob sensible Daten hochgeladen wurden. Dies kann Verletzungen der Informationssicherheit verhindern und sicherstellen, dass weder Kunden- noch Unternehmensdaten verloren gehen.
Schritt 3: Fördern Sie Datenschutz durch Privacy-by-Design:
Zuletzt sollten Sie bei der Entwicklung eines Produkts, insbesondere wenn es KI beinhaltet, darauf achten, dass Sie sich an die grundlegenden „Privacy by Design“-Vorschriftenhalten. Dazu gehört unter anderem, dass alle personenbezogenen Daten pseudonymisiert und verschlüsselt werden.
Während es unter den Podiumsteilnehmern einen eindeutigen Konsens für strenge Richtlinienzeigten, nutzte George Huber (Partner, GPK Pegger Kofler) diese Gelegenheit, die Bedeutung von Transparenz und Dokumentation zu betonen. Huber ermutigte das Publikum, Datenschutz-Folgeabschätzungen durchzuführen und regelmäßige Tests zu implementieren, um somit sicherzustellen, dass das Produkt Daten nicht auf nicht konformen Art und Weise verarbeitet. Lernen Sie die Referenten kennen.
Lernen Sie die Speaker kennen
Georg Huber |
Lukas Staffler |
Laura Sanjath |
Dr. Olaf Uhlenwinkel |
Markus Stulle |
Thomas Regier |
Wenn Sie weitere Fragen haben stehen wir Ihnen gerne zur Verfügung. Ein erstes Gespräch ist bei uns immer kostenlos.
