Ab Februar 2025 Pflicht: Was der AI-Act für den Handel bedeutet.
- AI Act (KI-Verordnung) ist seit August 2024 in Kraft
- Ab dem 02. Februar 2025 gilt die Kompetenzpflicht (durch Schulungen)
- Unternehmen sind zum Handeln verpflichtet
Die Möglichkeiten, die Künstliche Intelligenz (KI) für den Handel bietet, reichen von der Optimierung von Einkaufsprozessen und Lagerverwaltungen bis hin zur personalisierten Kundenansprache und der präzisen Vorhersage von Markttrends.
Mit dem Artificial Intelligence Act (kurz: AI Act) hat die Europäische Union jedoch auch einen umfassenden rechtlichen Rahmen geschaffen, der den Einsatz von KI-Systemen regelt. Ziel der Verordnung ist es, die Entwicklung und Nutzung von KI-Technologien sicher und ethisch verantwortungsvoll zu gestalten. Dabei verfolgt der AI Act einen risikobasierten Ansatz, der es ermöglicht, verschiedene KI-Anwendungen je nach ihrem potenziellen Risiko für die Gesellschaft und den Einzelnen zu kategorisieren. Der AI Act trat am 1. August 2024 in Kraft, Unternehmen müssen jetzt einige der Regelungen bereits kurzfristig umsetzen, insbesondere im Hinblick auf die Kompetenzpflicht und die Sicherstellung der Fachkenntnisse ihrer Mitarbeitenden.
Für Unternehmen, die KI entwickeln oder einsetzen, bedeutet der AI Act, dass sie sich frühzeitig auf die neuen rechtlichen Anforderungen vorbereiten müssen. Dazu gehören nicht nur technische Maßnahmen wie die Bewertung der Risikostufen von KI-Systemen, sondern auch organisatorische Anpassungen wie die Schulung von Mitarbeitenden, die den Umgang mit diesen Systemen sicherstellen sollen.
Umsetzungsfrist bis Februar 2025
Obwohl viele Bestimmungen des AI Acts erst ab dem 1. August 2026 vollständig in Kraft treten, gibt es bereits vorab verpflichtende Anforderungen, die Unternehmen betreffen. Kapitel 1 und 2 des AI Acts müssen bereits bis zum 2. Februar 2025 umgesetzt werden. Das bedeutet, dass Unternehmen bis zu diesem Datum sicherstellen müssen, dass sie den Anforderungen zur Kompetenzpflicht und anderen ersten Regelungen gerecht werden.
Zentrale Pflichten gemäß AI Act
Artikel 4 – Kompetenzpflicht: Artikel 4 des AI Acts stellt die Grundlage für die Schulungspflicht und damit eine der zentralen Verpflichtungen dar, die Unternehmen betreffen. Anbietende und Betreibende von KI-Systemen sind verpflichtet, sicherzustellen, dass ihre Mitarbeitenden und alle Dritten, die mit diesen Systemen arbeiten oder Zugang zu ihnen haben, über die erforderlichen Fachkenntnisse und Kompetenzen verfügen. Hierzu müssen sie ein Konzept entwickeln. Der AI Act verlangt somit nicht nur die technische Eignung der eingesetzten KI-Systeme, sondern auch die Qualifikation der Personen, die diese Systeme bedienen oder überwachen.
Die Verantwortung für die Umsetzung dieser Maßnahmen liegt also bei der Unternehmensleitung, die dafür sorgen muss, dass geeignete Schulungsprogramme entwickelt und rechtzeitig durchgeführt werden. Diese Schulungen müssen regelmäßig aktualisiert werden, um mit den fortschreitenden Entwicklungen in der Technologie sowie den rechtlichen Anforderungen Schritt zu halten.
Kompetenzanforderungen für Niedrigrisiko-KI-Systeme
Es gibt für KI-Systeme mit niedrigem Risiko – wie etwa Chatbots oder Empfehlungssysteme – Anforderungen, die beachtet werden müssen:
- Transparenzpflichten: Diese Systeme müssen den Nutzenden eindeutig zeigen, dass sie mit einer KI interagieren. Daher müssen Mitarbeitende, die mit diesen Systemen arbeiten, die grundlegenden Anforderungen an Transparenz verstehen und umsetzen können.
- Haftungs- und Sorgfaltspflichten: Auch bei Systemen mit niedrigem Risiko sind Unternehmen verpflichtet, dafür zu sorgen, dass diese Systeme sicher und im Einklang mit den geltenden Vorschriften eingesetzt werden. Das erfordert grundlegende Schulungen im Datenschutz, in ethischen Fragen und zu möglichen fehlerhaften Ergebnissen.
Artikel 5 – Verbot bestimmter KI-Systeme: Ein weiterer wichtiger Punkt des AI Acts ist das Verbot bestimmter KI-Systeme, die als besonders risikobehaftet eingestuft werden. Ab Februar 2025 dürfen diese Systeme nicht mehr eingesetzt werden, denn bei Verstößen gegen diese Regelung drohen empfindliche Bußgelder von bis zu 35 Millionen Euro. Unternehmen müssen daher sicherstellen, dass sie alle KI-Systeme, die sie verwenden, regelmäßig auf die Einhaltung dieser Bestimmungen überprüfen.
Nutzung von General-Purpose-AI-Systemen im Handel
Ein zunehmend relevantes Thema für Handelsunternehmen ist der Einsatz von General Purpose AI (GPAI), auch als Basismodelle bekannt. Diese KI-Systeme haben einen allgemeinen Verwendungszweck und können für verschiedene Aufgaben im Unternehmen eingesetzt werden. Es handelt sich dabei um die am meisten verbreiteten KI-Systeme. Ein Beispiel für ein solches System ist ChatGPT.
Unternehmen, die GPAI-Systeme verwenden, müssen sicherstellen, dass sie den rechtlichen Anforderungen des AI Acts entsprechen, insbesondere in Bezug auf die Sicherheit und Transparenz der Systeme. Die Bewertung des Risikos sowie die Dokumentation der Funktionsweise dieser Systeme sind dabei entscheidend.
Rechtliche Aspekte
Neben den ethischen und datenschutzrechtlichen Fragen müssen Handelsunternehmen, die KI einsetzen, auch arbeitsrechtliche und urheberrechtliche Bestimmungen beachten.
Diskriminierungsfreiheit
- KI-Systeme im Recruiting-Prozess müssen regelmäßig auf Diskriminierungen geprüft werden, da KI auf historischen Daten basiert und diese möglicherweise unbewusste Vorurteile reproduzieren könnte.
Datenschutz
- KI-Systeme dürfen nicht zur alleinigen Entscheidungsfindung in sensiblen Bereichen wie dem Bewerbungsprozess verwendet werden. Menschen müssen immer den Entscheidungsprozess aktiv begleiten.
Urheberrecht
- KI-generierte Inhalte müssen im Hinblick auf Urheberrechte und Markenrechte genau geprüft werden, da die Nutzung solcher Inhalte potenziell in Konflikt mit bestehenden Rechten stehen kann. Weiterführende Hinweise zu KI und Urheberrecht finden Sie in unserem Onlinemagazin HANDEL.INSIGHT.
Was sollten Sie jetzt tun?
Im Rahmen des AI Acts (Artikel 4) werden spezifische Anforderungen an Schulungen gestellt:
Relevanz der Schulung
Die Schulung muss auf den konkreten Einsatz von KI-Systemen im Unternehmen abgestimmt sein. Dies bedeutet, dass die Inhalte der Schulung die spezifischen Funktionalitäten und Risiken der verwendeten KI-Systeme abdecken müssen. Je nach Risikoklassifikation des Systems (z.B. hochriskante oder niedrigrisikante KI-Systeme) können unterschiedliche Schulungsinhalte erforderlich sein.
Zielgruppenorientierung
Die Schulung muss zielgruppenorientiert gestaltet werden. Das heißt, sie muss sich an die unterschiedlichen Bedürfnisse und Aufgaben der Mitarbeitenden anpassen. Mitarbeitende haben möglicherweise unterschiedliche Anforderungen an die Schulung.
Berücksichtigung der KI-Risiken
Eine wirksame Schulung muss auch die spezifischen Risiken berücksichtigen, die mit dem Einsatz von KI-Systemen verbunden sind. Diese umfassen unter anderem:
- Bias in den Algorithmen und wie man diese erkennt und vermeidet;
- Datenschutz-Bestimmungen, um sicherzustellen, dass KI-Systeme im Einklang mit der Datenschutz-Grundverordnung (DSGVO) verwendet werden;
- Transparenz und Nachvollziehbarkeit der Entscheidungen, die von KI-Systemen getroffen werden;
- Ethische Fragestellungen, insbesondere im Hinblick auf die Fairness und Verantwortlichkeit von KI-Systemen.
Praxisorientierung
Die Schulung sollte praxisorientiert sein, sodass Mitarbeitende in der Lage sind, das erlernte Wissen direkt anzuwenden. Dies könnte durch Fallstudien, praktische Übungen oder Simulationen erfolgen, die reale Anwendungsfälle widerspiegeln und den Mitarbeitenden helfen, sich in der praktischen Anwendung von KI sicher zu fühlen.
Fortlaufende Schulungen und Aktualisierungen
Da KI-Technologien schnell voranschreiten und sich die rechtlichen Rahmenbedingungen ständig weiterentwickeln, sollte die Schulung regelmäßig aktualisiert und fortlaufend angeboten werden. Dabei liegt ein Augenmerk auf der technologischen Weiterentwicklung der Systeme, den regulatorischen Anforderungen und Gesetzesanpassungen sowie der Auffrischung des Wissens.
Dokumentation der Schulungsmaßnahmen
Um den gesetzlichen Anforderungen des AI Act gerecht zu werden, müssen Unternehmen in der Lage sein, die durchgeführten Schulungsmaßnahmen zu dokumentieren. Diese Dokumentation ist erforderlich, um im Falle einer Überprüfung nachweisen zu können, dass alle Mitarbeitenden über die notwendigen Fachkenntnisse im Umgang mit KI-Systemen verfügen. Dazu gehören:
- Teilnehmendenlisten der Schulungen,
- Inhalte der Schulungen,
- Zeitrahmen und Häufigkeit der Schulungen,
- Bewertungen oder Zertifikate der Mitarbeitenden nach Abschluss der Schulungen.
Qualität der Schulung
Die Schulungen im Sinne des Artikels 4 AI Act sollten von qualifizierten Fachleuten durchgeführt werden, die sowohl über Fachwissen in der KI-Technologie, als auch in den relevanten rechtlichen und ethischen Fragen verfügen. Zudem sollte die Schulung auf einem wissenschaftlich fundierten Wissen basieren und sich auf die neuesten Best Practices und Standards stützen.
2. Interne Richtlinien zur KI-Nutzung: Unternehmen sollten klare, unternehmensweite Richtlinien (Guidelines) entwickeln, die den verantwortungsvollen Einsatz von KI-Technologien regeln und die Einhaltung der rechtlichen Vorgaben sicherstellen.
3. Anwaltliche Beratung: Um eine rechtlich einwandfreie Nutzung von KI-Systemen sicherzustellen, ist es ratsam, rechtlichen Beistand hinzuzuziehen, insbesondere bei der Umsetzung von Compliance-Maßnahmen und bei der Beurteilung von Haftungsrisiken.
Fazit
Der AI Act stellt Unternehmen vor neue Herausforderungen, bietet jedoch gleichzeitig Chancen, KI verantwortungsbewusst zu nutzen. Die Kompetenzpflicht ist eine zentrale Grundlage der Schulungspflicht und spielt eine Schlüsselrolle, um den rechtlichen Anforderungen gerecht zu werden und KI-Systeme sicher und effektiv einzusetzen. Unternehmen sollten sich frühzeitig mit den Vorschriften vertraut machen und sicherstellen, dass ihre Mitarbeitenden über das notwendige Wissen verfügen, um den Anforderungen des AI Acts gerecht zu werden.
Ihr Ansprechpartner
- 06Mai 2025, Di.
AI-Act – Auswirkungen auf den Handel: Online & Offline!
10:00 - 11:30 UhrDigital kostenfreiDer Einsatz von ChatGPT und ähnlicher Systeme erfordert jetzt Maßnahmen – auch im Handel. - 05Feb 2025, Mi.
Erlebnismarketing: Kuninnen und Kunden mit Interaktion im stationären Handel begeistern
10:00 - 11:00 UhrDigital kostenfreiDas Mittelstand-Digital Zentrum Handel bietet ein Online-Seminar zum Thema Erlebnismarketing an. Im Seminar wird Ihnen erklärt auf welche Art sich Kunden begeistern lassen, was Erlebnismarketing überhaupt ist und wie Sie es als stationärer Handelsbetrieb nutzen können. - 20März 2025, Do.
Das BFSG* kommt! Wer ist betroffen und was ist zu tun?
10:30 - 11:30 UhrDigital kostenfreiDas *Barrierefreiheitsstärkungsgesetz tritt am 28.06.2025 in Kraft. Was bedeutet das? In unserem zweiten Webinar zu diesem Thema wollen wir das Thema praxisnah vertiefen. - 11März 2025, Di.
Ausbildung Kauffrau/Kaufmann im E-Commerce
10:30 - 12:00 UhrDigital kostenfreiMit diesem Webinar richten sich handel.digital, die IHK Kassel-Marburg und die Modellschule Obersberg an Ausbildungsbetriebe und interessierte Unternehmen.
handel.ai | Künstliche Intelligenz auch für kleine und mittelständische Handelsunternehmen relevant
21.11.2024Digitalisierung, E-CommerceAuch in diesem Jahr haben wir Handelsunternehmen durch Vorträge und eine Expo-Ausstellung die Potenziale der Digitalisierung und Künstlichen Intelligenz (KI) aufgezeigt. Dabei wurde deutlich, dass KI nicht ausschließlich großen Unternehmen vorbehalten ist. Insbesondere kleine und mittelständische Handelsunternehmen können von ihren Anwendungen profitieren, um Prozesse zu optimieren, schneller zu reagieren und sich zukunftssicher aufzustellen.Digital-Gipfel 2024: Handelsverband Hessen setzt auf verantwortungsvolle und bürokratiearme Weiterentwicklung von Künstlicher Intelligenz
22.10.2024Digitalisierung, KI, PressemitteilungDer Handelsverband Hessen war mit seiner Kampagne handel.digital Teil des Digital-Gipfels 2024 der Bundesregierung. Der Handelsverband Hessen begrüßt die verantwortungsvolle Weiterentwicklung von Künstlicher Intelligenz (KI) und setzt sich für eine praxisnahe und bürokratiearme Umsetzung des AI-Acts in Deutschland und der EU ein.Learnings aus dem DIGI-Impuls: Aufgaben vereinfachen mit Künstlicher Intelligenz
10.07.2024Digitalisierung, E-Commerce, KIAm Donnerstag, den 4. Juli 2024, fand in der Erlebnisfiliale Globetrotter Frankfurt der DIGI-Impuls zum Thema “Effiziente Handelspraxis: Aufgaben vereinfachen mit KI und IoT” statt. Die Learnings aus dieser Veranstaltung haben wir hier für Sie zusammengefasst.Elektroaltgeräte und Batterien: Rücknahmepflicht erweitert
18.06.2024Digitalisierung, Europa, NachhaltigkeitDie Rücknahmepflichten werden verschärft für Vertreiber von Elektrogeräten. Die Pflicht zur Rücknahme von Elektroaltgeräten und Batterien dient dem Umweltschutz und der Ressourcenschonung, finden Sie raus, welche Pflichten Sie haben.
E-Rechnung: Was ändert sich 2025?
Die E-Rechnung bleibt auch 2025 weiterhin ein spannendes Thema. Ab dem 01.01.2025 ist es gemäß EN 16931 verpflichtend, elektronische Rechnungen für ausgeführte inländische B2B-Umsätze zu empfangen. Allerdings ist die Einreichung von Rechnungen als PDF-Datei und in Papierform über die bestehenden Eingangskanäle für bestimmte Übergangszeiträume weiterhin möglich und gesetzlich zulässig. Erst mit der finalen Umstellung auf die E-Rechnung fällt diese Möglichkeit weg. Nachfolgend finden Sie weitere Informationen um den Übergang zur E-Rechnung problemlos gestalten zu können und um alle Fristen im Auge zu behalten.
GPSR: Neue Produktsicherheitsverordnung gültig ab Dezember 2024
Im Mai 2023 hat die EU die neue Verordnung 2023/988 zur allgemeinen Produktsicherheit im Europäischen Amtsblatt veröffentlicht. Diese Verordnung, bekannt als GPSR (General Product Safety Regulation), wird nach einer Übergangsfrist von 18 Monaten am 13. Dezember 2024 die bisherige Richtlinie ablösen und unmittelbar in allen EU-Mitgliedsstaaten in Kraft treten. Die neue Produktsicherheitsverordnung 2023/988 soll sicherstellen, dass in der EU weiterhin nur sichere Produkte verkauft werden. Sie berücksichtigt die Herausforderungen der Digitalisierung und den wachsenden Online-Handel und führ deshalb neue Anforderungen ein. Dieser Artikel gibt Ihnen einen umfassenden Überblick über die Änderungen und deren Bedeutung für den Markt.
Smarte Strategien für Sortimente und Personalplanung
KI-gesteuerte Lösungen ermöglichen es Handelsunternehmen, durch präzise Wetterprognosen und Datenanalysen nachhaltiger zu agieren, Ressourcen zu schonen und Kosten bei der Klimaanpassung zu senken, wie Andreas Bartmann von Globetrotter erläutert.
Best Practices für Passwort-Policies
In unserer zunehmend digitalisierten Welt gehören Passwörter zu den wichtigsten Schutzmechanismen, um sensible Daten und Systeme vor unbefugtem Zugriff zu bewahren. Dennoch benutzen viele Menschen weiterhin schwache oder leicht zu erratende Passwörter, was eine enorme Sicherheitslücke darstellt. Cyberkriminelle nutzen genau diese Schwachstellen gezielt aus und setzen dabei oft auf automatisierte Tools, die Millionen von Passwortkombinationen in kürzester Zeit durchprobieren. Mit einfachen, aber effektiven Maßnahmen können Unternehmen jedoch ihre Passwortsicherheit deutlich erhöhen und sich vor Angriffen schützen
