Wdrażanie AI zgodnie z prawem w praktyce: Reallabor KIRR Real opracowuje przykładowe rozwiązania z zakresu AI i robotyki

Zwłaszcza robotyka w zastosowaniach bez osłony ochronnej wymaga szczególnych środków bezpieczeństwa. © Fraunhofer IPA/Foto: Rainer Bez

Na przykład temat wyjaśnialności sztucznej inteligencji za pomocą map ciepła może przyczynić się do rozwoju zgodnego z regulacjami. © Fraunhofer IPA/Fot. Rainer Bez

Cel projektu »KIRR Real: Reallabor für rechtskonforme KI und Robotik« Fraunhofer IPA i ARENA2036 było wsparcie przedsiębiorstw w Badenii-Wirtembergii w zakresie wdrażania unijnego aktu o sztucznej inteligencji (AI Act) oraz rozporządzenia UE dotyczącego maszyn, które wejdzie w życie od 2027 roku. Wyniki współpracy z 15 firmami zostały już opublikowane i służą przedsiębiorstwom z podobnymi zastosowaniami jako wskazówka dla prawidłowego rozwoju aplikacji AI i robotyki.

Czas jest pilny, jeśli chodzi o obowiązujące regulacje: od 2 sierpnia 2027 roku obowiązywać będą wymogi dla systemów AI wysokiego ryzyka jako komponentów bezpieczeństwa, a cały AI Act będzie miał zastosowanie. Również nowe rozporządzenie UE dotyczące maszyn od stycznia 2027 roku określa nowe wymagania dla systemów AI istotnych dla bezpieczeństwa i systemów samouczących się.

Regulacyjne i techniczne doradztwo dla przedsiębiorstw

KIRR Real pomógł firmom zrozumieć i wdrożyć te skomplikowane wymogi regulacyjne. W tym celu oferowano „Legal Quick Checks”, czyli krótkie, zwięzłe projekty doradcze. Kancelaria prawna zaklasyfikowała te przypadki do jednej z czterech klas ryzyka AI Act (od minimalnego do nie do przyjęcia ryzyka). Następnie Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA sprawdzał dokumentację techniczną i podstawowe koncepcje rozwoju AI, aby ocenić zgodność systemów z prawem i opracować praktyczne zalecenia działania.

Projekt trwał od 15 listopada 2024 do 31 grudnia 2025 i był finansowany przez Ministerstwo Gospodarki, Pracy i Turystyki Badenii-Wirtembergii. W konsorcjum współpracowały Fraunhofer IPA i Campus Badawczy ARENA2036, wspierane przez kilku partnerów stowarzyszonych. Głównym celem projektu było zbadanie, jak dobrze przedsiębiorstwa w Badenii-Wirtembergii są przygotowane na AI Act i rozporządzenie o maszynach, jak te dwa akty współgrają i nakładają się na siebie, oraz gdzie jeszcze występują bariery w regulacji AI.

Wnioski z projektu dostarczają impulsów do praktycznego wdrażania i dalszego rozwoju regulacji AI oraz są aktywnie odzwierciedlane w procesie ustawodawczym, np. poprzez udział w gremiach normatywnych, regularną wymianę informacji z Federalną Agencją Sieci (Bundesnetzagentur), Federalnym Instytutem Bezpieczeństwa i Higieny Pracy (BAuA) oraz warsztaty z Federalnym Ministerstwem Pracy i Spraw Socjalnych. Wyniki projektu mają także wpływ na kształtowanie reallaborów przewidzianych w AI Act.

Podnoszenie świadomości o wymogach regulacyjnych

W trakcie projektu opracowano 15 przypadków zastosowań AI z obszarów takich jak produkcja, roboty humanoidalne, opieka zdrowotna i zarządzanie personelem. Nawet firmy z zaawansowaną technologią AI potrzebowały wsparcia w zakresie wdrażania AI Act. W rozmowach okazało się również, że świadomość nadchodzących regulacji często jest niewystarczająca. W praktyce stosowania AI Act często rozpatrywano albo wymogi prawne, albo techniczne. Oba aspekty i wczesne zajmowanie się regulacją AI są jednak kluczowe dla skutecznej realizacji zastosowań.

Wyzwania przy wdrażaniu aktów prawnych

Zwłaszcza klasyfikacja do klas ryzyka stanowi wyzwanie dla firm. Ta klasyfikacja jest kluczowa dla planowania zasobów, ale czasami nie jest jednoznacznie określona i silnie zależy od szczegółów przypadku zastosowania. W związku z tym nie zawsze można się opierać na podobnych przypadkach.

Brak ujednoliconych standardów skutkuje tym, że więcej systemów AI musi przejść certyfikację przez osoby trzecie. W odniesieniu do rozporządzenia o maszynach wielu ekspertów wskazuje na potrzebę wyjaśnienia, co dokładnie oznacza system o „samorozwijającym się zachowaniu”.

Kolejnym tematem jest techniczne wdrożenie wymogów. Wiele firm zadaje pytania, takie jak: Jak należy udokumentować dowody? Jak obszerna powinna być dokumentacja? Kiedy AI jest częścią maszyny? Również niejasności związane z obsługą wielu obowiązujących regulacji często wywołują obawy przed niepotrzebnym dodatkowymi kosztami. Ponadto wiele firm nie rozwija systemów AI w pełni samodzielnie, lecz korzysta z istniejących modeli AI typu general-purpose, co utrudnia dostarczenie wymaganych dowodów. Dotychczasowe wytyczne i wsparcie rzadko uwzględniały tę praktykę.

Wdrażanie AI w robotach i innych maszynach stanowi kolejne wyzwanie związane z nowym rozporządzeniem o maszynach: firmy muszą nie tylko przestrzegać nowych zasad dotyczących AI w funkcjach bezpieczeństwa, ale także w ciągu najbliższych dwunastu miesięcy dostosować swoje istniejące produkty do nowych wymogów.

Zalecenia z reallabora

Doświadczenia z KIRR Real pokazują, że choć niektóre firmy zajmują się regulacjami, to jednak istniejące niejasności, duża liczba obowiązujących regulacji i brak ujednoliconych standardów stanowią poważne problemy.

Potrzebne są konkretne, praktyczne i łatwe do wdrożenia wytyczne oraz ustrukturyzowane podejścia, które można wdrożyć już na wczesnym etapie rozwoju. Zwłaszcza zespoły zajmujące się rozwojem AI, niezależnie od wielkości firmy, często są małe i mają trudności z pokryciem wymaganych nakładów. Wsparcie (np. reallabory) powinno być jak najłatwiej dostępne, aby przynosiło realną wartość. Firmy powinny także otrzymywać wsparcie już na wczesnych etapach rozwoju, na przykład poprzez ocenę prawną zastosowania, warsztaty lub doradztwo podczas tworzenia systemu.

Fraunhofer IPA będzie nadal gromadzić wnioski z projektu i aktywnie wykorzystywać je w procesie ustawodawczym oraz do bezpośredniej współpracy z przedsiębiorstwami. Firmy mogą kontaktować się z naszymi ekspertami. Celem jest dalszy praktyczny rozwój regulacji AI i jak najlepsze wsparcie przedsiębiorstw w Badenii-Wirtembergii.