Certyfikacja i zabezpieczenia KI z perspektywy przedsiębiorstw

Whitepaper »Certyfikacja i zabezpieczenia AI w kontekście UE AI Act« jest dostępny bezpłatnie w Internecie pod adresem https://doi.org/10.24406/publica-1875

Wykorzystanie sztucznej inteligencji (SI) w środowisku prywatnym i zawodowym rośnie nieustannie. Jednocześnie na poziomie europejskim dyskutuje się o regulacjach poprzez certyfikację i zabezpieczenie SI. Instytuty Fraunhofer IAO i IPA przeanalizowały zatem obowiązujące środki regulacyjne i podsumowały wymagania oraz potrzeby ze strony przedsiębiorstw w nowym dokumencie whitepaper.

W ostatnich latach znaczenie sztucznej inteligencji (SI) znacznie wzrosło zarówno w życiu prywatnym, jak i zawodowym. SI ma potencjał, aby przemienić liczne branże i obszary naszej społeczności, poprawiając efektywność i jakość w różnych zastosowaniach. Jednakże związane są z tym również poważne ryzyka i niepewności, takie jak błędy algorytmiczne, ryzyko odpowiedzialności, dyskryminacja i naruszenia prywatności. Jeśli systemy oparte na SI nie będą opracowywane, obsługiwane i testowane zgodnie z jednolitymi standardami bezpieczeństwa, mogą one zagrozić bezpieczeństwu produktów i usług.

Aby przeciwdziałać tym wyzwaniom, Unia Europejska (UE) w 2021 roku przedstawiła projekt ustawy dotyczącej AI UE, której celem jest regulacja SI. W czerwcu 2023 roku Komisja Europejska i Parlament Europejski osiągnęły porozumienie w sprawie propozycji i obecnie negocjują jej wdrożenie z państwami członkowskimi UE. Ustawa AI, jako kluczowy element certyfikacji i zabezpieczenia SI, ma również kluczowe znaczenie dla Parku Innowacji Sztucznej Inteligencji, który buduje największy w Europie ekosystem rozwoju SI. »W naszym ekosystemie Ipai chcemy wspierać zastosowania SI, które są nie tylko innowacyjne i efektywne, ale także bezpieczne i etycznie odpowiedzialne. Praktyczne zrozumienie standardów UE wynikających z ustawy AI w zakresie zabezpieczenia SI pomaga nam i naszym członkom podjąć wszystkie niezbędne środki« – podkreśla Moritz Gräter, CEO Ipai.

W ramach przygotowań do nadchodzącej ustawy AI UE, Instytut Fraunhofer ds. Gospodarki Pracy i Organizacji IAO oraz Instytut Fraunhofer ds. Technologii Produkcji i Automatyzacji IPA przeanalizowały perspektywę przedsiębiorstw. Zespół badawczy zebrał aktualny stan regulacji prawnych dotyczących zabezpieczenia SI. Na podstawie wyników wywiadów z ekspertami zdefiniowano również wymagania ze strony przedsiębiorstw, instytucji badawczych i edukacyjnych dotyczące wdrożenia procesów certyfikacji i zabezpieczenia systemów SI.

Brak wytycznych dotyczących zabezpieczenia SI jako czynnik niepewności dla przedsiębiorstw

Zgodnie z aktualnym projektem ustawy UE AI, przewiduje się, że zastosowania SI będą klasyfikowane według różnych poziomów ryzyka i poddawane różnym wymogom. Operatorzy systemów SI o wysokim ryzyku będą zobowiązani do samodzielnego sprawdzenia zgodności z tymi wymogami w ramach samooceny i będą mogli używać znaku CE jako certyfikatu. Obowiązkowe kontrole przez strony trzecie mają być konieczne tylko w szczególnych obszarach, takich jak technologia medyczna.

Chociaż te wymagania bardzo jasno określają, jak powinna wyglądać zgodna z ustawą UE AI implementacja SI, obecnie nie wiadomo jeszcze, jak to osiągnąć. Brakuje konkretnych działań w zakresie weryfikacji spełnienia wymogów. »Przedsiębiorstwa mają np. trudności z oceną, w jakich warunkach ich zastosowanie SI jest wystarczająco przejrzyste lub jaka tolerowana jest stopa błędów«, wyjaśnia Janika Kutz, kierowniczka zespołu w Centrum Badawczo-Innowacyjnym Kognitywnych Systemów Usług KODIS Fraunhofer IAO. Podobnie obawiają się, że koszty certyfikacji, zwłaszcza zasoby start-upów oraz małych i średnich przedsiębiorstw, mogą przekraczać ich możliwości. Obawia się się, że konieczna będzie wiedza prawnicza do pełnego i poprawnego wdrożenia wymogów, co może wydłużyć czas i zwiększyć koszty rozwoju, uniemożliwiając europejskim firmom konkurowanie na arenie międzynarodowej.

Przedsiębiorstwa formułują jasne wymagania dotyczące certyfikacji SI

Jednym z kluczowych wyników wywiadów jest to, że certyfikacja musi być możliwa do wdrożenia dla przedsiębiorstw każdej wielkości. Certyfikacja i zabezpieczenie każdego zastosowania jest czasochłonne i wymaga dużych zasobów, dlatego firmy jasno określają wymagania dotyczące regulacji zabezpieczenia SI. Szczególnie ważne są takie aspekty jak przejrzystość i wykonalność procesów certyfikacyjnych, jasne role organów i instytucji oraz zachowanie innowacyjności. »Przedsiębiorstwa biorące udział w badaniu zgadzają się, że w procesie certyfikacji SI najważniejsza powinna być wartość dodana dla końcowego użytkownika«, podsumowuje Prof. Dr. Marco Huber, kierownik działu Cyber Cognitive Intelligence w Fraunhofer IPA.

Zapotrzebowanie na zewnętrzne wsparcie dla przedsiębiorstw

Na podstawie wypowiedzi ankietowanych, wydaje się, że większość firm nie jest wystarczająco przygotowana na nadchodzące regulacje wynikające z ustawy UE AI. Firmy mogą skorzystać z informacji, transferu wiedzy oraz budowania sieci kontaktów, a także są zainteresowane indywidualnymi ofertami doradczymi oraz praktycznymi metodami i narzędziami wspierającymi zabezpieczenie i certyfikację systemów SI. Dzięki ciągłej wymianie informacji między organami regulacyjnymi, przemysłem, instytucjami badawczymi i szeroką opinią publiczną można wypracować kompleksowe zrozumienie szans i wyzwań związanych z wykorzystaniem SI. Ostatecznie przyczyni się to do rozwoju systemów SI, które będą bardziej skuteczne, bezpieczniejsze i bardziej praktyczne.

Whitepaper „Certyfikacja i zabezpieczenie SI w kontekście ustawy UE AI” jest dostępny bezpłatnie online pod adresem: https://doi.org/10.24406/publica-1875